Care e pragul în care AI-ul ar putea depăşi inteligenţa umană şi s-ar putea pierde controlul? Ce spune un cercetător

Cercetătorul Sebastian Fitzek a atras un semnal de alarmă, într-o intervenţie la postul B1 TV, privind ritmul accelerat de dezvoltare al inteligenţei artificiale şi riscurile pe care aceasta le poate aduce pe termen mediu şi lung.

Expertul a afirmat că, deşi scenariul „singularităţii” rămâne unul teoretic, dependenţa tot mai mare de sistemele AI în domenii esenţiale precum sănătatea, finanţele sau securitatea cibernetică ar putea duce treptat la o erodare a controlului uman.

Sebastian Fitzek a opinat că adevăratul pericol nu este un scenariu spectaculos de tip science-fiction, ci integrarea invizibilă şi masivă a AI în infrastructurile societăţii, fără un cadru de reglementare adaptat ritmului tehnologic.

Redăm mai jos intervenţia cercetătorului.

Jurnalist: Inteligenţă artificială evoluează într-un ritm fără precedent, iar tot mai mulţi experţi vorbesc despre apropierea unui moment considerat până acum ficţiune. Este vorba despre singularitate. Este pragul în care AI-ul ar putea depăşi definitiv inteligenţa umană şi ar începe să se autodezvolte dincolo de controlul creatorilor săi.

Modelele AI deja au ajuns într-un punct în care se autoperfecţionează şi sunt capabile să înveţe, să genereze conţinut şi să îşi optimizeze performanţele. Aşadar, cât de aproape suntem de o tehnologie pe care nu o vom mai putea controla este o întrebare foarte bună, la care încercăm să aflăm răspunsul în cele ce urmează.

Foarte interesant acest moment de care înţelegem că ne apropiem cu paşi repezi. Dă-ne detalii, pentru că ne dă fiori această veste.

Sebastian Fitzek: Da, aici m-aş gândi puţin cu prudenţă la ideea de singularitate, pentru că singularitatea e mai degrabă un concept teoretic destul de puternic, dar nu avem astăzi un instrument ştiinţific care să ne spună la data cutare sau exact când AI-ul devine irevocabil superior omului, pentru că despre asta este vorba în acel moment al singularităţii, şi vedem că acest lucru încă ne scapă. Îl intuim.

Ce putem spune însă este altceva. Ritmul de dezvoltare este fantastic. Stanford AI Index arată că în 2024 performanţele AI au crescut spectaculos, pe benchmark-uri foarte dificile. De exemplu, dacă ne gândim la SWE-bench, care testează rezolvarea unor probleme reale de programare, sistemele AI au urcat de la 4,4% în 2023 la 7,1% în 2024. Pentru 2025 mai adăugăm probabil încă 30–40%.

Deci asta nu înseamnă conştiinţă artificială, dar înseamnă accelerare reală a capacităţilor tehnice. Pericolul real nu este, cum vreau să spun, partea aceasta care sigur ne fascinează, ci infrastructura invizibilă care devine indispensabilă.

Şi aici trebuie să vedem exact ce se va întâmpla în următoarele luni, pentru că acum se investeşte enorm de mult în infrastructură, care probabil într-un an-doi va fi, să zicem, aproape gata şi atunci vom vedea cu adevărat aceste schimbări şi se vor vedea, evident, la nivel social destul de puternic.

Jurnalist: Şi momentul acesta de singularitate când ar putea ajunge? Adică momentul în care AI-ul pur şi simplu nu mai poate fi controlat de către oameni.

Sebastian Fitzek: Da, şi este o întrebare extrem de legitimă acum, în momentele astea. Cred că e foarte important să evităm două extreme.

Pe de o parte, panica de tip science-fiction, care ne fascinează şi în care mâine dimineaţă AI-ul preia, de pildă, lumea, cum spuneţi dumneavoastră. Şi, pe de altă parte, ideea că totul este complet sub control şi nu există niciun risc. Deci realitatea, evident, este foarte complexă.

Nu cred că vom avea neapărat un moment teatral în care cineva apasă un buton şi oamenii pierd instant controlul. Dar mai probabil e un proces gradual în care devenim atât de dependenţi de aceste sisteme, încât controlul uman real începe să se erodeze. Cu siguranţă se întâmplă asta. De exemplu, dacă infrastructura financiară, comunicaţiile, sănătatea sau chiar securitatea cibernetică încep să depindă masiv de AI, atunci chiar şi o eroare sau o manipulare poate avea efecte sistemice foarte mari.

Jurnalist: Dar, este în regulă să se întâmple asta? Pentru că, apropo de realitatea SF-ului despre care vorbeai tu, nu putem să nu ne uităm la nişte filme care s-au proiectat exact pe acest model, care nu au un deznodământ prea fericit. Şi atunci întrebarea firească e: este în regulă ca noi, omenirea, să dăm frâu liber imaginaţiei inteligenţei artificiale?

Sebastian Fitzek: Da, categoric, acest lucru. Deci deja, cum să spun, filmele sunt la noi în realitate, la noi acasă. Categoric, imaginaţia noastră este ceea ce prevede exact viitorul apropiat. Dar este în regulă să dăm acest frâu liber, însă nu cred că soluţia este să oprim cercetarea sau să ne speriem.

Cred că libertatea de inovare aici a crescut enorm datorită AI-ului. Inclusiv această libertate a inovării datorită AI-ului ne hrăneşte imaginaţia în continuare. Probabil că următoarele filme SF vor merge la nişte limite inimaginabile până acum.

Filmele ne ajută pentru că exprimăm fricile noastre colective şi este o formă, sigur, de buşeu ca să zic aşa, faţă de viitorul care s-a apropiat foarte mult.

Filmele SF de odinioară sunt acum deja, o parte din ele, realitate. Dar realitatea este mai puţin cinematografică şi este, hai să zicem, mai administrativă.

Deci riscul nu e doar că apare un AI malefic, dar riscul este că introducem sisteme foarte puternice în sănătate, în educaţie, în securitate, în justiţie. Şi aici avem foarte multe dileme, avem încă foarte multe probleme de natură etică. Avem foarte multe ecuaţii necunoscute. Şi aş spune aşa: AI-ul trebuie lăsat să ne ajute să descoperim soluţiile, medicamentele, să accelerăm cercetarea, să reducem birocraţia.

Educaţia, aici e o mare dilemă: cum vor fi educate noile generaţii în condiţiile în care au acces toţi la ChatGPT. Dar, sigur, nu trebuie lăsaţi să decidă singuri în zone. Adică să mergem doar în mersul acestei forţe, fără să ne punem întrebările critice, fără să dezvoltăm o gândire critică la nivel de educaţie, de generaţii tinere până la experţi. Şi aici, sigur, că avem foarte mult de lucru.

Şi nu doar imaginaţia AI-ului este, să zicem, în sine o necunoscută. Problema e imaginaţia noastră instituţională, aici trebuie să lucrăm foarte atent. Şi dacă nu reuşim să construim reguli acum, la timp, într-o viteză la fel de mare cum se dezvoltă AI-ul, sigur că vom avea probleme destul de serioase.