CEO-ul Anthropic avertizează asupra unui "tsunami" la orizont

Săptămâna aceasta, CEO-ul Anthropic, Dario Amodei, a avertizat asupra unui „tsunami” iminent al inteligenţei artificiale care va zgudui societatea umană pe măsură ce tehnologia va depăşi inteligenţa umană.

El sugerează că, dacă nu îl credeţi, pur şi simplu vă minţiţi singuri.

„Mă surprinde că suntem, din punctul meu de vedere, atât de aproape ca aceste modele să atingă nivelul inteligenţei umane şi totuşi nu pare să existe o recunoaştere mai largă în societate a ceea ce urmează să se întâmple”, a spus Amodei într-un interviu cu investitorul indian Nikhil Kamath, într-un episod al podcastului WTF.

„Este ca şi cum acest tsunami vine spre noi şi este atât de aproape încât îl putem vedea la orizont. Şi totuşi oamenii vin cu aceste explicaţii: «oh, nu este de fapt un tsunami… este doar un joc al luminii»”, a profeţit el, potrivit Futurism

Comentariile lui Amodei fac ecou predicţiilor îndrăzneţe şi adesea sumbre promovate de liderii din industria AI.

CEO-ul OpenAI, Sam Altman, a fost frecvent deschis în a afirma că AI va elimina categorii întregi de locuri de muncă. CEO-ul AI al Microsoft a avertizat că practic toate sarcinile de birou vor fi automatizate de agenţi AI în decurs de un an şi jumătate. Amodei a avertizat că AI va elimina jumătate dintre locurile de muncă de nivel de intrare din sectorul „white collar”.

Deşi aceste afirmaţii pot părea dăunătoare la prima vedere, ele întăresc o atitudine fatalistă faţă de tehnologie, sugerând că este inevitabil ca aceasta să se îmbunătăţească.

Dar dacă un tsunami AI se apropie într-adevăr, aşa cum susţine Amodei, atunci Anthropic are un rol major în producerea lui. Lansarea recentă a agentului său AI Claude Cowork a declanşat o vânzare masivă a acţiunilor companiilor software, care s-a propagat în întreaga piaţă bursieră şi a şters sute de miliarde de dolari.

Compania îşi antropomorfizează, de asemenea, puternic modelele AI prin iniţiative precum permiterea acestora să-şi împărtăşească „reflecţiile” pe propriul Substack şi prin sugerarea constantă a posibilităţii că ar putea fi deja conştiente. Acest lucru inoculează ideea că tehnologia este pe drumul inevitabil către a deveni o inteligenţă generală artificială atotputernică sau, în terminologia preferată recent în industrie, o „superinteligenţă” AI.

Tsunami sau nu, comentariile lui Amodei apar într-un moment destul de agitat pentru companie. Săptămâna aceasta, aceasta a abandonat una dintre promisiunile sale centrale de siguranţă, potrivit căreia nu va antrena sau lansa un model AI pentru care nu poate garanta măsuri de protecţie adecvate, subminând însăşi raţiunea sa de a exista. Decizia a fost luată pe fondul presiunilor din partea Pentagonului de a relaxa restricţiile privind modul în care sunt utilizate sistemele sale AI sau de a risca pierderea unui contract de apărare de 200 de milioane USD.

Deşi Anthropic s-a poziţionat drept vocea responsabilă şi orientată spre siguranţă din industrie, acum nu pare mai puţin ipocrită decât competitorii săi atunci când îşi exprimă îngrijorarea faţă de impactul tehnologiei asupra societăţii.

„Nu a existat o conştientizare adecvată a riscurilor tehnologiei şi cu siguranţă nu a existat acţiune”, a spus Amodei în timpul recentei sale apariţii la podcast.