Sam Altman în modul de control al daunelor, în timp ce utilizatorii ChatGPT îşi anulează în masă abonamentele deoarece OpenAI „antrenează o maşină de război”
OpenAI tocmai i-a oferit unuia dintre cei mai mari rivali ai săi o victorie masivă în materie de relaţii publice, printr-o gafă pe care chiar şi CEO-ul Sam Altman a recunoscut că „nu arată bine”.
Vineri, Altman a anunţat că OpenAI a ajuns la un nou acord cu Departamentul Apărării privind modul în care sistemele sale de IA vor fi implementate în cadrul armatei, un act pe care mulţi l-au considerat o încălcare a liniei de pichetare. Asta pentru că Anthropic, o companie fondată de foşti angajaţi ai OpenAI, a refuzat să cedeze cererilor Pentagonului de a permite armatei utilizarea fără restricţii a sistemului său de IA Claude, chiar dacă CEO-ul Dario Amodei a insistat că IA Anthropic nu va fi utilizată pentru arme autonome sau supravegherea în masă a cetăţenilor americani, scrie Futurism.com.
A fost o mişcare care ar putea avea un cost mare pentru Anthropic. Pentagonul a promis să excludă compania din contractele cu guvernul federal, declarând-o „risc pentru lanţul de aprovizionare” şi a ameninţat chiar că îi va confisca tehnologia.
Dar, cel puţin pe termen scurt, OpenAI este cea care se confrunta cu mai multe reacţii negative pentru decizia sa. Online, zeci de utilizatori — de la tipul obişnuit pasionat de AI până la, nu glumim, Katy Perry — spun că renunţă la ChatGPT în favoarea lui Claude din cauza acordului lui Altman cu Pentagonul. Într-adevăr, Claude a urcat în topul App Store în weekend şi, luni, încă ocupă locul întâi, deasupra ChatGPT, care se află în prezent pe locul al doilea.
Un thread recent din subreddit-ul r/ChatGPT, care îi îndemna pe utilizatori să renunţe la chatbot-ul AI, a devenit rapid una dintre cele mai apreciate postări din toate timpurile ale forumului.
„Acum antrenezi o maşină de război”, se scrie în thread. „Să vedem dovada anulării.”
Reacţia violentă vine în ciuda afirmaţiei lui Altman că acordul cu Departamentul Apărării includea aceleaşi restricţii pe care Anthropic le solicitase. Dar, în ochii multora dintre utilizatori şi critici, faptul că OpenAI a ajuns la un acord, în timp ce Anthropic a refuzat să cedeze, a fost un semn al capitulării sale în faţa unei administraţii profund nepopulare.
Etica unei companii care a fost fondată pe principii presupuse a fi benefice şi care acum permite că sistemele sale de IA să fie utilizate de armata SUA nu putea fi supusă unui test mai urgent decât cel care a avut loc la doar câteva ore după ce Altman a anunţat acordul vineri, când SUA şi Israelul au lansat o serie de atacuri mortale în Iran, care au ucis liderul Ali Khomeini şi sute de civili. (Rapoartele sugerează că Departamentul Apărării a folosit Claude pentru a selecta ţinte în Iran, ceea ce înseamnă că chiar şi poziţia principială a Anthropic ar putea fi încă o piesă de teatru din partea industriei AI.)
Între timp, Altman s-a ocupat de limitarea daunelor. După anunţarea acordului, el a găzduit o sesiune rară de întrebări şi răspunsuri pe X, unde a răspuns la întrebări despre colaborarea OpenAI cu „DoW” – referindu-se la „Departamentul de Război”, denumirea preferată de administraţia Trump pentru Departamentul Apărării – iar respondenţii nu s-au abţinut.
„Cum aţi trecut de la „un instrument pentru îmbunătăţirea rasei umane” la „să colaborăm cu departamentul de RĂZBOI”?”, a întrebat un utilizator. Un altul l-a ironizat pe Altman intrebandu-l dacă este fericit că Claude a depăşit ChatGPT în App Store. „Nu”, a recunoscut Altman.
Una dintre cele mai presante întrebări se referea la ce ar face OpenAI dacă Departamentul Apărării ar emite ordine care încalcă constituţia sau ar încerca să efectueze supraveghere internă în masă. Răspunsul lui Altman a fost că OpenAI ar refuza orice astfel de ordine, chiar dacă asta ar însemna închisoarea. („Vă rog să mă vizitaţi în închisoare, dacă este necesar”, a glumit el.)
Dar el a dat dovadă şi de o încredere oarbă că acest lucru nu va fi niciodată o problemă, lăudând, mai mult sau mai puţin, virtuţile forţelor armate. Altman a afirmat că „oamenii din armata noastră sunt mult mai dedicaţi constituţiei decât o persoană obişnuită de pe stradă” şi a citat fără critică o declaraţie a unui oficial al Departamentului Apărării care a jurat că nu va încălca niciodată libertăţile civile ale americanilor şi nu se va angaja în supraveghere „ilegală”.
Astfel de promisiuni deşarte din partea figurilor administraţiei Trump au fost aparent suficiente pentru a-l convinge pe Altman că tot ceea ce a făcut sau face armata este complet legal, pentru a trece cu vederea faptul că administraţia s-a bazat pe tehnologie de supraveghere de ultimă generaţie pentru a efectua deportări în masă şi pentru a şterge din memorie numele „Edward Snowden”.
„Aş fi, de asemenea, îngrozit de o lume în care guvernul nostru ar decide că supravegherea internă în masă este acceptabilă”, a scris Altman la un moment dat. „Nu ştiu cum aş veni la muncă în fiecare zi dacă asta ar fi situaţia ţării/Constituţiei.”
Utilizatorii OpenAI au considerat pe bună dreptate ignoranţa prefăcută a lui Altman ca o insultă la adresa inteligenţei lor. „Nu poţi publica declaraţiile unei administraţii care este cunoscută pentru minciunile sale şi să te aştepţi ca oamenii să aibă încredere în [tine sau în compania ta]”, a reacţionat furios unul dintre ei.
La sfârşitul zilei, nici măcar Altman nu a putut nega dezastrul de imagine pe care şi l-a creat singur. Acordul cu Departamentul Apărării, a recunoscut el, „a fost cu siguranţă grăbit, iar imaginea nu arată bine”.
