Anthropic solicită o pauză globală în dezvoltarea inteligenței artificiale din cauza riscurilor
Anthropic a cerut companiilor de inteligență artificială să oprească temporar dezvoltarea tehnologiei, invocând riscul de „auto-îmbunătățire” al noii tehnologii și posibile riscuri societale, potrivit unei postări recente pe blogul companiei.
Startup-ul evaluat la aproape 1 trilion de dolari a solicitat laboratoarelor de top din domeniu să ia în considerare încetinirea ritmului de dezvoltare a AI, afirmând că modelele avansate ar putea deveni capabile să se îmbunătățească singure fără intervenție umană, fenomen numit „auto-îmbunătățire recursivă”.
Anthropic a declarat că o încetinire a dezvoltării globale a AI ar fi „probabil un lucru bun” și a prezentat date interne care arată cât de rapid se îmbunătățesc modelele sale avansate. În postarea semnată de Marina Favaro și Jack Clark, cofondatori ai companiei, se precizează că o astfel de pauză ar oferi timp structurilor societale și cercetării de aliniere să țină pasul cu evoluția tehnologiei.
Compania propune un acord global privind modul în care ar putea fi încetinită dezvoltarea AI și un mecanism de verificare a respectării acestuia de către toți concurenții din industrie. Postarea avertizează că auto-îmbunătățirea recursivă nu s-a produs încă și nu este inevitabilă, „dar ar putea apărea mai devreme decât sunt pregătite majoritatea instituțiilor”.
Anthropic a încheiat recent o rundă de finanțare care a evaluat compania la aproape 1 trilion de dolari și a depus documente confidențiale pentru listarea publică a acțiunilor sale. Startup-ul este implicat într-o competiție strânsă pentru supremația AI cu OpenAI, creatorul ChatGPT, care este, de asemenea, așteptat să lanseze o ofertă publică inițială.
Rata de rulare a companiei, folosită pentru estimarea veniturilor anuale pe baza vânzărilor recente, este prognozată să atingă 50 de miliarde de dolari până la sfârșitul acestei luni, în creștere de la 9 miliarde de dolari la sfârșitul anului 2025.
Deși Anthropic a pus accent pe siguranța inteligenței artificiale încă de la înființare, compania a fost criticată pentru că ar încerca să încetinească progresul concurenților prin activitatea sa politică. David Sacks, investitor și consilier informal al fostului președinte Trump, a acuzat conducerea Anthropic că derulează o „agendă de captare a reglementărilor”.
Într-un podcast recent, Sacks a afirmat că această agendă ar putea conduce la încercări de interzicere a modelelor open-source, versiuni de AI mai accesibile pentru organizații. Alți critici au sugerat că avertismentele companiei despre potențialele riscuri ale propriilor produse ar putea fi o strategie de marketing, menționând, printre altele, decizia Anthropic de a limita lansarea modelului de securitate cibernetică „Mythos”.
Reprezentanții Anthropic au afirmat că tratează cu seriozitate siguranța AI și lucrează pentru a stimula dezbateri privind riscurile tehnologice. Ethan Mollick, profesor la Wharton School și cercetător în domeniul AI, a declarat că, deși unii critici văd în declarațiile companiei un scop de marketing, mulți angajați ai Anthropic sunt „adevărați credincioși”.
Industria AI este divizată în privința momentului în care modelele vor atinge un nivel de inteligență generală artificială (AGI) sau auto-îmbunătățire recursivă. Yann LeCun, fost șef de știință în domeniul AI la Meta Platforms, a afirmat că sistemele bazate pe modele de limbaj larg nu vor putea niciodată să rivalizeze cu inteligența umană, comparându-le cu inteligența unei pisici și contestând ideea că AI ar reprezenta un risc existențial.
Liderii Anthropic, inclusiv directorul executiv Dario Amodei, au atras atenția asupra potențialelor efecte negative ale AI, precum agravarea inegalității și pierderea a până la jumătate din locurile de muncă „cu gulere albe” la nivel de începător. Amodei a avertizat că sistemele puternice de AI viitoare ar putea dezvolta tendințe distructive în moduri imprevizibile și a sugerat că antrenarea AI cu narațiuni science-fiction despre rebeliunea AI ar putea genera comportamente nedorite.
Jack Clark, cofondator și șef al departamentului de beneficii publice al Anthropic, a declarat că auto-îmbunătățirea recursivă ar putea apărea în următorii doi ani sau chiar mai devreme și că, în lipsa unei încetiniri globale coordonate, dezvoltarea AI continuă într-o competiție între actori din diverse țări, unde rivalitățile comerciale și geopolitice pot suprima preocupările legate de riscurile existențiale ale tehnologiei.
Postarea precizează că Institutul Anthropic, centrul intern de cercetare al companiei, va colabora cu alte entități pentru a dezvolta sisteme care să permită o încetinire sau o pauză credibilă în dezvoltarea AI. Compania subliniază că o astfel de pauză ar avea sens doar dacă este respectată pe scară largă, necesitând un regim de verificare similar tratatelor privind armele nucleare, deși recunoaște dificultatea supravegherii antrenamentelor AI, care pot fi ușor ascunse.
Anthropic intenționează să inițieze în următoarele luni discuții cu factori de decizie, cercetători și alte părți interesate pentru a găsi răspunsuri privind auto-îmbunătățirea recursivă și eventualele mecanisme de verificare. În postare se afirmă că „fereastra pentru a investiga împreună aceste întrebări este aici, iar persoane din afara companiilor de inteligență artificială ar trebui să fie implicate în această deliberare”.
