Competiția și responsabilitatea, factori cheie în dezvoltarea AI
Mark Zuckerberg a declarat că firmele din domeniul inteligenței artificiale (AI) au atât responsabilitatea, cât și interesul de a-și dezvolta modelele într-un ritm compatibil cu măsurile de siguranță, respingând astfel apelurile pentru o încetinire a progresului în acest domeniu.
Declarațiile sale au fost făcute în contextul în care mai mulți lideri din industrie solicită o cooperare pentru a reduce riscurile generate de dezvoltarea rapidă a AI, potrivit Reuters.
Directorul general al Meta a subliniat că fiecare laborator AI trebuie să își asume responsabilitatea de a integra măsuri de siguranță în ritmul dezvoltării modelelor sale. Zuckerberg a atras atenția că firmele care nu prioritizează alinierea sistemelor la valorile și obiectivele umane riscă să piardă teren în fața competitorilor. „Încrederea și alinierea devin rapid cele mai importante capacități care vor diferenția agenții și modelele”, a spus acesta.
De asemenea, riscurile juridice reprezintă un stimulent relevant pentru companii. Dacă un sistem AI provoacă prejudicii, firma responsabilă poate suporta consecințe financiare și juridice semnificative, a explicat Zuckerberg.
Meta a amânat lansarea unui produs AI pentru consolidarea securității
Ca exemplu, Meta a întârziat lansarea agentului AI Muse la începutul anului curent, pentru a întări măsurile de siguranță. Această decizie a fost luată intern, fără a aștepta o inițiativă comună a industriei. Zuckerberg a precizat că este o parte obișnuită a activității companiei.
Firma mai susține că utilizează evaluatori independenți pentru componentele sistemelor sale AI, o metodă pe care Zuckerberg o consideră un standard ce ar putea fi adoptat și de alte laboratoare.
Apeluri la încetinirea dezvoltării AI și poziția Meta
În urma solicitării lui Dario Amodei, directorul general al Anthropic, privind încetinirea ritmului de îmbunătățire a modelelor AI, Zuckerberg a afirmat că „majoritatea semnificativă” a resurselor de calcul ale Meta este direcționată către dezvoltarea unor produse care răspund nevoilor imediate ale utilizatorilor.
Compania nu ar concentra aceste resurse în principal asupra dezvoltării unor sisteme AI capabile de autoîmbunătățire. Această formă de dezvoltare a inteligenței artificiale reprezintă însă o preocupare majoră pentru Amodei și alți cercetători.
Poziția administrației SUA și reacțiile liderilor din industrie
Dezbaterea privind reglementarea AI are loc pe fondul unei atitudini prudente din partea administrației americane. Președintele Donald Trump a minimalizat temerile legate de efectele negative ale inteligenței artificiale și a susținut că există deja mecanisme de protecție adecvate. Același punct de vedere privind riscurile unei reglementări excesive, care ar putea afecta competitivitatea SUA în raport cu China, este împărtășit și de Jensen Huang, CEO-ul Nvidia.
Totodată, Andrew Ferguson, președintele Comisiei Federale pentru Comerț din SUA, a avertizat publicul să fie „profund suspicios” față de companiile AI care cer excepții de la legislația antitrust în timp ce solicită noi reguli pentru industrie. Deși Ferguson nu a nominalizat Anthropic, compania a solicitat anterior permisiunea de a colabora cu rivalii pentru a încetini anumite direcții de dezvoltare a AI din motive de siguranță.
