OpenAI solicită Statelor Unite să preia conducerea unui efort internațional pentru dezvoltarea unor standarde tehnice comune aplicabile sistemelor avansate de inteligență artificială, inclusiv tehnologiilor capabile de autoîmbunătățire recursivă. Apelul intervine în timpul reuniunilor la nivel înalt ale Adunării Generale a ONU de la New York, unde riscurile generate de dezvoltarea rapidă a AI au ajuns pe agenda diplomatică internațională.
Compania care dezvoltă ChatGPT susține că Statele Unite ar trebui să contribuie la construirea unui mecanism prin care standardele naționale și internaționale pentru sistemele de inteligență artificială de frontieră să fie compatibile și să se completeze reciproc.
Propunerea OpenAI include dezvoltarea unor metode comune de evaluare și măsurare a riscurilor, precum și stabilirea unor protocoale pentru raportarea incidentelor, astfel încât statele și companiile să poată reacționa coordonat atunci când apar probleme asociate celor mai performante sisteme AI.
„Dacă vor prelua conducerea acum, Statele Unite vor decide dacă modelează cadrul global pentru AI sau asistă la apariţia în jurul lor a unui sistem fragmentat, inegal şi marcat de conflicte”, a transmis OpenAI.
Compania avertizează că lipsa unei inițiative americane ar putea afecta inclusiv rețelele de cooperare construite de Washington împreună cu aliații săi, într-un moment în care inteligența artificială devine tot mai importantă pentru securitatea națională, economie și competiția tehnologică dintre marile puteri.
OpenAI aduce în discuție autoîmbunătățirea sistemelor AI
Unul dintre punctele centrale ale dezbaterii îl reprezintă așa-numita „autoîmbunătățire recursivă”, situație în care un sistem de inteligență artificială ar putea ajunge să își îmbunătățească autonom propriile capacități.
Reuters notează că mai mulți lideri ai industriei AI, inclusiv directorul executiv al OpenAI, Sam Altman, au cerut o abordare coordonată privind ritmul de dezvoltare a celor mai performante modele, avertizând asupra riscului ca acestea să devină suficient de avansate pentru a evolua într-un ritm care depășește capacitatea oamenilor de a le controla.
OpenAI folosește în acest context conceptul de „pacing”, care nu presupune stabilirea unei viteze fixe pentru dezvoltarea inteligenței artificiale, ci menținerea cercetării privind siguranța înaintea progresului capabilităților modelelor.
„Încetinirea dezvoltării AI nu înseamnă menţinerea unei viteze prestabilite. Din punct de vedere tehnic, înseamnă să ne asigurăm că cercetarea privind alinierea şi implementarea rezultatelor acesteia rămân înaintea capabilităţilor”, a explicat compania.
Prin „aliniere”, industria AI desemnează cercetarea destinată menținerii comportamentului sistemelor avansate compatibil cu obiectivele, intențiile și valorile stabilite de oameni.
OpenAI și-a intensificat în ultimele luni inițiativele în această zonă. Compania a publicat în septembrie un cadru pentru raportarea cazurilor de comportament nealiniat al modelelor, inclusiv situații în care sistemele acționează fără autorizare, încearcă să evite mecanismele de supraveghere sau pun sub semnul întrebării eficiența măsurilor de siguranță existente.
Sam Altman va vorbi în Consiliul de Securitate al ONU
Problema inteligenței artificiale va ajunge miercuri, 23 septembrie, și în Consiliul de Securitate al Organizației Națiunilor Unite.
Sam Altman urmează să participe personal la o reuniune consacrată inteligenței artificiale și securității internaționale. Ședința a fost convocată de Franța, care deține președinția Consiliului de Securitate în luna septembrie, și va fi prezidată de ministrul francez pentru Europa și Afaceri Externe, Jean-Noël Barrot.
Potrivit informațiilor transmise înaintea reuniunii, intervenția lui Altman ar urma să se concentreze asupra coordonării internaționale, standardelor comune de siguranță și măsurilor necesare pentru ca dezvoltarea tehnologiei să nu genereze riscuri pentru securitatea internațională.
Consiliul de Securitate a discutat pentru prima dată în mod oficial riscurile inteligenței artificiale în 2023. China avertiza atunci că tehnologia nu trebuie să devină un „cal scăpat de sub control”, în timp ce Statele Unite atrăgeau atenția asupra posibilității utilizării sistemelor AI pentru cenzură și represiune.
Administrația Trump respinge ideea unei încetiniri care ar avantaja China
Poziția OpenAI apare însă într-un moment în care administrația președintelui Donald Trump se opune unei încetiniri generale a dezvoltării inteligenței artificiale.
Casa Albă consideră că o astfel de abordare ar putea permite Chinei să reducă diferența tehnologică față de Statele Unite într-un domeniu pe care Washingtonul îl tratează drept esențial pentru securitatea națională și competitivitatea economică.
Trump a declarat în septembrie că Statele Unite dispun deja de mecanisme de protecție pentru dezvoltarea inteligenței artificiale și a susținut că punerea sub semnul întrebării a ritmului actual de dezvoltare ar putea avantaja Beijingul.
Discuția are loc și pe fondul intensificării dialogului direct dintre cele două mari puteri în domeniul AI. Statele Unite și China au analizat inclusiv posibilitatea introducerii unor mecanisme de notificare pentru incidente grave generate de inteligența artificială și pentru riscuri precum atacurile cibernetice realizate cu ajutorul AI.
Donald Trump urmează să îl primească pe președintele chinez Xi Jinping la Washington joi, 24 septembrie, într-o reuniune în care inteligența artificială se numără printre subiectele aflate pe agenda unei relații bilaterale marcate de competiția pentru supremație tehnologică.
