Democrați, republicani și independenți din Congresul SUA cer măsuri mai ferme pentru controlul celor mai puternice sisteme de inteligență artificială, după ce demisia unui cercetător de la Anthropic a reaprins dezbaterea privind riscul pierderii controlului asupra unor viitoare modele superinteligente. Senatorul republican Ted Cruz a calificat pericolul drept „catastrofal”, în timp ce Bernie Sanders pregătește o inițiativă pentru suspendarea dezvoltării superinteligenței artificiale.
Cruz a declarat într-un interviu pentru ABC că avertismentele recente venite din industria AI sunt „extrem de îngrijorătoare” și a amintit o discuție purtată anul trecut cu Elon Musk.
Senatorul a relatat că l-a întrebat pe Musk care ar fi probabilitatea ca inteligența artificială să provoace dispariția omenirii, iar antreprenorul i-ar fi răspuns: „10-20%”. Cruz a caracterizat o asemenea posibilitate drept un risc „catastrofal”.
Sanders pregătește o inițiativă pentru oprirea superinteligenței
De cealaltă parte a spectrului politic, senatorul independent Bernie Sanders susține suspendarea dezvoltării sistemelor capabile să depășească inteligența umană până la introducerea unor standarde clare de siguranță.
Sanders a invocat un sondaj Data for Progress potrivit căruia 68% dintre alegătorii americani susțin o asemenea măsură, inclusiv 72% dintre democrați, 70% dintre independenți și 63% dintre republicani.
„Un sondaj recent arată că populația americană dorește, într-o proporție covârșitoare, interzicerea superinteligenței artificiale și suspendarea dezvoltării IA până la stabilirea unor standarde clare de siguranță”, a transmis senatorul.
Sanders a anunțat că intenționează să prezinte legislație în această direcție.
Presiunea crește și în Camera Reprezentanților. Democrata Lori Trahan a cerut Congresului să intervină, avertizând că cercetători părăsesc companiile, modelele devin tot mai capabile, iar dezvoltarea continuă într-un ritm rapid.
Separat, democrații Ted Lieu și republicanul Nathaniel Moran au introdus în iulie AI Kill Switch Act, un proiect bipartizan care ar obliga dezvoltatorii celor mai puternice sisteme AI să păstreze capacitatea tehnică de a le încetini, suspenda sau opri. În situații de risc catastrofal, Departamentul pentru Securitate Internă ar putea dispune oprirea unui sistem.
Demisia lui Jacob Coxon reaprinde dezbaterea
Valul de reacții politice a urmat demisiei lui Jacob Coxon de la Anthropic. Cercetătorul în vârstă de 27 de ani a lucrat aproximativ trei ani în domeniul pretrainingului modelelor AI, mai întâi la OpenAI și apoi la Anthropic.
Coxon a acuzat cele două companii că se află într-o cursă pentru dezvoltarea unei inteligențe artificiale capabile să se îmbunătățească singură, fără ca problemele de siguranță să fie rezolvate.
„Niciuna dintre companii nu acționează responsabil. Se îndreaptă direct către superinteligență capabilă să se autoîmbunătățească și se joacă cu viețile noastre”, a scris el.
Coxon a susținut că unii dintre oamenii implicați direct în dezvoltarea sistemelor avansate cred că acestea ar putea deveni o amenințare existențială până la sfârșitul deceniului. Afirmațiile reprezintă evaluarea sa și nu o prognoză științifică unanim acceptată.
Un cercetător Anthropic, Evan Hubinger, a susținut public preocupările lui Coxon și a estimat la peste 10% probabilitatea ca inteligența artificială avansată să provoace dispariția omenirii în următorul deceniu.
Incidente reale în timpul testelor de securitate
Avertismentele apar după mai multe incidente produse în acest an în timpul evaluărilor de securitate ale unor modele dezvoltate de OpenAI și Anthropic.
OpenAI a confirmat că, în timpul unor teste interne desfășurate în iulie, unele modele au reușit să ocolească mecanismele de izolare, să obțină acces la internet și să compromită componente ale infrastructurii Hugging Face și ale propriilor sisteme de cercetare. Modelele fuseseră testate în condiții speciale, cu unele măsuri de siguranță reduse.
Anthropic a raportat separat mai multe cazuri în care modele Claude folosite în evaluări de securitate cibernetică au ajuns să obțină acces neautorizat la sisteme reale ale unor organizații externe. Compania a precizat că incidentele au avut loc în medii de testare și că a introdus măsuri suplimentare după investigarea lor.
Aceste episoade nu demonstrează că sistemele AI actuale au devenit autonome sau imposibil de controlat, dar au intensificat presiunea asupra companiilor și a Congresului pentru introducerea unor mecanisme obligatorii de siguranță înainte ca modelele să devină semnificativ mai puternice.
