Liderii companiilor de inteligență artificială atrag atenția asupra riscurilor generate de AI în domeniul biologic
Lideri din domeniul inteligenței artificiale au cerut Congresului SUA să ia măsuri pentru a preveni riscurile biologice asociate cu utilizarea AI în sinteza ADN și ARN, evidențiind potențialul tehnologiei de a facilita crearea agenților patogeni periculoși.
Trei directori executivi importanți – Sam Altman de la OpenAI, Dario Amodei de la Anthropic și Demis Hassabis de la laboratorul DeepMind AI al Google – se află printre semnatarii unei scrisori adresate Congresului SUA, în care solicită implementarea unor măsuri de siguranță pentru companiile care comandă ADN și ARN sintetice. Aceasta reprezintă un pas esențial în dezvoltarea unor vaccinuri și alte descoperiri biotehnologice.
Scrisoarea propune ca firmele care vând acizi nucleici sintetici să filtreze comenzile clienților pentru a bloca orice combinații potențial periculoase și să verifice legitimitatea entităților care efectuează aceste comenzi. În industrie, există o preocupare de lungă durată privind riscurile biotehnologiei, iar inteligența artificială intensifică aceste temeri, oferind instrumente care pot facilita crearea de agenți patogeni.
În document se arată: „Sistemele de AI se îmbunătățesc rapid și, pe lângă beneficiile incredibile pentru știință și medicină, există o posibilitate reală ca barierele de cunoaștere care au împiedicat în mod tradițional actorii rău intenționați să obțină arme biologice să se erodeze semnificativ”.
Întâlnirea a fost organizată de două grupuri de experți în tehnologie, care au remarcat că subiectul generează un consens rar între libertarieni, progresiști, cercetători și directori rivali din industrie.
Scrisoarea vine după ce președintele Donald Trump a semnat, marți, un ordin executiv centrat pe supravegherea modelelor AI și securitatea cibernetică, modificând astfel abordarea administrației față de inteligența artificială. Sam Altman s-a întâlnit miercuri cu oficiali ai Casei Albe și parlamentari pentru a discuta propunerea OpenAI privind cerințe mai stricte pentru dezvoltatorii de modele AI. OpenAI a anunțat recent un program care colaborează cu guvernul federal pentru prevenirea riscurilor biologice.
Altman și Amodei au opinii diferite privind reglementările AI, Anthropic susținând în general măsuri mai stricte. Demis Hassabis este recunoscut pentru contribuția sa la Google, compania Alphabet, în cursa tehnologică, și pentru împărțirea Premiului Nobel din 2024 pentru dezvoltarea unei platforme AI capabile să prezică structura proteinelor și să accelereze descoperirea de medicamente.
Alți semnatari ai scrisorii includ Mustafa Suleyman, responsabil pentru activitatea Microsoft în domeniul inteligenței artificiale, și Alexandr Wang, directorul AI al Meta Platforms.
Trump a revocat anterior un ordin executiv din perioada Biden care institua un cadru de screening pentru sinteza genelor. Casa Albă a declarat anul trecut că va înlocui cadrul Biden cu propriile ghiduri, însă acestea nu au fost încă publicate. Un oficial al Casei Albe a declarat că administrația urmărește un echilibru între inovație și siguranță.
Susținătorii verificării cer Congresului adoptarea unei legi care să se aplice tuturor cumpărătorilor de acizi nucleici sintetici, nu doar celor care efectuează screening voluntar sau sunt finanțați federal. Mai multe proiecte de lege cu această prevedere au fost propuse, dar nu au avansat.
Oponenții susțin că este subiectiv ce combinații de acizi nucleici sunt periculoase și avertizează că noile costuri de conformare ar putea afecta startup-urile. Dean Ball, fost consilier pentru AI în administrația Trump, acum la think tank-ul Foundation for American Innovation, a afirmat: „Dacă sintetizați substanța care produce viață biologică și virusuri, vă rugăm să verificați pentru a vedea dacă este periculoasă într-un fel. Pare un lucru rezonabil pentru ca societatea să insiste asupra acestuia”.
Secvențierea ADN/ARN asistată de AI și sinteza secvențelor biologice cu ajutorul AI sunt considerate sensibile, deoarece pot accelera atât cercetarea benefică, cât și activitățile cu risc biologic. Printre principalele pericole se numără crearea rapidă a agenților patogeni periculoși, reducerea barierei de expertiză necesare, identificarea vulnerabilităților biologice și accesibilizarea sintezei ADN.
Modelele AI pot analiza volume mari de date genetice și identifica modificări ce influențează transmisibilitatea, stabilitatea sau capacitatea de a evita răspunsul imun, ceea ce ridică riscul proiectării organismelor mai periculoase. De asemenea, AI poate automatiza părți din analiză și proiectare, permițând persoanelor cu mai puțină experiență să realizeze activități care anterior necesitau echipe specializate.
AI poate identifica relații complexe între gene, proteine și boli, capacitate valoroasă pentru medicină, dar care ar putea fi folosită și pentru a detecta punctele vulnerabile ale organismelor umane, animalelor sau culturilor agricole. Costul sintezei ADN a scăzut semnificativ în ultimele două decenii, iar combinarea cu servicii comerciale poate accelera testarea unor secvențe noi.
De asemenea, AI poate sugera modificări genetice cu efecte secundare neanticipate, deoarece sistemele biologice sunt complexe și unele schimbări aparent minore pot avea consecințe neașteptate.
Pe de altă parte, aceeași tehnologie aduce beneficii importante, precum accelerarea dezvoltării vaccinurilor, identificarea de noi antibiotice, diagnosticarea bolilor genetice, proiectarea terapiilor personalizate, îmbunătățirea culturilor agricole și contribuția la combaterea cancerului și bolilor rare.
Instrumente AI dezvoltate de Google DeepMind pentru proiectarea proteinelor au redus semnificativ timpul necesar înțelegerii structurii proteinelor, un progres important pentru biologie și medicină.
Multe companii care sintetizează ADN verifică comenzile pentru secvențe asociate cu agenți patogeni periculoși. Guvernele și organizațiile internaționale dezvoltă reguli pentru utilizarea responsabilă a AI în biologie. Problema centrală nu este că AI poate crea viruși în mod automat, ci că poate accelera analiza și proiectarea biologică într-un domeniu în care greșelile sau utilizările abuzive pot avea consecințe serioase asupra sănătății publice și securității biologice.
