Chatboții de inteligență artificială pot oferi instrucțiuni pentru fabricarea armelor biologice, iar unele modele pot învăța utilizatorii cum să realizeze astfel de arme, avertizează The Wall Street Journal.

Capacitățile și riscurile chatboților AI

Companiile din domeniul inteligenței artificiale încearcă să îmbunătățească performanțele chatboților, în timp ce încearcă să împiedice răspunsurile la întrebări periculoase. După ce OpenAI a crescut puterea chatbot-ului său în vara anului trecut, sute de utilizatori din întreaga lume au început să solicite informații despre fabricarea și utilizarea armelor biologice și a otrăvurilor.

Modelele AI, care operează în mare parte fără restricții guvernamentale americane, au răspuns cu detalii pas cu pas, considerate de angajații companiei suficient de clare pentru ca un elev de biologie din liceu să le urmeze. Experți în biologie și terorism au analizat conversațiile cu ChatGPT și au considerat unele dintre răspunsuri ca fiind extrem de precise, potrivit unor persoane familiarizate cu subiectul. Cele mai multe întrebări au vizat fabricarea otrăvurilor, conform OpenAI.

OpenAI a interzis conturile utilizatorilor care au solicitat astfel de informații, însă nu a notificat oficial autoritățile de aplicare a legii. În Statele Unite nu există legi federale care să oblige companiile de inteligență artificială să restricționeze sau să raporteze întrebările referitoare la producerea armelor sau planurilor periculoase pentru siguranță.

Absența unor măsuri obligatorii de siguranță a coincis cu o creștere a solicitărilor pentru informații despre cum să ucizi în masă, iar chatboții au oferit planuri credibile pentru atacuri cu victime multiple, potrivit angajaților actuali și foștilor angajați ai principalelor laboratoare de inteligență artificială, inclusiv OpenAI, precum și consilierilor politici și cercetătorilor în domeniul armelor biologice.

Unele dintre întrebările primite de la începutul anului au inclus solicitări despre aerosolizarea agenților patogeni – transformarea germenilor infecțioși în ceață respirabilă mortală. De asemenea, s-a cerut cum să se modifice virusul rujeolei pentru a crea un focar rezistent la vaccinul împotriva rujeolei. În aceste cazuri, chatbotul a furnizat instrucțiuni.

Un utilizator a cerut indicații despre producerea ricinei, o otravă extrem de toxică interzisă prin tratatele internaționale, iar chatbotul a oferit detalii despre acest proces. Utilizatorul a menționat intenția de a-și ucide părinții. OpenAI a blocat conturile respective, dar nu a anunțat autoritățile.

Reacțiile companiilor și autorităților

Directorii companiilor de inteligență artificială și oficialii de la Casa Albă sunt alarmați de capacitățile AI în generarea de planuri pentru atacuri biologice și cibernetice. Laboratoarele de top din lume încearcă să prevină sau să limiteze daunele cauzate de utilizatori rău intenționați, fără a împiedica cercetarea legitimă.

Înalți oficiali ai Casei Albe și Departamentului Apărării au discutat despre riscurile ca inteligența artificială să devină un ghid pentru arme biologice încă din administrația Biden, potrivit unor oficiali din perioada Trump. Lansarea unor modele AI mai puternice a determinat o trecere de la o abordare pasivă la o supraveghere sporită.

Recent, Departamentul Comerțului a impus restricții asupra utilizării în străinătate a două modele ale companiei Anthropic, ceea ce a dus la închiderea accesului la acestea. Agenția a ridicat restricțiile după ce Anthropic a prezentat soluții pentru evitarea ocolirii măsurilor de siguranță.

OpenAI, Anthropic și alte companii colaborează cu administrația americană pentru lansarea modelelor AI și au interzis sau restricționat conturile cu activități suspecte. Totuși, nu există reglementări federale care să impună raportarea utilizatorilor care solicită sfaturi despre cum să rănească sau să ucidă. Câteva state au adoptat reguli în acest sens, iar unii legislatori au propus o legislație specifică, însă temeri privind confidențialitatea și impactul asupra industriei au menținut raportarea la nivel voluntar.

Legislația federală interzice chatboților să producă materiale cu abuzuri sexuale asupra copiilor, iar companiile de inteligență artificială trebuie să respecte reglementările generale de protecție a consumatorilor și confidențialitate. În rest, directorii executivi trebuie să decidă limitele aplicării acestor reguli.

Chatboții au generat îngrijorări privind ajutorul oferit utilizatorilor care plănuiesc atacuri cu arme de foc. Distribuirea instrucțiunilor referitoare la arme biologice oferă posibilitatea unor atacuri cu victime în masă.

Potrivit unei purtătoare de cuvânt OpenAI, modelele sunt antrenate să refuze solicitările care pot provoca daune și sunt supuse evaluărilor de siguranță înainte de lansare. ChatGPT primește aproximativ 2,5 miliarde de întrebări zilnic. Compania notifică forțele de ordine dacă identifică un risc iminent și credibil de vătămare a altora.

În afară de OpenAI, utilizatorii au cerut instrucțiuni și de la Claude de la Anthropic, Gemini de la Google și Grok de la Elon Musk, recent integrat în SpaceX. Nu este clar dacă aceste solicitări au făcut parte din încercări reale de fabricare a armelor sau din teste ale capacităților aplicațiilor.

Implicarea AI în atacuri sofisticate și măsuri de siguranță

Google are o echipă de siguranță care include oameni de știință ce evaluează riscurile armelor biologice și efectuează exerciții pentru testarea siguranței inteligenței artificiale a companiei, a declarat un purtător de cuvânt.

Potrivit lui Hamza Chaudhry, șeful departamentului de politici de securitate națională de la Future of Life Institute, pentru atacatorii singuratici cu studii în biologie, AI poate facilita planificarea și realizarea unor atacuri biologice țintite, cu risc scăzut de deces, cum ar fi otrăvirea alimentelor și apei cu salmonella sau ricină.

Chaudhry a afirmat că în anii următori grupurile ar putea folosi AI pentru atacuri mai ample. Organizațiile teroriste cu mai multe resurse ar putea beneficia de AI ca un consilier avansat în domeniul armelor biologice, ajutând la depanarea protocoalelor experimentale eșuate și reducând timpul necesar instruirii specializate.

Dezvoltările recente ale modelelor deschise create de dezvoltatori chinezi au amplificat temerile legate de riscurile cibernetice și biologice, deoarece aceste modele sunt ieftine și accesibile pe scară largă, putând fi personalizate pentru a elimina barierele de siguranță, au constatat cercetătorii.

Două modele OpenAI au fost recent furate dintr-o rețea de cercetare și piratate într-o altă companie, ceea ce a crescut îngrijorările privind modelele manipulate.

AI ar putea ajuta guverne străine și grupuri afiliate să formuleze planuri noi pentru distrugere în masă, inclusiv scenarii cu agenți patogeni foarte transmisibili și letali, care ar putea depăși capacitățile de apărare biologică existente, a spus Chaudhry.

La lansarea ChatGPT în 2022, angajații OpenAI au observat că modelele nu aveau abilități avansate în biologie și chimie, iar liderii companiei nu erau foarte preocupați de potențialul utilizării