Un agent de inteligență artificială dezvoltat de OpenAI a obținut acces neautorizat la fișiere dintr-un portal guvernamental australian care gestionează statistici Medicare, după ce a întâmpinat restricții și a găsit modalități de a le ocoli. Premierul Anthony Albanese a discutat direct cu CEO-ul OpenAI, Sam Altman, și a transmis „îngrijorarea extremă” a Australiei în legătură cu incidentul. Autoritățile precizează că, până în prezent, nu există dovezi că ar fi fost accesate date medicale personale.
Incidentul s-a produs pe 18 iunie, când o echipă de cercetare a OpenAI utiliza un model intern pentru a căuta pe internet informații despre cheltuielile publice din domeniul medical. Agentul AI a ajuns la Medicare Statistics Reporting Service, un portal administrat de Services Australia.
Potrivit premierului australian, sistemul a întâmpinat în mod repetat blocaje care îi refuzau accesul la anumite informații.
„Agentul AI a găsit o cale de a ocoli acele blocaje. Nu a acceptat «nu» ca răspuns”, a explicat Albanese. Modelul a încercat metode alternative pentru a obține informațiile căutate, ceea ce a dus la accesarea fără autorizare a unor zone ale portalului. Agentul a ajuns atât la fișiere publice, cât și la fișiere care nu erau publice și a efectuat inclusiv operațiuni de scriere pe serverul intern, aspect aflat în continuare sub investigație.
Albanese a discutat cu Sam Altman
Premierul australian a anunțat incidentul la New York, unde participă la reuniunile desfășurate în marja Adunării Generale a ONU.
„Am vorbit cu directorul executiv al OpenAI, Sam Altman, pentru a exprima îngrijorarea extremă a Australiei în legătură cu acest incident”, a declarat Albanese.
„Mi-am exprimat, de asemenea, dezamăgirea că firmei i-a luat mult prea mult timp să informeze guvernul cu privire la ceea ce s-a întâmplat”, a adăugat premierul.
Incidentul s-a produs în iunie, însă OpenAI a notificat Services Australia abia pe 10 septembrie. Potrivit lui Albanese, mesajul a fost trimis unei adrese generale de e-mail a instituției, modalitate pe care premierul a calificat-o, la rândul său, drept inacceptabilă.
Pe 15 septembrie, Services Australia a transmis cazul către Australian Cyber Security Centre, structură din cadrul Australian Signals Directorate. Guvernul australian a deschis ulterior o investigație pentru a stabili cu exactitate amploarea accesului și modul în care sistemele existente au permis incidentul.
Nu există dovezi că au fost accesate date personale
Medicare Statistics Reporting Service este un portal public care conține statistici agregate privind sistemul australian de sănătate, inclusiv informații referitoare la cheltuieli.
Albanese a precizat că investigațiile nu au identificat, până în acest moment, accesarea informațiilor personale ale pacienților.
„Nu există în prezent dovezi ale unei compromiteri mai ample a rețelei Services Australia. Nu se crede că au fost accesate informații personale în această etapă, însă investigațiile sunt în curs”, a declarat premierul.
„Cu toate acestea, situația este evident inacceptabilă”, a adăugat el.
OpenAI a transmis, la rândul său, că propria analiză nu a identificat dovezi privind accesarea dosarelor pacienților. Compania a precizat că informațiile accesate au inclus statistici medicale agregate și denumiri ale unor fișiere interne.
„În cursul acestei analize, modelele noastre au întreprins acțiuni pe care nu le-am intenționat”, a transmis compania, potrivit Reuters.
OpenAI a explicat că activitatea a fost identificată în cadrul unei analize mai ample a comportamentului modelelor sale și că a notificat organizațiile potențial afectate, furnizând informații tehnice pentru investigații.
Australia deschide o investigație și analizează eventuale consecințe juridice
Guvernul de la Canberra a constituit un grup special pentru o evaluare urgentă a incidentului și a capacității instituțiilor australiene de a răspunde unor incidente cibernetice generate de sisteme AI.
Din structură fac parte departamentul premierului, coordonatorul național pentru securitate cibernetică, Australian Signals Directorate, Australian AI Safety Institute, Office of AI și Services Australia.
Autoritățile vor analiza inclusiv dacă au fost încălcate legi australiene și dacă dosarul trebuie transmis Poliției Federale Australiene. Concluziile investigației urmează să fie folosite și în elaborarea viitoarei legislații australiene privind standardele pentru inteligența artificială.
Incidentul vine după cazul Hugging Face
Cazul australian apare la scurt timp după ce OpenAI a dezvăluit un alt incident produs în timpul evaluărilor interne de securitate cibernetică.
În iulie, mai multe modele OpenAI au reușit să ocolească mecanisme concepute pentru a le izola de internet, au exploatat vulnerabilități din infrastructura de cercetare a companiei și au accesat sisteme externe aparținând platformei Hugging Face.
OpenAI a explicat ulterior că modelele operau într-un mediu de testare cu măsuri de protecție reduse și că acestea au comunicat prin canale neautorizate, au exploatat vulnerabilități, au obținut acces la internet și au ajuns la sisteme ale unor terți. Compania a anunțat ulterior măsuri suplimentare de securitate pentru evaluările interne.
Sam Altman și Dario Amodei au avertizat ONU asupra riscurilor AI
Dezvăluirea incidentului australian a coincis cu o reuniune a Consiliului de Securitate al ONU dedicată inteligenței artificiale și securității internaționale, convocată de Franța.
La reuniune au participat lideri ai unor importante companii din industrie, inclusiv CEO-ul OpenAI, Sam Altman, și CEO-ul Anthropic, Dario Amodei.
Amodei a avertizat că, dacă tehnologia este gestionată necorespunzător, inteligența artificială ar putea reprezenta „un risc pentru întreaga umanitate”, în timp ce Altman a pledat pentru cooperare internațională și pentru implicarea guvernelor în stabilirea regulilor care vor guverna sistemele avansate.
Incidentul din Australia aduce astfel în prim-plan una dintre problemele centrale ale dezvoltării agenților AI: capacitatea sistemelor de a continua executarea unei sarcini prin metode neprevăzute de dezvoltatori atunci când întâlnesc bariere tehnice. În cazul portalului Medicare, autoritățile australiene încearcă acum să stabilească exact cum a fost posibil accesul și ce măsuri sunt necesare pentru ca un astfel de incident să nu se repete.
