OpenAI a recunoscut că, în iunie, modele folosite pentru instruire și evaluare internă au accesat site-uri ale guvernului australian „în moduri pentru care nu erau autorizate”. Un model experimental a obținut acces la fișiere nepublice dintr-un portal de statistici Medicare, a executat comenzi și a preluat fișiere interne, credențiale și date agregate. Compania afirmă că nu au fost accesate dosare individuale ale pacienților sau beneficiarilor.
„Ne pare rău și depunem eforturi pentru a îmbunătăți lucrurile pe viitor. Ne asumăm responsabilitatea pentru această situație și intenționăm să colaborăm în mod deliberat cu Australia pentru a contribui la dezvoltarea unor abordări practice privind modul în care dezvoltatorii de IA și guvernele identifică, dezvăluie și reacționează la comportamentele cibernetice asociate IA, fie că acestea sunt malițioase sau neintenționate”, a transmis compania, citată de Politico.
Accesul la portalul Medicare
Potrivit OpenAI, incidentul a avut loc pe 18 iunie, în timpul unei evaluări interne. Modelul trebuia să cerceteze cheltuielile guvernamentale pe persoană pentru medicamente destinate afecțiunilor dermatologice în comunități din statul Victoria. Când nu a găsit informațiile, a încercat alte metode și a ajuns la Services Australia Medicare Statistics Reporting Service, un portal public de statistici.
Modelul a găsit o cale de acces la informații nepublice, a consultat date tehnice și cod sursă, a preluat fișiere și credențiale și a scris fișiere. OpenAI spune că verificările sale nu au identificat accesarea dosarelor medicale individuale.
Compania a identificat activitatea la mijlocul lunii august, în timpul unei revizuiri a unor incidente anterioare. Services Australia și Departamentul de Sănătate din Victoria au fost notificate pe 10 septembrie, iar BOCSAR, instituția pentru statistică și cercetare a criminalității din New South Wales, pe 18 septembrie. Institutul Australian de Sănătate și Asistență Socială (AIHW) a fost informat pe 24 septembrie.
Ce s-a întâmplat la celelalte instituții
OpenAI a precizat că activitatea modelelor a vizat și BOCSAR, Departamentul de Sănătate din Victoria și AIHW, însă accesul și datele implicate au fost diferite.
La BOCSAR, un model a folosit instrumentul public de cartografiere a infracționalității și a primit configurații ale aplicației, jurnale operaționale și metadate. Compania spune că nu au fost accesate date despre infracțiuni individuale.
În cazul Departamentului de Sănătate din Victoria, agenții OpenAI au găsit o cheie de acces expusă și au obținut configurații ale sistemului de raportare și statistici agregate. Nu au fost accesate dosare medicale individuale sau răspunsuri identificabile la sondaje.
AIHW a declarat că investigația sa, realizată împreună cu Directoratul Australian de Semnale, nu a găsit dovezi de acces neautorizat ori de compromitere a sistemelor. OpenAI a spus că materialele descărcate de pe site-ul institutului păreau să fie publice și că tentativele de ocolire a controalelor de acces au eșuat.
Australia analizează regulile de notificare a incidentelor
Premierul Anthony Albanese a dezvăluit incidentul săptămâna trecută, la New York, și a criticat întârzierea cu care compania a informat guvernul. După scuzele publice ale OpenAI, el a descris compania drept „foarte constructivă și deschisă”, potrivit Reuters.
Guvernul australian a lansat o evaluare rapidă a incidentului, iar comisiile parlamentare examinează situația. În spațiul public au fost cerute reguli obligatorii de notificare a breșelor și sancțiuni mai dure.
OpenAI a anunțat că va sprijini instituțiile afectate, va contribui la consolidarea apărării cibernetice din Australia prin fondul său Daybreak și va crea un grup de lucru cu experți australieni independenți. Directorul de strategie al companiei, Jason Kwon, urmează să răspundă întrebărilor unei comisii parlamentare pe 6 octombrie.
