Modelul AI Mythos, folosit în testări cu agențiile de informații americane
Modelul AI Mythos, dezvoltat de Anthropic, a fost utilizat într-un exercițiu de testare realizat împreună cu agențiile de informații din Statele Unite. Potrivit unui oficial american citat de Euronews, sistemul a identificat puncte vulnerabile în infrastructuri informatice sensibile în doar câteva ore. Oficialul a precizat că descoperirea vulnerabilităților nu implică automat că inteligența artificială le-a exploatat în același ritm. Totuși, viteza cu care au fost detectate problemele a atras atenția specialiștilor în securitate cibernetică.
Testele au fost realizate în cadrul inițiativei „Project Glasswing”, lansată de Anthropic pentru a evalua impactul pe care modelele AI foarte avansate îl pot avea asupra siguranței publice, securității naționale și economiei.
„A intrat în aproape toate sistemele clasificate”
Senatorul democrat Mark Warner a adus subiectul în atenția publică în timpul unei audieri în Senatul SUA. Potrivit lui, informațiile primite de la conducerea Agenției Naționale de Securitate (NSA) și a Comandamentului Cibernetic al SUA arătau că instrumentul testat a reușit să pătrundă în aproape toate sistemele clasificate analizate „nu în săptămâni, ci în ore”. Declarația a stârnit îngrijorări privind ritmul evoluției instrumentelor bazate pe inteligență artificială și capacitatea lor de a automatiza activități care anterior necesitau echipe întregi de experți în securitate informatică.
Colaborare, dar și tensiuni cu administrația americană
Deși Anthropic colaborează cu autoritățile americane în domeniul securității, relațiile cu administrația Trump s-au complicat în ultimele luni. Compania și-a exprimat îngrijorarea publică privind modul în care armata americană ar putea utiliza unele dintre cele mai performante modele AI. În același timp, administrația federală a impus restricții privind accesul la anumite sisteme dezvoltate de Anthropic. La începutul lunii, autoritățile au cerut companiei să limiteze accesul cetățenilor străini la modelele Fable 5 și Mythos 5, considerate printre cele mai avansate instrumente AI disponibile.
Experții cer prudență
Măsura a generat reacții din partea industriei. Peste 100 de experți în securitate cibernetică și reprezentanți ai unor companii importante din tehnologie au semnat o scrisoare prin care solicită revizuirea restricțiilor. Ei susțin că modelele Anthropic sunt foarte eficiente în identificarea vulnerabilităților software, dar nu sunt singurele capabile să facă acest lucru. În opinia semnatarilor, limitarea accesului la instrumente de apărare cibernetică performante ar putea crea dezavantaje, mai ales în contextul investițiilor masive ale rivalilor geopolitici ai Statelor Unite în dezvoltarea propriilor sisteme AI.
Cazul Mythos reflectă o schimbare rapidă în relația dintre securitatea cibernetică și inteligența artificială. Dacă până acum accentul era pe capacitatea AI de a genera conținut sau automatiza sarcini, noile teste sugerează că aceste sisteme pot deveni actori importanți în identificarea vulnerabilităților din infrastructurile critice.
