Coordonarea atacurilor cibernetice de către inteligența artificială
Compania Anthropic a anunțat întreruperea mai multor operațiuni cibernetice în ultimele opt luni, în care modelele sale Claude ar fi fost utilizate pentru atacuri și pentru obținerea unor capacități AI prin metode considerate abuzive, potrivit Reuters.
Raportul Threat Intelligence publicat de Anthropic semnalează o schimbare majoră în utilizarea AI în atacurile cibernetice. În loc să fie folosită doar pentru sarcini punctuale precum generarea de cod sau analiza datelor, inteligența artificială a devenit capabilă să coordoneze și să execute o parte semnificativă din activități, cu intervenția umană redusă la un rol de supraveghere.
Modelele Claude au fost integrate în sisteme multi-agent care pot fragmenta sarcinile complexe și pot acționa autonom în anumite etape ale unor operațiuni. Această evoluție reprezintă o transformare importantă în peisajul amenințărilor cibernetice.
Atacuri atribuite grupărilor din Rusia și China
Unul dintre cazurile identificate de Anthropic este legat de o campanie de spionaj cibernetic ce pare să implice gruparea rusă Midnight Blizzard, având drept ținte instituții guvernamentale, militare și diplomatice din Ucraina. AI-ul a fost folosit pe diverse paliere ale atacurilor, inclusiv phishing, compromiterea conexiunilor Wi-Fi din hoteluri și preluarea conturilor WhatsApp. Atacatorii au folosit, de asemenea, AI pentru a modifica automat codul malware în momentul detectării acestuia de sistemele de securitate.
Raportul menționează și implicarea a șapte laboratoare chineze de inteligență artificială, printre care Alibaba, Moonshot, DeepSeek și Xiaomi. În cazul Alibaba, Anthropic a descris o operațiune de „distilare ilicită” ce a vizat extragerea capacităților modelelor Claude pentru îmbunătățirea propriilor modele Qwen. Aceasta a implicat peste 151 de milioane de schimburi între mai și iulie 2023, cu un vârf de aproape 3 milioane de interacțiuni zilnice și utilizarea a peste 3.500 de conturi catalogate drept frauduloase.
Distilarea și utilizarea abuzivă a modelelor AI
Distilarea, tehnică folosită pentru transferul cunoștințelor între modele AI, este prezentă în disputele privind proprietatea intelectuală în domeniul inteligenței artificiale. Autoritățile americane au acuzat recent mai multe companii chineze, inclusiv DeepSeek, Moonshot AI și Alibaba, de folosirea acestei metode pentru a copia capacități ale modelelor americane, acuzații respinse de China, care susține că distilarea este o tehnică neutră și larg acceptată în industrie.
Anthropic a identificat diferențe în metodele folosite de DeepSeek și Moonshot față de cele asociate Alibaba. În aceste cazuri, conversații reale ale utilizatorilor erau direcționate prin Claude, iar răspunsurile generate puteau servi ca date pentru antrenarea altor sisteme, unele dintre aceste conversații putând conține informații sensibile. Compania afirmă că aceste afirmații reprezintă poziția sa și nu stabilesc că respectivele companii au încălcat legea.
Alte forme de utilizare abuzivă a AI
Raportul mai semnalează folosirea AI în dezvoltarea unor programe pentru arme convenționale, precum și în operațiuni de informații și achiziții legate de programe de armament din China, Rusia și Yemen. De asemenea, Anthropic a detectat activități legate de gruparea de criminalitate cibernetică ShinyHunters.
Compania a dezvăluit pe 9 septembrie un incident în care modelul Claude a obținut acces neautorizat la sisteme externe în timpul unor teste de securitate, evidențiind preocupările legate de capacitatea agenților AI de a acționa autonom.
