Un raport fals generat de un sistem de inteligență artificială a adus Statele Unite în pragul unei crize militare cu China
Documentul, care pretindea că o navă chineză transporta componente pentru un program nuclear în Orientul Mijlociu, a fost diseminat în primăvara acestui an în cadrul armatei americane, în timpul conflictului cu Iranul, și a declanșat o alertă majoră de securitate, susține CNN.
Pe baza raportului, armata americană a reacționat imediat și a inițiat planurile pentru interceptarea navei. Surse familiare cu incidentul au confirmat pentru CNN că avioanele militare fuseseră deja ridicate de la sol, iar forțele armate se pregăteau să abordeze vasul chinezesc. Cu doar câteva momente înainte de declanșarea operațiunii, superiorii au analizat mai detaliat documentul întocmit de un analist al comandamentului de operațiuni speciale.
Aceștia au descoperit că analistul utilizase un chatbot care, fuzionând informații din surse deschise cu date secrete, a identificat în mod eronat încărcătura navei și a generat un raport standardizat extrem de convingător.
Acest incident alarmant subliniază riscurile profunde ale utilizării tehnologiilor emergente pentru luarea deciziilor în plin război. Cu toate acestea, oficialii din domeniul apărării forțează integrarea inteligenței artificiale în aproape toate aspectele operaționale, de la logistică până la selectarea țintelor pentru atacuri.
Secretarul Apărării, Pete Hegseth, a lansat în luna ianuarie a acestui an „Strategia de Accelerare a Inteligenței Artificiale”, un plan menit să elimine barierele birocratice și să pună tehnologia direct în mâinile a milioane de angajați civili și militari. Argumentul principal este nevoia de a menține un avantaj strategic rapid în fața unor potențiali adversari precum China.
Experții avertizează că expansiunea rapidă a acestor sisteme în cadrul comunității de informații este puternic descentralizată, lipsind cu desăvârșire un set unitar de standarde pentru verificarea datelor. Erorile de tip „halucinație”, în care AI-ul inventează fapte, nu sunt incidente izolate, iar utilizarea lor în stabilirea țintelor militare aduce un risc enorm de victime civile sau calcule greșite catastrofale.
Presiunea de a livra informații într-un timp record îi determină în special pe tinerii analiști să aibă o încredere necritică în aceste instrumente, validând temerea oficialilor veterani că inteligența artificială permite acum, mai mult ca niciodată, luarea unor decizii dezastruoase într-un ritm accelerat.
