Companie chineză dezvoltă tehnologii AI pentru monitorizarea activității online și a deplasărilor
Geedge Networks, o firmă din China specializată în tehnologii de supraveghere, dezvoltă sisteme bazate pe inteligență artificială care analizează date de localizare și activitatea online pentru a identifica persoane considerate potențiale amenințări politice, conform publicației The New York Times.
Compania lucrează la tehnologii care depășesc monitorizarea tradițională a internetului, urmărind să anticipeze comportamente considerate sensibile de autorități. Geedge comercializează o versiune destinată pieței externe a sistemelor de filtrare și monitorizare a internetului utilizate în China, care permit supravegherea traficului online și identificarea tentativelor de evitare a cenzurii.
Documente interne analizate de cercetători de la Universitatea Vanderbilt arată că firma dezvoltă produse noi, bazate pe inteligență artificială, ce folosesc informații despre deplasările persoanelor și activitatea lor online pentru a identifica riscuri politice. Specialiștii americani consideră că astfel de tehnologii ar putea oferi autorităților un instrument suplimentar pentru supravegherea populației.
„Asta se întâmplă când supravegherea în masă întâlnește I.A.”, a declarat Brett J. Goldstein, directorul Wicked Problems Lab din cadrul Institutului de Securitate Națională al Universității Vanderbilt. „Fără un sistem de control și echilibru, ceea ce face China propriilor cetățeni este o avanpremieră a ceea ce devine posibil oriunde aceste instrumente sunt lăsate nesupravegheate.”
Analiza cercetătorilor arată că Geedge și laboratorul său de cercetare, MESA Lab, susținut de stat, dezvoltau sisteme capabile să construiască profiluri detaliate ale cetățenilor folosind informații provenite din telecomunicații, rețele sociale și date de localizare. În primele luni din 2024, echipele lucrau la modele de inteligență artificială pentru clasificarea persoanelor și identificarea a ceea ce documentele denumesc „informații dăunătoare”, un termen folosit frecvent în China pentru conținut considerat sensibil politic.
Potrivit procesului-verbal al unei ședințe din 5 februarie 2024, cercetătorii discutau metode de creare a profilurilor comportamentale pentru a „identifica intențiile” persoanelor și pentru a „realiza descoperirea informațiilor dăunătoare”. Documentele sugerează că firma încerca să dezvolte instrumente capabile să anticipeze cine ar putea deveni critic la adresa autorităților, pe baza tiparelor de comportament identificate în volume mari de date.
„Echipa de cercetare de la Geedge făcea mai mult decât să documenteze tipare comportamentale. Încercau să prezică ce ar putea face cetățenii în continuare și cu cine”, a spus Brett V. Benson. „Acele stocuri de date despre lucruri obișnuite sunt materii prime pentru generarea de profiluri care determină cine ești și ce vei face în continuare.”
Documentele relevă că dezvoltarea acestor sisteme a fost afectată de restricțiile impuse de Statele Unite privind exportul de cipuri avansate către China. Conform profesorului Benson, compania întâmpina dificultăți în accesarea unităților de procesare grafică necesare pentru antrenarea și utilizarea modelelor AI, fiind nevoită să utilizeze modele și cipuri mai vechi, cu performanțe reduse.
Foști oficiali americani au afirmat că aceste restricții au contribuit la încetinirea dezvoltării tehnologiilor chineze bazate pe inteligență artificială și la menținerea avantajului tehnologic al Statelor Unite.
Datele analizate provin din aproximativ 100.000 de documente interne ale companiei, publicate online anul trecut. Cercetătorii de la Vanderbilt s-au concentrat în special pe proiectele aflate în dezvoltare și pe posibilitatea ca tehnologiile predictive bazate pe inteligență artificială să devină produse exportate de companiile chineze.
Oficiali americani citați în analiză susțin că nu există dovezi că Geedge a finalizat sau implementat sistemele predictive descrise în documente, dar afirmă că firmele chineze continuă să investească în astfel de instrumente pentru extinderea capacităților de supraveghere.
„Serviciile de securitate chineze se confruntă cu o supraîncărcare de date”, a declarat Jimmy Goodrich, cercetător principal la Institutul pentru Conflict Global și Cooperare al Universității din California. „Au prea multe informații deodată. Adevărata valoare a inteligenței artificiale este că pot tria datele și găsi amenințările. Însă capacitatea lor de a extinde acest sistem depinde de accesul lor la puterea de calcul. Iată ce face ca aceste controale la export să fie atât de importante.”
