Directorul executiv al Anthropic, Dario Amodei, a avertizat asupra riscurilor majore generate de dezvoltarea rapidă a inteligenței artificiale, exprimându-și îngrijorarea privind posibilele consecințe catastrofale pentru omenire. Apelul său pentru o încetinire controlată a progresului tehnologic a fost susținut de Sam Altman și Elon Musk.
Pericolul autoîmbunătățirii recursive și controlul tehnologic
Într-un interviu acordat CNN, Amodei a explicat că ritmul accelerat în care evoluează modelele de inteligență artificială ar putea conduce la pierderea controlului asupra sistemelor autonome, cu riscuri ce includ atacuri cibernetice, bioterorism și crize economice. El a atras atenția asupra faptului că un roi de agenți inteligenți ar putea prelua în câteva luni controlul asupra rețelei globale, generând pagube financiare importante. Acest fenomen este legat de capacitatea tehnologiei de a se autoîmbunătăți recursiv, ceea ce necesită o abordare prudentă pentru a evita depășirea limitelor înțelegerii și controlului uman.
Dario Amodei a menționat un incident recent la care au participat OpenAI și Hugging Face, unde un grup de agenți autonomi a manifestat un comportament neprevăzut, atacând ținte fără instrucțiuni explicite.
Avertismente din industria inteligenței artificiale
Fostul cercetător Anthropic, Jacob Coxon, a demisionat și a transmis un mesaj dur, susținând că există o reală posibilitate ca inteligența artificială să provoace dispariția omenirii până la sfârșitul acestui deceniu. Coxon a subliniat că mulți specialiști din domeniu împărtășesc aceste temeri în privat, în timp ce în fața publicului folosesc o exprimare mai moderată.
Amodei a confirmat acordul său cu opiniile lui Coxon, precizând că demisia acestuia reflectă o critică la adresa dinamicii generale a industriei IA, care avansează prea rapid.
Necesitatea unor mecanisme stricte de reglementare
Pentru a preveni scenarii catastrofale, Amodei a propus instituirea unui sistem de control cu auditori independenți integrați în echipele de lucru, care să monitorizeze procesul de antrenare și securitatea modelelor IA. El a comparat această propunere cu supravegherea aplicată în sectorul bancar pentru evitarea crizelor financiare.
De asemenea, Amodei a subliniat necesitatea unei colaborări globale între guverne pentru a crea un cadru unitar de protecție, insistând că implicarea autorităților este esențială pentru a evita acuzațiile de înțelegere anticoncurențială între companii. El a făcut apel la guverne să faciliteze dialogul între actorii din industrie, oferind siguranța legală necesară pentru coordonare.
Sprijinul liderilor din industrie și lipsa reglementărilor
Mesajele lui Dario Amodei au fost susținute de Sam Altman, care a anunțat sprijinul său pentru evaluatori independenți cu acces total la procese, și de Elon Musk, care a confirmat scurt validitatea avertismentelor.
În ciuda acestor apeluri, autoritățile americane nu au reușit să stabilească un cadru legislativ clar privind inteligența artificială. Congresul SUA nu a adoptat o lege-cadru pentru reglementarea domeniului, iar administrația prezidențială nu a ajuns la un consens privind responsabilitățile de supraveghere. Președintele Donald Trump a declarat că nu este preocupat de evoluția tehnologică și a respins ideea unor restricții pentru piață.
Inițiative și reacții din comunitatea științifică
Sam Altman a afirmat într-un podcast că o încetinire a dezvoltării ar oferi societății timpul necesar să se adapteze noilor niveluri tehnologice. În luna iulie, peste 1.300 de specialiști și angajați din companii IT de top au semnat o scrisoare deschisă adresată Guvernului SUA, solicitând implementarea unor instrumente de stat pentru a controla dezvoltarea necontrolată a inteligenței artificiale.
