Propunerea unei autorități autonome pentru supravegherea IA
OpenAI a confirmat marți că lucrează împreună cu Anthropic și Google DeepMind la crearea unui organism destinat evaluării și supravegherii riscurilor asociate inteligenței artificiale, informează AFP.
Ideea a pornit de la o propunere lansată la jumătatea lunii iulie de Demis Hassabis, fost director executiv al Google DeepMind înainte de a prelua funcția de președinte al companiei la începutul lunii august.
Hassabis a sugerat crearea unei entități comparabile cu Autoritatea de Reglementare a Industriei Financiare din SUA, organismul de autoreglementare din domeniul financiar din Statele Unite, a cărui funcționare a fost autorizată prin lege federală și care este supravegheat de Comisia pentru Bursă și Valori Mobiliare (SEC).
Potrivit planului conturat de Hassabis, noua structură ar urma să fie finanțată chiar de companiile din sector, având un consiliu de conducere alcătuit din experți.
Odată ce organismul va deveni operațional, companiile care dezvoltă cele mai avansate tehnologii vor fi obligate să își supună noile modele unei evaluări riguroase, axate în special pe siguranță, înainte de comercializarea acestora pe piață.
Totodată, Demis Hassabis a menționat că noua autoritate ar putea decide inclusiv o încetinire coordonată a ritmului de dezvoltare a inteligenței artificiale, în cazul în care evaluarea riscurilor nu va putea ține pasul cu progresele rapide ale tehnologiei.
Avertismentul sumbru venit din industrie
Apelurile liderilor din domeniu au venit la câteva zile după ce un cercetător care a lucrat la Anthropic și OpenAI a lansat un avertisment sumbru despre tehnologie.
„Nu subestimați puterea acestei tehnologii. Aceste sisteme vor deveni în curând supraumane, capabile să spargă orice sistem informatic, să revoluționeze orice domeniu peste noapte și să dobândească putere și resurse reale. Oamenii care dezvoltă inteligența artificială cred cu sinceritate că aceasta ne-ar putea elimina pe toți până la sfârșitul deceniului”, declara Jacob Coxon.
Donald Trump respinge intervenția statului
În ciuda cererilor exprimate de liderii din sectorul inteligenței artificiale, președintele Donald Trump a respins necesitatea reglementării tehnologiei, afirmând: „Singurul control sau măsură de siguranță de care are nevoie IA este un președinte puternic și inteligent (cu un IQ ridicat!), iar SUA dispun din plin de așa ceva! Există o conspirație sinistră împotriva IA și a centrelor de date, de care se bucură China”.
