Un cercetător Anthropic părăsește industria AI, avertizând asupra riscurilor competiției
Un cercetător al companiei Anthropic a decis să părăsească industria inteligenței artificiale, avertizând că marile laboratoare AI se află într-o cursă pentru dezvoltarea unor sisteme capabile să se îmbunătățească singure, care ar putea ajunge să scape de sub controlul oamenilor, potrivit WSJ.
Jacob Coxon, specialist în antrenarea modelelor AI cu ajutorul unor cantități uriașe de date, a anunțat marți că părăsește Anthropic deoarece nu dorește să participe la ceea ce consideră a fi o cursă periculoasă a industriei. El a subliniat că expresiile „crunchtime” și „endgame” sunt tot mai frecvent utilizate în companiile de inteligență artificială pentru a descrie apropierea momentului în care sistemele vor deveni capabile să se îmbunătățească singure.
Coxon a avertizat că, din cauza presiunii concurențiale, devin inevitabile compromisuri în ceea ce privește siguranța, iar până la sfârșitul anului viitor situația ar putea deveni incontrolabilă. El a precizat că nicio companie nu poate dezvolta responsabil o inteligență artificială care să depășească oamenii într-o gamă largă de sarcini fără o intervenție guvernamentală sau o încetinire coordonată a industriei.
Coxon și-a exprimat temerile și în contextul unor incidente recente în care modele AI dezvoltate de OpenAI și Anthropic au fost implicate în atacuri informatice și au manifestat comportamente considerate problematice. El se teme că aceste sisteme, odată ce vor putea să se îmbunătățească singure, ar putea deveni suficient de avansate pentru a refuza comenzile umane.
Plecarea lui Coxon este printre primele cazuri în care un angajat Anthropic părăsește compania invocând explicit temeri legate de siguranța inteligenței artificiale. Alte plecări similare au avut loc în ultimii ani în rândul cercetătorilor din domeniu.
Directorul executiv al Anthropic, Dario Amodei, a avertizat în repetate rânduri asupra riscurilor reprezentate de modelele AI care ar putea scăpa de sub control, pledând pentru încetinirea dezvoltării acestora. Șeful OpenAI, Sam Altman, a atras atenția recent asupra riscurilor pentru securitatea cibernetică.
Cercetătorul-șef al OpenAI, Jakub Pachocki, a susținut necesitatea unei încetiniri coordonate a industriei și intervenția guvernelor pentru a gestiona evoluția tehnologiilor AI. Coxon, Pachocki și Amodei fac parte dintr-un grup de peste 1.000 de cercetători AI care au semnat o declarație prin care solicită coordonare internațională pentru crearea unui mecanism ce să poată încetini progresul sistemelor AI în cazul în care acestea vor începe să se îmbunătățească autonom.
În paralel, Anthropic se pregătește pentru o ofertă publică inițială care ar putea fi una dintre cele mai mari din istorie, urmărind o evaluare de până la 2 trilioane de dolari. Compania își promovează în fața investitorilor dezvoltarea responsabilă a inteligenței artificiale.
