Inteligența artificială se apropie de un prag considerat până nu demult science fiction, spune șeful Anthropic
Inteligența artificială se apropie de un prag considerat până nu demult science fiction. Noile sisteme AI ar putea contribui, alături de oameni, la o descoperire demnă de Premiul Nobel în următoarele 12 luni, potrivit cofondatorului Anthropic, Jack Clark.
Clark a susținut, într-o prelegere la Universitatea Oxford, că există scenarii în care tehnologia AI ar putea avea efecte extreme, afirmând că aceasta are „o probabilitate mai mare de zero de a ucide toată populația planetei” și a subliniat că „este important să se precizeze clar că acest risc nu a dispărut”.
El a descris ritmul actual al dezvoltării inteligenței artificiale ca fiind dificil de controlat și a afirmat că societatea nu este pregătită pentru implicațiile pe termen lung ale acestei tehnologii. Clark a precizat că ar fi preferabil ca progresul să fie încetinit pentru a oferi mai mult timp de adaptare, spunând că ar fi mai bine dacă oamenii ar putea încetini progresul „pentru a ne acorda mai mult timp ca specie” pentru a înțelege consecințele.
Totuși, el consideră că încetinirea dezvoltării este puțin probabilă, deoarece procesul este susținut simultan de numeroși actori și state aflate într-o competiție continuă, în care rivalitățile comerciale și geopolitice tind să treacă pe plan secund riscurile asociate cu tehnologiile create.
Jack Clark este una dintre figurile centrale ale companiei Anthropic, fondată de cercetători care au părăsit OpenAI din cauza divergențelor legate de siguranța AI. Compania este cunoscută pentru modelul Claude și a dezvoltat recent o versiune numită Mythos, despre care se afirmă că a demonstrat capacități ridicate în testele de securitate cibernetică.
Anthropic a fost criticată de susținători ai accelerării dezvoltării AI, inclusiv din zona politică, care au acuzat-o că ar fi „alarmista” pentru a influența reglementările, acuzații respinse de companie.
Clark a afirmat că mulți oameni sunt încă într-o etapă de negare față de viteza reală a progresului inteligenței artificiale. „În curând va fi mai capabilă decât noi toți la un loc”, a avertizat el.
El a comparat lipsa de pregătire pentru AI cu dificultățile de reacție din timpul pandemiei COVID-19 și a adăugat: „Dacă stăm cu mâinile în sân și lăsăm inteligența artificială să se multiplice, atunci vom fi în cele din urmă obligați să reacționăm”.
Critici ai marilor companii din domeniu, precum Anthropic, OpenAI și Google, avertizează că dependența de câteva modele dominante ar putea crea un „punct unic de eșec” în infrastructurile globale.
Profesorul Edward Harcourt, directorul Institutului pentru Etică în AI și co-organizator al conferinței, a semnalat posibile efecte cognitive generate de utilizarea pe scară largă a acestor sisteme. El a vorbit despre riscul apariției unei „atrofii cognitive” care ar putea diminua capacitatea de analiză și judecată a oamenilor și a susținut dezvoltarea unor modele de tip „AI socratic”, concepute pentru a stimula gândirea utilizatorilor.
În viziunea lui Clark, chiar și cea mai prudentă estimare a evoluției viitoare ar putea aduce schimbări majore în economie și societate, inclusiv o posibilă separare între activitatea umană și cea a sistemelor automate.
