Un studiu arată că mai multe sisteme AI oferă adesea răspunsuri aproape identice, dar nu „gândesc” la fel
Un studiu realizat de cercetători din Statele Unite a arătat că mai multe sisteme de inteligență artificială oferă adesea răspunsuri aproape identice. Aceasta nu înseamnă însă că modelele „gândesc” la fel.
Inteligența artificială a devenit în ultimii ani un instrument folosit de milioane de oameni pentru a obține informații, idei sau texte creative.
Fenomenul prin care mai multe modele AI răspund similar a fost numit „Artificial Hivemind” („stup artificial”), denumire care a generat dezbateri. La prima vedere, pare că aceste sisteme au un mod comun de „gândire”, dar realitatea este mai nuanțată.
Cercetătorii au adresat aceeași întrebare mai multor modele AI și au observat că multe dintre ele au oferit aceleași exemple și metafore.
Explicația nu este că modelele comunică între ele sau împărtășesc o conștiință comună. Specialiștii spun că motivul este unul simplu: majoritatea acestor sisteme au fost instruite cu ajutorul unor cantități mari de texte publice, cum ar fi cărți, articole și pagini web, potrivit ML Anthology.
Dacă o expresie apare frecvent în aceste surse, este firesc ca mai multe modele să o aleagă ca răspuns potrivit la o întrebare generală.
Este o situație similară cu aceea în care mai mulți elevi învață din același manual. Dacă profesorul pune o întrebare, mulți elevi vor oferi răspunsuri asemănătoare, fără să copieze unul de la altul.
Autorii studiului au analizat în special primul răspuns oferit de fiecare model.
Mulți utilizatori experimentați ai inteligenței artificiale spun însă că ideile cele mai interesante apar pe măsură ce conversația continuă. Dacă utilizatorul oferă explicații suplimentare, cere exemple sau schimbă direcția discuției, răspunsurile devin mai originale și mai adaptate situației.
Astfel, prima reacție a unui model AI este adesea cea mai sigură și cea mai comună. Abia după câteva schimburi de replici apar răspunsuri cu un nivel mai mare de creativitate.
Un model de inteligență artificială nu răspunde întotdeauna la fel. Totul depinde de informațiile primite.
Dacă întrebarea este foarte scurtă, răspunsul va fi, în general, unul general. Dacă utilizatorul explică ce dorește, oferă exemple și pune întrebări suplimentare, răspunsul poate fi complet diferit.
Acesta este și motivul pentru care două persoane care folosesc același model AI pot primi răspunsuri foarte diferite pentru aceeași temă.
Nu doar modelul contează, ci și modul în care se desfășoară dialogul.
Concluziile studiului sunt importante deoarece inteligența artificială este folosită tot mai mult în educație, jurnalism, programare sau activități creative.
Dacă oamenii se limitează la o singură întrebare și acceptă primul răspuns, există riscul ca multe texte generate de AI să fie asemănătoare.
În schimb, dacă conversația continuă și utilizatorul cere explicații, exemple sau perspective diferite, rezultatele devin mai variate și personalizate.
Studiul aduce în discuție și modul actual de testare a sistemelor AI.
În prezent, multe evaluări se bazează pe întrebări scurte și pe primul răspuns al modelului. Unii specialiști consideră însă că această metodă surprinde doar o parte din comportamentul real al sistemelor.
În viața de zi cu zi, oamenii poartă conversații, revin cu întrebări și dezvoltă ideile pas cu pas. De aceea, cercetătorii consideră că viitoarele teste ar trebui să analizeze și modul în care modelele evoluează pe parcursul unui dialog mai lung.
Fenomenul „Artificial Hivemind” există și poate fi observat atunci când mai multe modele AI primesc aceeași întrebare simplă. Totuși, acest lucru nu demonstrează că ele împărtășesc o inteligență colectivă sau funcționează ca o singură minte.
Mai degrabă, rezultatele arată că sistemele AI pornesc de la aceleași surse de informații și aleg, în prima fază, răspunsurile cele mai cunoscute și probabile.
Pe măsură ce dialogul continuă, diferențele dintre modele devin mai vizibile, iar utilizatorul poate primi răspunsuri tot mai adaptate nevoilor sale. În cele din urmă, calitatea conversației poate conta la fel de mult ca modelul AI folosit.
