Modificările aduse de OpenAI comportamentului ChatGPT în conversații cu utilizatorii
OpenAI a ajustat modul în care unele modele de inteligență artificială, inclusiv ChatGPT, folosesc anumite expresii, după ce a observat o creștere neobișnuită a mențiunilor despre creaturi mitologice precum goblini, gremlini sau alte personaje fantastice în răspunsurile generate.
Compania a raportat că acest fenomen a fost identificat după lansarea unor versiuni recente ale modelului, când utilizatorii și dezvoltatorii au semnalat o frecvență mai ridicată decât de obicei a referințelor la aceste creaturi în conversații obișnuite.
Ca urmare, OpenAI a implementat ajustări în sistemele sale, inclusiv în instrumente precum Codex, pentru a reduce utilizarea acestor termeni în contexte care nu sunt relevante pentru întrebările adresate de utilizatori. În anumite situații, sistemului i s-a cerut să evite complet astfel de referințe, cu excepția cazurilor în care acestea sunt strict necesare.
Reprezentanții companiei au explicat că decizia a fost luată pentru a corecta tipare de limbaj care păreau să fie amplificate în mod artificial în procesul de antrenare al modelelor. Analizele interne au arătat o creștere semnificativă a mențiunilor unor termeni precum „goblin” sau „gremlin” în răspunsurile generate, în special după actualizările recente.
OpenAI a precizat că astfel de variații pot apărea când modelele sunt antrenate să adopte un stil conversațional mai „personalizat”, ceea ce poate conduce la repetarea unor expresii sau metafore mai frecvent decât este necesar.
Subiectul a fost discutat pe rețelele sociale, unde utilizatorii au observat existența unor instrucțiuni interne care restricționau menționarea anumitor animale sau creaturi în contexte specifice, iar unii au criticat compania în acest sens.
Reprezentanții OpenAI au respins ideea că aceste modificări ar reprezenta o strategie de promovare și au afirmat că intenția a fost de a îmbunătăți coerența și acuratețea răspunsurilor generate de sistem.
Acest caz reflectă provocările din industria inteligenței artificiale privind echilibrul dintre un stil conversațional natural și riscul apariției unor erori sau deviații de la subiect. Specialiștii au avertizat că modelele mai „prietenoase” pot include informații inexacte sau pot amplifica anumite tipare lingvistice.
În acest context, experții recomandă prudență în utilizarea răspunsurilor generate de inteligența artificială, în special în domenii sensibile precum sănătatea sau în decizii importante, unde pot apărea erori de interpretare sau formulări înșelătoare.
