Rolul lui Claude în cercetarea și dezvoltarea Anthropic
Claude coordonează 26% din activitatea de cercetare și dezvoltare a modelelor Anthropic, ceea ce, potrivit companiei, înseamnă că modelul poate duce la bun sfârșit cea mai mare parte a unei sarcini date „de la început până la sfârșit, pornind de la o instrucțiune de nivel înalt”, rămânând totuși sub supraveghere umană.
Modelul nu funcționează încă într-un mod complet autonom. Cu toate acestea, aproximativ 90% din activitatea de cercetare și dezvoltare a companiei se desfășoară în „colaborare” cu Claude, ceea ce, potrivit Anthropic, înseamnă că modelul poate realiza „volume mari de muncă sub îndrumarea atentă a oamenilor”.
În contextul solicitărilor de încetinire a ritmului dezvoltării inteligenței artificiale, promovate în principal de CEO-ul Anthropic, Dario Amodei, compania susține necesitatea reducerii decalajului dintre cunoștințele laboratoarelor de vârf și informațiile disponibile publicului. Anthropic a declarat, într-o postare pe blog, că „ar trebui să facem tot ce este posibil pentru a reduce la minimum decalajul dintre ceea ce știu laboratoarele de vârf și ceea ce știe publicul”.
„Asta înseamnă o mai bună măsurare a dezvoltării AI, raportarea publică a acesteia și oferirea societății a oportunității de a decide cum să utilizeze aceste informații”, potrivit companiei.
Compania a afirmat că modelele care își accelerează propria dezvoltare ar putea face ca „înțelegerea sau controlul acestor sisteme de către oameni să devină mai dificil”.
Aceasta a susținut că partajarea acestor indicatori ar putea duce la o mai bună înțelegere a cât de aproape sunt laboratoarele de vârf din domeniul AI de a atinge autoîmbunătățirea recursivă, practic abilitatea unui model de a-și construi în mod autonom succesorul.
Compania a prezentat, de asemenea, detalii privind măsurile de supraveghere a agenților pe care le-a implementat, precizând că, în luna august, aproximativ 30.000 de agenți desfășurau activități de cercetare și inginerie.
Măsurile de supraveghere sunt esențiale pentru a identifica frecvența cu care comportamentul necorespunzător al agenților este detectat de sistemele de monitorizare, potrivit Anthropic.
Compania s-a angajat, recent, să desemneze evaluatori externi independenți, care vor fi integrați în cadrul companiei pentru a monitoriza eforturile în materie de siguranță.
