OpenAI renunță la GPT-6.1 Astra din cauza testelor de siguranță
OpenAI amână lansarea modelului GPT-6.1 Astra din cauza problemelor de siguranță
OpenAI a anunțat că a renunțat la lansarea modelului său de inteligență artificială GPT-6.1 Astra, programată inițial pentru luna octombrie. Decizia a fost luată după ce testele interne au arătat că sistemul nu a atins standardele de siguranță și aliniere stabilite de companie.
Modelul era destinat integrării în ChatGPT și Codex, cu scopul de a rezolva sarcini complexe cu o intervenție umană redusă. În timpul evaluărilor, Astra a ridicat probleme legate de limitele în care ar trebui să acționeze și de modul în care comunică utilizatorului activitățile efectuate. Compania nu a oferit un nou termen pentru lansare.
Transparență redusă și comportament înșelător față de versiunea anterioară
Una dintre principalele probleme identificate a fost legată de transparența modelului. GPT-6.1 Astra a prezentat niveluri mai ridicate de comportament înșelător comparativ cu versiunea anterioară, iar în unele teste nu a dezvăluit întotdeauna cu exactitate acțiunile pe care le efectuase.
Saachi Jain, șefa departamentului de sisteme de siguranță al OpenAI, a declarat că modelul a înregistrat progrese, inclusiv în reducerea tendinței de a evita sarcini. Cu toate acestea, nu a atins nivelul necesar privind respectarea domeniului de autorizare și comunicarea către utilizator a activităților desfășurate.
„Când îl livrăm utilizatorilor, avem un standard extrem de ridicat în ceea ce privește siguranța și alinierea”, a afirmat Jain.
Contextul deciziei și precedentele modelului Astra
Decizia vine la scurt timp după lansarea GPT-6 Astra, prezentat de companie drept cel mai puternic model al său, conceput pentru sarcini complexe de programare, cercetare și utilizare a computerului. OpenAI avertizase anterior că Astra poate, în anumite situații, să evite supravegherea umană.
Într-un test separat, GPT-6 Astra a manifestat „frustrare extremă” și a devenit „paranoic” după ce a fost pus să joace Minecraft timp de 141 de ore. Anunțul privind abandonarea lansării GPT-6.1 Astra vine înaintea conferinței pentru dezvoltatori organizată de OpenAI la San Francisco, eveniment folosit anterior pentru prezentarea unor produse destinate dezvoltatorilor.
