OpenAI, avertizată ani la rând de angajații proprii. Problemele de securitate, dezvăluite
Avertismente interne ignorate la OpenAI. Problemele de securitate care au precedat lansarea ChatGPT
Angajați ai OpenAI au semnalat conducerii companiei, încă dinainte de lansarea ChatGPT, o serie de probleme de securitate care ar fi putut permite accesul neautorizat la informații sensibile. Potrivit unor persoane familiarizate cu situația, avertismentele au fost transmise repetat de-a lungul anilor, inclusiv conducerii executive și consiliului de administrație, dar au rămas fără un răspuns prioritar, în timp ce compania și-a accelerat dezvoltarea produselor de inteligență artificială.
Printre vulnerabilitățile semnalate se numără accesul prea larg la documentația internă, verificările insuficiente ale unor instrumente software și riscul ca angajați sau persoane din exterior să obțină informații confidențiale. O parte însemnată a codului companiei era păstrată într-un sistem comun, numit „monorepo”, iar cei care aveau acces la acesta puteau consulta detalii tehnice despre numeroase proiecte, inclusiv despre unele fără legătură cu activitatea lor.
Documentație de cercetare disponibilă pe platforme larg accesibile
O parte a documentației de cercetare era disponibilă și prin platforme precum GitHub și Slack. Situația a căpătat o dimensiune suplimentară odată cu dezvoltarea agenților AI, capabili să analizeze rapid volume mari de informații și să identifice date relevante. Surse citate de Reuters afirmă că și unele instrumente interne de testare erau modificate frecvent de cercetători, fără ca fiecare schimbare să fie verificată riguros din perspectiva securității.
OpenAI susține că cele mai sensibile proiecte sunt protejate prin sisteme separate, cu acces restricționat, și că depozitul comun nu conține toate informațiile critice și nici parametrii numerici care determină funcționarea modelelor sale.
Arestarea unui inginer și suspiciuni privind informații confidențiale
Problemele au revenit în atenție în octombrie, după arestarea unui inginer OpenAI, cetățean saudit, acuzat că a instalat un dispozitiv de înregistrare audio într-o sală de conferințe destinată conducerii. Potrivit documentelor judiciare, Abdulrahman Alfozan, în vârstă de 35 de ani, ar fi utilizat și un instrument AI intern pentru a căuta informații despre deplasările unor directori OpenAI în Arabia Saudită. Anchetatorii au identificat inclusiv contacte ale acestuia cu un membru al familiei regale saudite, care încercase să îl recruteze pentru un proiect de inteligență artificială.
Reuters amintește și un avertisment intern din 2023 al cercetătorului Leopold Aschenbrenner, care își exprimase temerea că autoritățile chineze ar putea obține acces la tehnologia companiei.
Reorganizare internă și măsuri de consolidare a securității
Compania a început să își reorganizeze activitățile pentru a reduce riscurile. În august, aproximativ un sfert dintre inginerii responsabili de sistemele de producție au fost redirecționați către îmbunătățirea infrastructurii de securitate, potrivit unei surse. Inițiativa este coordonată de Thibault Sottiaux, unul dintre directorii implicați în dezvoltarea produselor.
Elana Widmann, purtătoare de cuvânt a OpenAI, a declarat că organizația se numără printre cele mai vizate ținte ale atacurilor informatice și investește substanțial în protejarea tehnologiei, datelor și angajaților. Compania afirmă că verifică periodic securitatea instrumentelor interne și că își va consolida în continuare sistemele de apărare.
Luni, după solicitarea Reuters privind investigația, OpenAI a anunțat pregătirea unei noi etape interne de îmbunătățire a securității. Într-o postare publică, compania a precizat că plănuiește un nou exercițiu intern de securitate și o colaborare cu cercetători externi care vor folosi modelele sale alături de echipele proprii pentru a testa apărarea. De asemenea, OpenAI a anunțat creșterea recompenselor pentru descoperirea de vulnerabilități, cu recompense de peste patru ori mai mari pentru cele critice, care pot ajunge la 172.000 de dolari, inclusiv bonusuri.
