Zuckerberg: Nu încetinim AI-ul, siguranța e deja un motiv suficient
Zuckerberg respinge ideea încetinirii dezvoltării AI: companiile au „suficiente motive” să construiască în siguranță
Directorul general al Meta, Mark Zuckerberg, consideră că marile companii de inteligență artificială au suficiente motive să-și dezvolte singure sistemele de siguranță, fără a fi nevoie de o încetinire coordonată a progresului în domeniul AI. Declarația sa vine în contextul în care lideri din industrie cer o abordare comună pentru reducerea riscurilor asociate dezvoltării rapide a inteligenței artificiale.
Zuckerberg a susținut că fiecare laborator AI are atât responsabilitatea, cât și interesul de a-și dezvolta modelele într-un ritm compatibil cu măsurile de siguranță. În opinia sa, companiile care nu acordă suficientă atenție alinierii modelelor la obiectivele și valorile oamenilor riscă să rămână în urmă.
„Încrederea și alinierea devin rapid cele mai importante capacități care vor diferenția agenții și modelele”, a transmis Zuckerberg, adăugând că orice laborator care nu se concentrează pe această zonă va pierde teren în fața competitorilor.
Șeful Meta a indicat și riscul unor consecințe juridice ca stimulent important pentru companii. Dacă un sistem AI provoacă prejudicii, compania care l-a dezvoltat ar putea suporta consecințe financiare și juridice semnificative.
Zuckerberg a dat ca exemplu chiar compania pe care o conduce, arătând că Meta a amânat lansarea agentului AI Muse la începutul acestui an pentru a consolida măsurile de securitate. Decizia nu a fost luată pentru a aștepta o acțiune comună a industriei. „Nu am cerut tuturor celorlalți să facă asta înaintea noastră. Pur și simplu am făcut-o ca parte a activității noastre de zi cu zi”, a explicat el. Meta susține de asemenea că utilizează evaluatori independenți pentru mai multe componente ale sistemelor sale AI, practică descrisă de Zuckerberg drept un standard pe care și celelalte laboratoare îl pot adopta.
Poziția Meta, după apelul Anthropic pentru încetinirea dezvoltării AI
Declarațiile lui Zuckerberg apar la doar câteva zile după ce Dario Amodei, directorul general al Anthropic, a cerut companiilor AI să încetinească ritmul de îmbunătățire a capacităților modelelor. Amodei s-a referit în special la dezvoltarea capacității AI de a contribui la propria îmbunătățire, cunoscută drept „recursive self-improvement”.
Șeful OpenAI, Sam Altman, și Elon Musk, fondatorul xAI, au susținut public apelul lui Amodei la scurt timp după declarațiile acestuia.
Zuckerberg a afirmat că majoritatea semnificativă a resurselor de calcul ale Meta este direcționată către dezvoltarea unor produse care răspund nevoilor imediate ale utilizatorilor, iar compania nu ar concentra aceste resurse în principal asupra dezvoltării unor sisteme AI capabile de autoîmbunătățire. Declarația este importantă deoarece tocmai acest tip de dezvoltare se află în centrul îngrijorărilor exprimate de Amodei și de alți cercetători.
Dezbaterea privind reglementarea AI și poziția administrației americane
Discuția are loc și pe fondul unei poziții prudente a administrației americane față de noi restricții asupra industriei AI. Președintele Donald Trump a minimalizat temerile privind potențialele efecte negative ale inteligenței artificiale și a susținut că Statele Unite au deja mecanisme de protecție pentru această tehnologie.
Argumentul potrivit căruia reglementarea excesivă ar putea afecta competitivitatea SUA în raport cu China este împărtășit și de lideri din industria tehnologică, inclusiv de CEO-ul Nvidia, Jensen Huang.
În același timp, președintele Comisiei Federale pentru Comerț din SUA, Andrew Ferguson, a avertizat că publicul ar trebui să fie „profund suspicios” față de companiile AI care solicită excepții de la legislația antitrust în timp ce cer noi reguli pentru industrie. Ferguson nu a nominalizat Anthropic, însă compania ceruse anterior permisiunea de a colabora cu rivalii pentru a încetini anumite direcții de dezvoltare AI din motive de siguranță.
