OpenAI limitează accesul adolescenților la informații despre arme pe ChatGPT

OpenAI limitează informațiile despre arme pentru adolescenții care folosesc ChatGPT

OpenAI a anunțat vineri că înăsprește restricțiile privind informațiile legate de arme pe care ChatGPT le furnizează adolescenților, inclusiv în situațiile în care întrebarea pare inofensivă. Măsura face parte dintr-un pachet de protecții menite să prevină violența.

Decizia vine în contextul în care companiile din domeniul inteligenței artificiale se confruntă cu o atenție tot mai mare asupra riscurilor pe care chatbot-urile le prezintă pentru utilizatorii tineri și asupra rolului pe care aceste companii îl au în detectarea amenințărilor de vătămare.

Restricții aplicate tuturor utilizatorilor

Informațiile practice despre arme și sisteme de securitate care ar putea fi utilizate în mod abuziv vor fi limitate, chiar și atunci când nu există semne de intenție violentă. Pentru toți utilizatorii, ChatGPT va putea încheia automat conversațiile în care cineva pare să fie obsedat de violență, iar OpenAI poate suspenda temporar conturile după mai multe astfel de conversații.

De asemenea, compania va limita informațiile privind atacurile armate din trecut, în special cele în masă. Printre detaliile restricționate se numără cele despre armele folosite și despre modul în care acestea au fost obținute.

Estimarea vârstei și notificarea părinților

OpenAI a precizat că și-a îmbunătățit sistemul de estimare a vârstei, astfel încât utilizatorii estimați a avea sub 18 ani să fie redirecționați către experiența destinată adolescenților. Compania intenționează totodată să notifice părinții în cazul în care contul adolescentului lor este suspendat pentru discutarea repetată a violenței.

Implementarea noilor măsuri de protecție va începe în următoarele câteva săptămâni, iar acestea vor fi perfecționate continuu.

Date privind utilizarea platformei de către adolescenți

La începutul acestei luni, OpenAI a precizat, în primul său raport privind utilizarea platformei de către adolescenți, că aceștia petrec în medie mai puțin de 15 minute pe zi pe ChatGPT. Potrivit unui raport al ONG-ului Common Sense Media, publicat la începutul lunii octombrie, versiunea pentru adolescenți a ChatGPT îi avertiza adesea pe părinți prea târziu sau deloc atunci când conturile adolescenților purtau conversații despre sinucidere, automutilare sau tulburări alimentare.