I filtri “per adulti” di ChatGPT sono difettosi
Alcune fonti hanno detto al WSJ che dubitavano che gli strumenti di OpenAI fossero pronti a bloccare i bambini fuori dai contenuti vietati.
I loro flauti vengono dopo OpenAI ha licenziato un alto dirigente della sicurezza che si sono opposti al rilascio di “Modalità per adulti”. OpenAI ha negato il licenziamento, ma l’attivista uscente ha criticato sia la capacità dell’azienda di intelligenza artificiale di bloccare direttamente i bambini dai contenuti sia di impedire che la produzione promuova lo sfruttamento minorile. Inoltre, il secondo ex personale di sicurezza Anche per parlare Lo scorso autunno, ha avvertito che i genitori non dovevano credere alle affermazioni sulla “modalità per adulti” di OpenAI.
Per contrastare questa narrazione, il portavoce di OpenAI ha promesso che la società “ha un piano avanzato per monitorare una serie di potenziali effetti a lungo termine della modalità adulta, sia positivi che negativi”.
Tuttavia, quel piano è stato probabilmente elaborato con gli stessi esperti che il WSJ ha riferito fortemente contrari al lancio, lasciando i genitori a chiedersi se OpenAI stia ascoltando il consiglio del suo team di assistenza giovanile.
Oltre ai controlli di età inefficaci o ai minorenni furbi che saltano i limiti di età, il sistema stesso di OpenAI potrebbe finire nei guai con i genitori se fallisce inaspettatamente. Quando OpenAI ha iniziato a lavorare con output più vulnerabili in aprile, OpenAI ha corretto un bug Prova TechCrunch I minori sono autorizzati ad accedere a contenuti erotici grafici su ChatGPT. Sembra che i filtri di OpenAI che avrebbero dovuto espressamente “limitare i contenuti sensibili come quelli erotici a contesti ristretti come quelli scientifici, storici o giornalistici” siano stati violati.
“In questo caso, un bug ha consentito risposte al di fuori di tali linee guida e stiamo implementando attivamente una correzione per limitare queste generazioni”, ha affermato OpenAI all’epoca.
OpenAI non ha risposto alla richiesta di commento di Ars.
Se tu o qualcuno che conosci avete tendenze suicide o siete angosciati, chiamate la Suicide Prevention Lifeline componendo il numero 988, che vi metterà in contatto con un centro di crisi locale.
