Nella prima metà del 2025, il numero di segnalazioni Cybertipline inviate da OpenAI è stato di circa 74.559 rispetto al numero di segnalazioni OpenAI inviate pari a circa 75.027. Nella prima metà del 2024 ha inviato 947 segnalazioni Cybertipline per un totale di circa 3.252 segnalazioni. Sia il numero di rapporti che i contenuti sono aumentati significativamente tra i due periodi.
Il contenuto, in questo contesto, può significare più cose. Lo dice OpenAI Rapporto Tutte le istanze di materiale pedopornografico, inclusi caricamenti e richieste, a NCMEC. Oltre alla sua app ChatGPT, che consente agli utenti di caricare file, comprese immagini, e generare testo e immagini in risposta, OpenAI offre anche l’accesso ai suoi modelli tramite accesso API. Il conteggio NCMEC più recente non includerà alcuna segnalazione correlata App di generazione video SoraDal momento che il suo rilascio a settembre è avvenuto dopo l’intervallo di tempo coperto dall’aggiornamento.
Il picco di segnalazioni ha seguito un modello simile a quello osservato dall’NCMEC nelle cybertipline in senso più ampio con l’avvento dell’intelligenza artificiale generativa. del centro Analisi Tutti i dati di Cybertipline hanno rilevato che i rapporti che coinvolgono l’IA generativa sono aumentati del 1.325% tra il 2023 e il 2024. NCMEC non ha ancora rilasciato i dati del 2025 e altri importanti laboratori di intelligenza artificiale come Google Sebbene pubblichino statistiche sul numero di rapporti NCMEC che hanno prodotto, non specificano quale percentuale di tali rapporti sia correlata all’intelligenza artificiale.
L’aggiornamento di OpenAI arriva alla fine di un anno in cui l’azienda e i suoi concorrenti hanno dovuto affrontare un maggiore controllo per questioni di protezione dei minori che vanno oltre la semplice CSAM. In estate sono stati inviati 44 procuratori generali dello Stato lettera congiunta Diverse società di intelligenza artificiale, tra cui OpenAI, Meta, Character.AI e Google, hanno avvertito che “useranno ogni aspetto della nostra autorità per proteggere i bambini dallo sfruttamento da parte dei prodotti di intelligenza artificiale degli insegnanti”. Sia OpenAI che Character.AI si affrontano più di uno il caso Da famiglie o individui che sostengono che i chatbot abbiano contribuito alla morte dei loro figli. In autunno, la Commissione Giustizia del Senato degli Stati Uniti ha tenuto una riunione l’udienza Sui chatbot basati sull’intelligenza artificiale e sui danni provocati dalla Federal Trade Commission degli Stati Uniti Condotto una ricerca di mercato I robot associati all’intelligenza artificiale includono domande su come le aziende stanno mitigando gli impatti negativi, in particolare sui bambini. (In precedenza ero impiegato dalla FTC per lavorare su studi di mercato prima di lasciare l’agenzia.)
