La Federal Trade Commission ha avviato un’indagine su sette società tecnologiche attorno a potenziali danni.
L’indagine si concentra sugli stivali di chat dell’IA che possono fungere da amico o confidenziale che imitano efficacemente le caratteristiche, le emozioni e le intenzioni umane e spesso progettate per comunicare come un amico o confidenziale, che spinge alcuni utenti, in particolare i bambini e i giovani a fidarsi e stabilire relazioni con stivali di chat.
FTC ha inviato lettere d’ordine alla società madre Google Alphabet; Chace.ai; Instagram e compagnia madre Meta; Aperto; Esplodere; E Xai di Elon Musk. L’agenzia richiede informazioni sull’impatto degli stivali di chat delle aziende sui giovani utenti e su come proteggono e avvertono i loro genitori da possibili rischi.
L’indagine è una crescente preoccupazione per l’uso di bambini e giovani dopo una serie di cause legali e segnala che accusa i chatbot di morti suicide, sfruttamento sessuale e danno ai giovani. Ciò include due casi contro Charce.ai, anche se una causa contro Openai afferma che continuano a creare funzionalità aggiuntive per proteggere gli utenti dalle interazioni dannose con i loro stivali.
Sono emerse preoccupazioni più ampie che anche gli utenti adulti hanno sviluppato legami emotivi malsani con i chatbot AI, ma perché i veicoli sono spesso progettati per essere accettabili e di supporto.
Almeno un gruppo di difesa della sicurezza online Commod Sense Media ha sostenuto che le pratiche di “compagno” di AI rappresentano rischi inaccettabili per i bambini e non dovrebbero essere disponibili per gli utenti di età inferiore ai 18 anni. Se riceveranno voti finali questa settimana, incluso uno supportato dai media di buon senso, raggiungerà la tavola comune di Govin. Il comitato giudiziario del Senato degli Stati Uniti darà un’audizione intitolata “Esaminare il danno dei chatbot di AI” la prossima settimana.
“Man mano che le tecnologie di intelligenza artificiale si sviluppano, i chatbot tengono conto degli effetti dei chatbot sui bambini, mentre allo stesso tempo è importante garantire che gli Stati Uniti continuino il suo ruolo di leader globale in questo nuovo ed eccitante settore”, ha affermato il presidente della FTC Andrew Ferguson. Ha detto. “Il lavoro che abbiamo iniziato oggi ci aiuterà a capire meglio come le aziende di intelligenza artificiale migliorano i loro prodotti e i passi che adottano per proteggere i bambini”.
In particolare, gli ordini di FTC cercano informazioni su come le aziende guadagnano denaro dalla partecipazione degli utenti, in risposta alle domande degli utenti, per sviluppare personaggi di intelligenza artificiale e per utilizzare le informazioni personali acquisite attraverso i discorsi degli utenti e ridurre gli effetti negativi sui bambini e su altri dettagli.
Google non ha risposto immediatamente alle richieste di interpretazione.
Il portavoce di Openai Liz Bourgeois ha dichiarato in una dichiarazione: “La nostra priorità è rendere il chatgpt utile e sicuro per tutti, e quando i giovani sono coinvolti, conosciamo prima i problemi di sicurezza. Sappiamo che FTC ha domande e preoccupazioni chiare e siamo determinati a interagire e rispondere direttamente a loro.” Ha detto. Gli utenti di Openai’nin, come le notifiche che portano a linee di aiuto per crisi, come misure come misure e piani per offrire controlli parentali per i piccoli utenti, ha aggiunto.
Dopo che i genitori di Adam Raine di 16 anni hanno intentato una causa per Openi il mese scorso, dopo aver affermato che Chatgpt aveva incoraggiato la morte dei suoi figli suicidandosi, la società ha affermato che gli utenti hanno lavorato con esperti per migliorare i loro chatbot e migliorarli.
Meta ha rifiutato di commentare direttamente la query FTC. La società attualmente ha affermato che i giovani hanno un accesso limitato ai giovani solo con un certo gruppo, ad esempio, come quelli che aiutano i compiti. Inoltre, le barche di addestramento di intelligenza artificiale, i giovani non parlano di questioni sensibili come autocompati o conversazioni romantiche inappropriate e invece di indicare fonti esperte.
“Non vediamo l’ora di cooperare con FTC su questa indagine e fornire informazioni sull’industria dell’IA dei consumatori e sulla tecnologia in rapido sviluppo dell’area”, ha affermato il presidente di A. A ha detto il presidente della sicurezza e della sicurezza di A Jerry Ruoti. Ha detto. Ha aggiunto che la società ha investito in confidenza e fonti di sicurezza come una nuova esperienza di età inferiore ai 18 anni, lo strumento di intuizione dei genitori e la rinuncia che ricorda agli utenti l’IA.
Se stai vivendo un suicidio, l’uso di sostanze o altre crisi di salute mentale, si prega di chiamare o inviare un nuovo codice a tre cifre nel 988. Raggiungerai un consulente di crisi qualificato per sette giorni alla settimana e 24 ore al giorno. Puoi anche andare 988lifeline.org.
(Wire CNN & 2025 Cable News Network, Inc., Time Warner. Tutti i diritti riservati.)
