Cause legali e problemi di sicurezza
Character.AI è stata fondata nel 2021 da due ex ingegneri di Google Noam Shazeer e Daniel De Freitas e ha raccolto circa 200 milioni di dollari dagli investitori. L’anno scorso, Google ha accettato di pagare quasi 3 miliardi di dollari per ottenere la licenza per la tecnologia di Character.AI, e Shazeer e De Freitas sono tornati a Google.
Ma l’azienda ora deve affrontare una serie di cause legali secondo le quali la sua tecnologia avrebbe contribuito alla morte di adolescenti. L’anno scorso, la famiglia del quattordicenne Sewell Setzer III ha citato in giudizio Character.AI, accusando la società di essere responsabile della sua morte. Setzer si è suicidato dopo aver spesso inviato messaggi di testo e conversato con un chatbot sulla piattaforma. fronte all’azienda casi aggiuntiviCompresa una famiglia del Colorado la cui figlia Juliana Peralta, 13 anni, è morta suicida nel 2023 dopo aver utilizzato la piattaforma.
A dicembre, Character.AI ha annunciato modifiche, tra cui un migliore rilevamento dei contenuti illeciti e termini di servizio modificati, ma tali misure non hanno impedito agli utenti minorenni di accedere alla piattaforma. Altri servizi di chatbot AI, come ChatGPT di OpenAI, sono stati esaminati attentamente per l’influenza che i loro chatbot hanno sui giovani utenti. A settembre, OpenAI ha lanciato funzionalità di controllo parentale intese a offrire ai genitori maggiore visibilità su come i loro figli utilizzano il servizio.
I casi hanno attirato l’attenzione dei funzionari governativi, che potrebbero aver costretto Character.AI ad annunciare modifiche per l’accesso alla chat per i minori di 18 anni. Steve Padilla, un democratico del Senato dello stato della California che ha introdotto il disegno di legge sulla sicurezza, ha dichiarato al New York Times che “le storie parlano di cosa potrebbe andare storto. È importante mettere in atto guardie ragionevoli in modo da proteggere i più vulnerabili”.
Martedì, i senatori Josh Hawley e Richard Blumenthal hanno presentato un disegno di legge per vietare l’uso di compagni di intelligenza artificiale da parte dei minori. Inoltre, questo mese il governatore della California Gavin Newsom ha firmato una legge, che entrerà in vigore il 1° gennaio, che impone alle società di intelligenza artificiale di avere guardie di sicurezza sui chatbot.
