Scritto da: Colin Lecher, CalMatters
Questa storia è stata pubblicata per la prima volta da CalMatters. Iscriviti alla loro newsletter.
Il governatore Newsom annunciato oggi Ha detto di aver firmato il disegno di legge 243 del Senato, il disegno di legge che aggiunge guardrail ai chatbot basati sull’intelligenza artificiale che operano nello stato.
La legislazione ha diviso i rappresentanti dell’industria tecnologica e i sostenitori della sicurezza dei bambini. Newsom non ha firmato un altro disegno di legge che regola tali robot, House Bill 1064, che secondo i difensori dei bambini proteggerebbe meglio i bambini.
Secondo SB 243, le aziende che offrono chatbot come ChatGPT di OpenAI saranno tenute ad adottare determinate misure di sicurezza. Questi includono il monitoraggio delle chat per individuare segni di ideazione suicidaria e l’adozione di misure per impedire agli utenti di farsi del male, ad esempio indirizzandoli ad un aiuto esterno per la salute mentale.
I creatori di chatbot dovranno inoltre ricordare agli utenti che le risposte sono generate artificialmente e creare “tutele ragionevoli” per impedire ai bambini di vedere contenuti sessualmente espliciti quando utilizzano i bot. I bambini che utilizzano i robot riceveranno anche promemoria per fare delle pause.
La legge, una delle prime nel paese a regolamentare i chatbot, fa seguito a una serie di rapporti preoccupanti. Storie da tutto il paese mostrano come funzionano i chatbot apparentemente alimenta le delusionio fallire cogliere segni di ideazione suicidaria. La società madre di Facebook, Meta, ha dovuto affrontare una reazione negativa quest’anno una copia trapelata Le regole di Chatbot hanno rivelato che l’azienda consente ai suoi robot di impegnarsi in conversazioni “sensuali” con i bambini.
SB 243 ha ricevuto il sostegno di un mix variabile di sostenitori e il gruppo dell’industria tecnologica, la Computer and Communications Industry Association, ha iniziato a sostenerlo. Il gruppo, che inizialmente si opponeva alla legge, ha affermato dopo gli emendamenti che la legge “fornirà un ambiente più sicuro per i bambini e allo stesso tempo non imporrà un divieto eccessivamente ampio sui prodotti di intelligenza artificiale”.
Ma dopo che i sostenitori della sicurezza dei bambini hanno inizialmente sostenuto l’SB 243, dopo questi cambiamenti si sono inaspriti nei confronti della legislazione, affermando di aver concesso troppo all’industria tecnologica. Due gruppi, Tech Oversight e Common Sense Media, hanno espresso sostegno all’AB 1064, affermando che il disegno di legge “impone norme critiche sullo sviluppo e l’uso di sistemi di intelligenza artificiale che interagiscono con i bambini”.
Secondo l’AB 1064, i chatbot non sarebbero consentiti a meno che le aziende tecnologiche non dimostrino di essere “non prevedibilmente in grado” di danneggiare un bambino, ad esempio incoraggiando l’autolesionismo.
“Abbiamo visto alcuni esempi davvero orribili e tragici di giovani danneggiati da una tecnologia non regolamentata, e non rimarremo in silenzio mentre le aziende continuano senza le necessarie restrizioni e responsabilità”, ha affermato Newsom in una dichiarazione in cui annuncia la sua firma dell’SB 243.
La dichiarazione non menziona alcuna azione relativa all’AB 1064. Il governatore deve porre il veto o firmare il disegno di legge entro la fine della giornata, ma la mancata specificazione di ciò suggerisce che è improbabile che il suo ufficio lo implementi.
Questo articolo è stato pubblicato per la prima volta su CalMatters e Attribuzione Creative Commons-Non commerciale-Nessun derivato licenza.
