Eileen Guo scrive:
Anche se non hai un amico AI, probabilmente conosci qualcuno che lo ha. UN studio recente ha scoperto che uno degli usi principali dell’intelligenza artificiale generativa è la compagnia: su piattaforme come Character.AI, Replika o Meta AI, le persone possono creare chatbot personalizzati per presentarsi come l’amico ideale, il partner romantico, il genitore, il terapista o chiunque altro possa sognare.
È divertente con quanta facilità la gente dice che queste relazioni possono svilupparsi. E multiplo studi Abbiamo scoperto che quanto più un chatbot AI è conversazionale e simile a quello umano, tanto più è probabile che ci fidiamo e ne restiamo impressionati. Questo può essere pericoloso e i chatbot sono stati accusati di spingere alcune persone verso comportamenti dannosi, incluso Alcuni esempi estremi, Suicidio.
Alcuni governi statali se ne stanno accorgendo e stanno iniziando a regolamentare l’intelligenza artificiale collaborativa. New York Gli affiliati AI sono tenuti a creare misure di salvaguardia e segnalare espressioni di pensieri suicidi, e il mese scorso in California passaggio Un disegno di legge più dettagliato che impone alle aziende partner dell’IA di proteggere i bambini e altri gruppi vulnerabili.
Ma chiaramente, un’area che le leggi non riescono ad affrontare è la privacy degli utenti.
Questo nonostante il fatto che i compagni di intelligenza artificiale, ancor più di altri tipi di intelligenza artificiale generativa, dipendano dalle persone per condividere informazioni profondamente personali, che vanno dalle loro routine quotidiane, pensieri interiori e domande che potrebbero non sentirsi a proprio agio nel porre a persone reali.
Dopotutto, più gli utenti lo raccontano ai loro compagni di intelligenza artificiale, più i robot diventano bravi a tenerli impegnati. Questo è ciò che i ricercatori del MIT Robert Mahary e Pat Pataranutporn hanno chiamato “intelligenza che crea dipendenza” in un editoriale che abbiamo pubblicato l’anno scorso, avvertendo che gli sviluppatori di compagni di intelligenza artificiale “fanno scelte progettuali deliberate… per massimizzare il coinvolgimento degli utenti”.
