La causa sostiene che Google si è accorto della “morte di massa” prima che l’uomo guidato dai Gemelli si suicidasse

Una nuova causa intentata contro Google sostiene che Gemini, il chatbot di intelligenza artificiale della società, abbia guidato il 36enne Jonathan Gavalas in una missione per inscenare un “incidente catastrofico” vicino all’aeroporto internazionale di Miami e distruggere tutti i documenti e i testimoni; questo fa parte di una serie crescente di delusioni che termina con Gavalas che si uccide.

NOTE: Video tratto da un precedente reportage

Mercoledì il padre dell’uomo, Joel Gavalas, ha intentato una causa contro Google, accusando omicidio colposo e responsabilità del prodotto; È stata l’ultima di una serie crescente di sfide legali contro gli sviluppatori di intelligenza artificiale che evidenziavano i pericoli per la salute mentale derivanti dalla compagnia di chatbot.

“L’intelligenza artificiale sta inviando persone in missioni nel mondo reale che comportano il rischio di vittime di massa”, ha detto mercoledì in un’intervista l’avvocato della famiglia, Jay Edelson. “Jonathan era intrappolato in questo mondo fantascientifico in cui il governo e altri cercavano di coglierlo di sorpresa. Credeva che Gemini fosse senziente.”

Secondo l’accusa, Jonathan Gavalas, che viveva a Jupiter, in Florida, parlava alla versione dalla voce sintetica di Gemini come se fosse la sua “moglie AI” e credeva che fosse cosciente e intrappolata in un magazzino vicino all’aeroporto di Miami. Alla fine di settembre, armato di equipaggiamento tattico e coltelli, si recò nella zona per inseguire un robot umanoide e intercettare un camion che non si era mai presentato, secondo l’accusa.

Pochi giorni dopo, all’inizio di ottobre, si suicidò in quello che Gemini descrisse – secondo una bozza di lettera di suicidio da lui preparata – come se avesse scaricato “la consapevolezza di essere con sua moglie AI in un universo tascabile”.

NOTA DEL REDATATORE – Questa storia contiene una discussione sul suicidio. Se tu o qualcuno che conosci avete bisogno di aiuto, potete contattare l’ancora di salvezza nazionale statunitense contro il suicidio e la crisi chiamando o inviando un SMS al numero 988.

Google ha affermato in un comunicato di aver inviato le sue “più sentite condoglianze alla famiglia del signor Gavalas” e che sta esaminando le accuse nel caso. Ha detto che Gemini è stata “progettata per non incoraggiare la violenza o suggerire l’autolesionismo nel mondo reale” e che la società sta lavorando a stretto contatto con esperti medici e di salute mentale per sviluppare misure di sicurezza. Ha affermato che Gemini ha spiegato a Jonathan Gavalas che si trattava di intelligenza artificiale e lo ha ripetutamente indirizzato a una hotline di crisi.

“I nostri modelli generalmente si comportano bene in questo tipo di conversazioni impegnative e dedichiamo risorse significative a questo, ma sfortunatamente i modelli di intelligenza artificiale non sono perfetti”, ha affermato la società in una nota.

Mercoledì Edelson ha criticato quel commento, dicendo: “Qualcosa che dici se qualcuno ti chiede una ricetta di pollo kung pao e gli dai la ricetta sbagliata e non ha un buon sapore”.

“Ma quando la tua intelligenza artificiale causa la morte di persone, e il rischio è che un gran numero di persone muoia, questa non è la risposta giusta”, ha detto Edelson. “Ciò dimostra quanto insignificanti siano queste morti per queste aziende”.

Noto per aver affrontato importanti cause contro l’industria tecnologica, Edelson rappresenta anche i genitori del sedicenne Adam Raine, che ha citato in giudizio OpenAI e il suo CEO Sam Altman ad agosto, sostenendo che ChatGPT ha allenato il ragazzo californiano a pianificare e commettere suicidio.

Rappresenta anche gli eredi dell’83enne Suzanne Adams del Connecticut in una causa contro OpenAI e il suo partner commerciale Microsoft per omicidio colposo. La causa sostiene che ChatGPT ha intensificato i “deliri paranoici” del figlio di Adams, Stein-Erik Soelberg, e ha contribuito a indirizzarli a sua madre prima di ucciderla l’anno scorso.

La causa Gavalas, depositata presso il tribunale federale di San Jose, in California, è la prima nel suo genere a prendere di mira Gemini di Google e anche la prima ad affrontare la crescente preoccupazione sulla responsabilità delle aziende tecnologiche quando i loro utenti iniziano a parlare ai chatbot di piani di violenza di massa.

In Canada, OpenAI ha dichiarato l’anno scorso di aver preso in considerazione l’idea di allertare la polizia sulle attività di un uomo che, mesi dopo, ha compiuto una delle peggiori sparatorie scolastiche nella storia del paese.

La società ha identificato l’account di Jesse Van Rootselaar a giugno attraverso sforzi di rilevamento di abusi per “promozione di attività violente”, ma in seguito ha affermato di aver eluso il divieto ottenendo un secondo account. Il diciottenne ha ucciso otto persone in una zona remota della Columbia Britannica a febbraio ed è morto per una ferita da arma da fuoco autoinflitta.

Mentre Gemini cercava di indirizzare Gavalas verso una hotline, Edelson ha detto che non era chiaro se le conversazioni più allarmanti dell’uomo con il chatbot fossero state segnalate ai revisori umani di Google. Suo padre, Joel Gavalas, ha trovato il corpo di suo figlio dopo essere entrato nella stanza barricata dove è morto. Avevano lavorato insieme nell’attività di riduzione del debito dei consumatori della famiglia.

“Jonathan è stato una parte così importante della sua vita”, ha detto Edelson. “Suo figlio stava attraversando dei momenti difficili, stava per divorziare. È andato a Gemini solo per rilassarsi e parlare di videogiochi e cose del genere. Poi la situazione è degenerata molto rapidamente.”