FILADELFIA (WPVI) — I tribunali ora si trovano ad affrontare una minaccia crescente: i deepfake creati dall’intelligenza artificiale.
Melissa Sims afferma che il suo ex fidanzato si è messo dietro le sbarre creando falsi testi generati dall’intelligenza artificiale.
“È stato terribile”, ha detto.
Sims ha detto di aver trascorso due giorni all’inferno in una prigione della Florida.
“Proprio come si vede nei film ‘Orange is the New Black'”, ha detto. “Fondamentalmente sono stato inserito nella popolazione generale.”
La sua storia ha fatto notizia in Florida.
Sims e il suo ragazzo si erano recentemente trasferiti lì dalla contea di Delaware, in Pennsylvania.
Ha detto che il suo incubo è iniziato nel novembre 2024, dopo aver chiamato la polizia durante una discussione con il suo ragazzo e affermato che avevano perquisito la sua casa.
“La prossima cosa che so, lo guardo e lui si dà uno schiaffo in faccia”, ha detto.
Ha affermato di essersi anche graffiato. Quando è arrivata la polizia, lo hanno arrestato per aggressione.
Come parte di quel legame, il giudice ha ordinato a Sims di stare lontana dal suo ragazzo e di non parlargli.
Andando avanti di qualche mese, lei ha detto che il suo ragazzo ha creato un testo generato dall’intelligenza artificiale che la chiamava per nome e faceva commenti dispregiativi.
“Sarò arrestato per aver violato il mio vincolo”, ha detto. “Nessuno ha verificato le prove.”
Il giudice Herbert Dixon ha detto che il calvario di Sims si stava verificando con crescente frequenza.
“Tutto è iniziato qualche anno fa con false registrazioni vocali”, ha detto. “E ora siamo arrivati al punto in cui vengono prodotti video e immagini falsi.”
Dixon è un giudice senior della Corte Suprema del Distretto di Columbia. È anche membro del Consiglio della giustizia penale insieme all’ex commissario di polizia di Filadelfia Charles Ramsey. La sua missione è promuovere la politica nel sistema di giustizia penale.
“Una delle cose che stiamo cercando di fare è sviluppare un quadro per l’uso responsabile dell’intelligenza artificiale”, ha affermato.
Crede che i pubblici ministeri e la polizia debbano fare un po’ più di due diligence prima di sporgere denuncia in quest’era di intelligenza artificiale.
Il professore della Drexel University Rob D’Ovidio insegna medicina legale sull’intelligenza artificiale.
“È spaventoso dirlo, ma non possiamo più fidarci di ciò che vediamo davanti a noi”, ha detto.
Ha affermato che video, testi e altre prove generate dall’intelligenza artificiale possono essere difficili da rilevare. L’intelligenza artificiale sta migliorando sempre di più.
“Il problema è che gli strumenti di rilevamento non riescono a tenere il passo con queste capacità”, ha affermato.
Ha creato una foto generata dall’intelligenza artificiale per mostrarcela come esempio. Lo ha inserito in tre diversi noti programmi software di rilevamento dell’intelligenza artificiale. Tutti e tre rivelano risultati diversi, che vanno dall’1% al 62% della probabilità che la foto sia stata creata sinteticamente o dall’intelligenza artificiale.
“Lo standard al giorno d’oggi è fidarsi fino a prova contraria, giusto? Penso che dovremmo invertire il copione e diffidare fino a prova contraria”, ha detto.
La storia di Sims ha un lieto fine.
Dopo otto mesi di dispute legali da parte del suo avvocato, i pubblici ministeri hanno ritirato l’accusa di violazione della cauzione contro di lui. E il mese scorso è stato processato per accusa di batteria ed è stato assolto.
Sims ha condiviso la storia del suo viaggio sostenendo una nuova legge per stabilire standard di prova e sanzioni sull’intelligenza artificiale.
“Se questo può succedere a me, può succedere a chiunque”, ha aggiunto.
A luglio, il governatore della Pennsylvania Josh Shapiro ha firmato una nuova legge sulle frodi digitali che rende un crimine creare deepfake IA nello stato che danneggiano, sfruttano o commettono frodi.
WPVI-TV ha contattato l’ex fidanzato di Sims ma non ha ricevuto risposta.
Copyright © 2026 WPVI-TV. Tutti i diritti riservati.
