Giovedì ho riportato la prima conferma che il Dipartimento per la Sicurezza Nazionale degli Stati Uniti, che ospita le agenzie per l’immigrazione, sta utilizzando generatori video AI di Google e Adobe per creare contenuti condivisi con il pubblico. La notizia arriva mentre le agenzie per l’immigrazione inondano i social media di contenuti a sostegno del programma di deportazione di massa del presidente Trump, alcuni dei quali sembrano essere creati con l’intelligenza artificiale (come Video A proposito di “Natale dopo la deportazione di massa”).
Ma ho ricevuto due tipi di risposte dai lettori che potrebbero chiarire in quale crisi pandemica ci troviamo.
Uno di loro non si è sorpreso, visto che il 22 gennaio la Casa Bianca ha pubblicato un messaggio alterato digitalmente Una foto di una donna arrestata durante una protesta dell’ICE, che appare isterica e in lacrime. Il vicedirettore delle comunicazioni della Casa Bianca Kellan Doerr non ha risposto alle domande sul fatto se la Casa Bianca avesse alterato la foto, ma ha scritto“I meme continueranno.”
Il secondo proveniva da lettori che non vedevano motivo di riferire che il DHS stava utilizzando l’intelligenza artificiale per modificare i contenuti condivisi con il pubblico, dal momento che i notiziari stavano chiaramente facendo lo stesso. Ha sottolineato il fatto che la rete di notizie MS Now (ex MSNBC) ha condiviso un’immagine di Alex Pretty modificata dall’intelligenza artificiale e sembrava renderla più bella, un fatto che ha portato a diventare virali diverse clip questa settimana, inclusa una dal podcast di Joe Rogan. Combattere il fuoco con il fuoco, in altre parole? Portavoce di MS Now disse a Snopes Il notiziario ha trasmesso l’immagine senza sapere che era stata modificata.
Non c’è motivo di raggruppare questi due casi di contenuto alterato nella stessa categoria o di leggerli come prova che la verità non ha più importanza. Uno di questi includeva il governo degli Stati Uniti che condivideva con il pubblico una fotografia chiaramente alterata e si rifiutava di rispondere se fosse stata deliberatamente manipolata; In un altro un notiziario stava trasmettendo una foto avrebbe dovuto saperlo È stato modificato ma si stanno adottando alcune misure per smascherare l’errore.
Ciò che invece rivelano queste reazioni è il modo in cui ci stavamo preparando collettivamente per questo momento. Gli avvertimenti sulla crisi della verità dell’IA ruotano attorno a una tesi fondamentale: non essere in grado di dire ciò che è reale ci distruggerà, quindi abbiamo bisogno di strumenti per verificare in modo indipendente la verità. Le mie due serie conclusioni sono che questi strumenti stanno fallendo e che, sebbene il controllo della verità sia essenziale, non è più di per sé in grado di generare la fiducia sociale che ci era stata promessa.
