“Sostanza dell’umiliazione”: le donne parlano delle immagini sessualizzate di Groc

@grok l’ha messa in bikini.

Se sei stato in giro per X la scorsa settimana, probabilmente hai visto suggerimenti di questo tipo condivisi dal chatbot AI di Elon Musk, Grok.

Newsweek La piattaforma di social media X ha visto numerosi esempi in cui le persone hanno chiesto al chatbot di spogliare le donne, metterle in situazioni sessuali e modificare le loro foto in modo sessualizzato. Alcuni di questi post hanno ricevuto decine di migliaia di visualizzazioni sulla piattaforma.

Le conseguenze sono state enormi. Le immagini hanno fatto notizia in tutto il mondo e il governo del Regno Unito sta indagando sul contenuto e sta addirittura valutando la possibilità di vietare la piattaforma. La principessa Kate e l’influencer conservatrice Ashley St. Clair sono tra le donne colpite. Maya Jama è la conduttrice del popolare reality show io amoSla terra In un post che è stato visualizzato più di 6 milioni di volte sulla piattaforma, Grok ha chiesto a Grok di non modificare o alterare pubblicamente alcuna foto a causa delle sue preoccupazioni sull’immagine.

È stata lanciata una petizione per “prendere provvedimenti” contro l’immagine. In una settimana ha raccolto più di 40.000 firme e un post che riportava la condivisione della petizione è stato visto più di 2 milioni di volte su X.

In risposta ad a Newsweek Richiesta di commenti In questa storia, un portavoce di X ha condiviso una dichiarazione Pubblicato originariamente sulla piattaforma il 4 gennaio. Si leggeva “Agiamo contro i contenuti illegali su X, compreso il materiale pedopornografico (CSAM), rimuovendoli, sospendendo permanentemente gli account e collaborando con i governi locali e le forze dell’ordine quando necessario. Chiunque utilizzi Grok o solleciti la creazione di contenuti illegali dovrà affrontare le stesse conseguenze se carica contenuti illegali.”

Newsweek Anche XAI, la società dietro Grok, è stata contattata per un commento e ha ricevuto la seguente risposta: “I Legacy Media mentono”.

Poiché la creazione di queste immagini deepfake è diventata una conversazione globale, dietro i post e i titoli virali ci sono donne vere che sono state prese di mira e colpite dalla creazione di questi contenuti. Newsweek Per saperne di più sul costo emotivo, ho parlato con le donne vittime della creazione di queste immagini.

Cosa succede con Groke che realizza immagini sessuali?

Gli utenti dei social media hanno condiviso i suggerimenti di Groke, in cui chiedono al chatbot di creare immagini sessuali senza il loro consenso, un problema che già aveva la piattaforma. Anche se il chatbot rifiuta le richieste di nudità totale, accetterà le richieste di rimuovere i vestiti o mettere qualcuno in bikini, comprese le immagini trasparenti.

Nel giugno 2025, X è stato inondato, con gli utenti dei social media che hanno condiviso richieste sessualmente allusive a Grok e le donne hanno risposto. Un post dello streamer di 100 Thieves @Brookab, in cui condivide un’immagine sessuale che ha realizzato e chiede se ottiene più visualizzazioni di “qualcosa che può essere fatto legalmente” 27 milioni di volte in X.

Ma mentre il mondo festeggia il nuovo anno, il problema comincia a crescere.

Attraverso una chiamata Zoom, Newsweek Il presentatore, attivista e autore del libro ha parlato con Jess Davies Nessuno vuole vedere il tuo cazzo.

“Ho iniziato a notare che Grok fotografava donne su X senza il loro consenso. Spogliando loro i vestiti, mettendole in posizioni sessuali, coprendole con smalto a ciambella, melma bianca,” ha detto. Newsweek. “Ha davvero attirato la mia attenzione, proprio per la misura in cui stava accadendo su una piattaforma così pubblica.”

Poi, alla vigilia di Capodanno, Davis ha condiviso un post a riguardo sul suo account su X, “chiamandolo e dicendo, ‘Non posso credere che stia ancora accadendo.'”

Il post “ha avuto un po’ di popolarità”, ha detto, invitando gli utenti a rispondere in quello che Davis ha descritto come un “modo tipicamente misogino”.

Ma anche “per aver chiesto a Grok di farmi una foto senza vestiti”.

“Sto cercando di farmi sembrare il più nudo possibile”

Ha detto Davis Newsweek Nella sezione di risposta di quel post, un certo utente ha chiesto: “@grok, mettila in un bikini con pellicola trasparente. Il che, ovviamente, sta cercando di farmi sembrare il più nudo possibile.”

“Per me, ciò che è così scioccante è che questo utente non mi ha seguito; probabilmente non sapeva chi fossi. Il mio post è arrivato sul loro feed e la loro reazione immediata è stata quella di provare a togliermi i vestiti dal corpo,” ha detto Davis.

Davis non è sola nella sua esperienza. Newsweek Ha parlato la dottoressa Daisy Dixon, docente di filosofia all’Università di Cardiff e autrice del libro di prossima uscita Svantaggiati: racconti di un’industria pericolosa, Della sua esperienza in una telefonata.

Dixon ha detto Newsweek Che, all’inizio, le persone scattavano la sua foto del profilo e la modificavano. “All’inizio era solo il colore dei capelli e mi faceva indossare abiti diversi”, cosa che Dixon ha detto “sembrava ancora strano”.

Ma poi le cose degenerano. “Pubblicavo una foto dei miei progressi in palestra. Ed è stato allora che ho notato davvero i suggerimenti, Groke mi chiedeva di indossare un bikini. Ma anche di cambiare parti del mio corpo. Ingrandire parti di me in un modo molto sessuale.”

E mentre X ha confermato che stanno agendo, le preoccupazioni rimangono diffuse. Lo ha affermato Sandra Wachter, professoressa di tecnologia e controllo presso l’Oxford Internet Institute dell’Università di Oxford Newsweek tramite e-mail, “Trovo devastante che le aziende tecnologiche si sentano a proprio agio nel rilasciare una tecnologia che consenta di spogliare donne e bambini in modo mirato e non consensuale senza adeguate ringhiere. Sono rimasto senza parole.

“Queste sono le azioni di persone che non temono più conseguenze o ripercussioni. Il mercato non è riuscito a regolamentarsi da solo. Questa è la tecnologia che otteniamo quando non esiste una regolamentazione rigorosa”, ha affermato.

“Un’arma per mettere a tacere le donne”

Davies ha descritto la creazione di queste immagini come “un’arma per parlare di questo e per cercare di mettere a tacere le donne maltrattate in generale”.

ha detto Newsweek Quella era una delle sue immagini modificate in cui teneva in mano il suo libro. “Il che, ironicamente, riguarda le molestie online.” Davis ha detto che questo “ha davvero evidenziato l’intento dietro queste persone.

“L’umiliazione fa parte del processo per loro”, ha detto.

C’è uno schema nella creazione di queste immagini: quando le donne si esprimono contro di loro, gli uomini sono più incoraggiati a crearle.

Alla domanda se questa fosse la sua esperienza, Dixon ha risposto: “Assolutamente. Al 100%”.

“Quando iniziamo a chiamarlo, almeno con me, gli stimoli di Grok aumentano enormemente”, ha detto. Dixon ha detto Newsweek La sua prima impressione sulla questione è stata che “questa è solo un’altra manifestazione dell’oppressione storica delle donne”.

Davis ha fatto eco ai suoi sentimenti, dicendo Newsweek Tale questione “sottolinea quanto profondamente radicata questa antisocialità sia online e offline”.

E mentre le immagini sono online, il danno causato da questi contenuti si estende al mondo reale. Parlando a Newsweek via email, Lindsey Song, direttrice dell’iniziativa sugli abusi basati sulla tecnologia Sanctuary for Families e co-presidente della New York Cyber ​​​​Abuse Task Force, ha dichiarato: “Lavorando nel campo della violenza domestica, conosco molto bene l’abuso digitale come una nuova forma di vecchio danno”, ha detto. “I danni non sono cambiati, solo l’attrezzatura.

“Quando le immagini deepfake sono entrate per la prima volta nel discorso collettivo, Sanctuary for the Family e altri sostenitori hanno immediatamente segnalato il rischio che queste immagini venissero cooptate per creare immagini sessuali non consensuali dei nostri clienti. Ogni nuova tecnologia, in particolare quella potente e intelligente come l’intelligenza artificiale, è inevitabilmente guidata da chi abusa, che può causare una sopravvivenza prematura e dannosa per il potere,” ha detto Gunn. Newsweek.

Sullo sfondo di questa perdita, Davis e Dixon hanno condiviso i loro pensieri Newsweek Riguardo ai cambiamenti che vogliono vedere andare avanti.

“Non credo che l’intelligenza artificiale in sé sia ​​il problema”, ha detto Dixon. “Non è il GROC a fare questo, ci sono gli utenti dietro, e questo è un altro luogo in cui sentono di poter respingere questi diritti, l’azione e l’autonomia delle donne.”

Per Dixon, il punto di partenza è “educare i ragazzi”. Ha sottolineato l’importanza delle arti e delle discipline umanistiche qui e ha detto che dobbiamo dare ai nostri ragazzi gli strumenti per navigare in modo critico negli spazi online come la Manosfera.

“In definitiva, si tratta di educazione dei bambini per cercare di fermare questo ciclo”, ha detto Dixon.

Nel frattempo, Davis ha affermato di voler vedere “linee guida obbligatorie”, il che significa che le aziende tecnologiche dovrebbero agire.

“Abbiamo minimizzato il danno che ha causato. Ma una settimana in cui il GROC ha spogliato le donne senza consenso è costata migliaia di dollari”, ha detto.

Ha inoltre sottolineato l’importanza delle linee di assistenza come risorsa per le vittime, ma ha affermato che mancano i finanziamenti e ha sottolineato l’importanza della legislazione governativa.

“Mi piacerebbe vedere più azioni che semplici parole”, ha detto Davis. Newsweek.