Il suo primo istinto è stato quello di contattare altre vittime che conosceva, poi “alla fine sono state contattate le forze dell’ordine locali ed è stata aperta un’indagine penale”, si legge nella denuncia.
Indagando sulle prove di Discord, la polizia ha rapidamente stabilito che l’autore del reato aveva accesso all’Instagram della prima vittima “perché manteneva un rapporto stretto e amichevole con lei”. Perquisendo il suo telefono, la polizia ha trovato un’app di terze parti che concedeva in licenza o in altro modo acquistava l’accesso a Grok, che hanno concluso veniva utilizzata dai criminali per convertire foto di ragazze.
Da lì, il malintenzionato ha caricato le immagini su una piattaforma di condivisione file chiamata Mega e le ha utilizzate come “strumento di baratto nelle chat di gruppo di Telegram con centinaia di altri utenti”, scambiando i file AI CSAM “con contenuti sessualmente espliciti di altri minori”.
Il danno alle vittime è stato ingente, afferma la causa, citando gravi sofferenze mentali ed emotive. Le vittime che conoscono l’autore del reato rimangono incerte se il materiale pedopornografico generato da Grok sia stato condiviso con i compagni di classe o distribuito ad altri nella loro scuola, afferma la causa. Una ragazza teme che lo scandalo influenzerà la sua ammissione al college, mentre un’altra è troppo spaventata per finire la propria laurea.
Tuttavia, l’AI CSAM che incontra è più allarmante dei conoscenti, poiché le scoperte di Grok faranno dimenare le ragazze ora. Come spiega la causa, “sembra anche che i nomi reali delle vittime e i nomi delle scuole fossero allegati ai loro file online, il che significa che altri predatori online potrebbero essere stati in grado di identificarli, creando un rischio sostanziale di stalking”.
Secondo quanto riferito, xAI ospita Grok CSAM
Mentre in precedenza era stato riferito che i clienti paganti di Grok Imagine producevano più output grafici rispetto agli output di Grok, suscitando indignazione nei confronti di X, la causa sostiene che xAI ha nascosto anche altri passaggi in modo da poter trarre profitto da contenuti espliciti che danneggiavano persone reali.
