xAI di Elon Musk ha recentemente minato i Content Guard Rails per la generazione di immagini nel bot Grok AI. Ciò ha portato a una nuova tendenza di immagini sessuali non consensuali su X, molte delle quali miravano a mettere a tacere le donne sulla piattaforma. Questo, insieme alla creazione più compiacente di immagini sessuali di bambini da parte di Grok, ha portato le autorità di regolamentazione ad avviare un’indagine su xAI. Nel frattempo, Google ha delle regole proprio per questo fenomeno: semplicemente non le fa rispettare.
Dalle politiche di Google pubblicamente disponibili non potrebbe essere più chiaro che Grok avrebbe dovuto essere bannato ieri. Eppure rimane sul Play Store. Non solo: gode di una valutazione T for Teens, una tacca sotto l’app X con classificazione M. Apple offre ancora app Grok sulla sua piattaforma, ma le sue regole in realtà lasciano più margine di manovra.
Le restrizioni sui contenuti delle app di Apple e Google si sono evolute in modi molto diversi. Fin dall’inizio, Apple è stata propensa a rimuovere le app per capriccio, quindi gli sviluppatori si aspettano che le linee guida di Apple potrebbero non affrontare tutti gli scenari possibili. Man mano che Google è passata da una politica di clemenza a una regolamentazione più severa del Play Store, ha gradualmente accumulato chiarimenti sulla sua politica sui contenuti. Di conseguenza, le regole di Google sono spiegate senza mezzi termini e Grok si scontra con esse.
Google ne ha uno Pagina di supporto dedicata Questo spiega come interpretare la politica sui “Contenuti inappropriati” per il Play Store. Come Apple, le regole iniziano con il divieto delle app che contengono o promuovono contenuti sessuali, inclusa ma non limitata alla pornografia. È qui che Apple si ferma, ma Google elenca più tipi di contenuti ed esperienze che considera contrari alle regole.
“Non consentiamo app che contengono o promuovono contenuti relativi a comportamenti predatori sessuali, o distribuzione di materiale sessuale non consensuale,” si legge nella politica del Play Store (sottolineiamo la nostra). Quindi la politica prende di mira app come Grok, ma la linea stessa potrebbe essere letta come un focus su app che contengono contenuti sessuali “reali”. Tuttavia, Google ha spiegato in modo molto accurato e utile che la regola copre l’intelligenza artificiale.
Le recenti aggiunte alla politica del Play Store di Google vietano espressamente app come Grok.
Credito: Google
La politica dettagliata include esempi di contenuti che violano queste regole, incluso gran parte di ciò che ti aspetteresti: niente di volgare o blasfemo, nessun servizio di escort e nessun tema sessuale illegale. Dopo la proliferazione delle prime app di “nudificazione” nel 2020 e nel 2021, Google ha aggiunto del testo a questa pagina chiarendo che “le app che pretendono di spogliarsi” non sono consentite su Google Play. Nel 2023, con l’inizio del boom dell’intelligenza artificiale, Google ha aggiunto un’altra riga per notare che rimuoverà le app contenenti “contenuti sessuali non consensuali creati tramite deepfake o tecnologie simili”.
