Finzi, l’editore di amati titoli indipendenti come Night in the Woods e Tunic e lo sviluppatore di Overland e Common Zune, ha affermato che TikTok stava utilizzando l’intelligenza artificiale generativa per modificare i suoi annunci sulla piattaforma senza autorizzazione e spingendo tali annunci ai suoi utenti all’insaputa di Finzi, incluso un annuncio che è stato modificato, per includere un personaggio razzista di un sessista finzista.
È stato sollevato per la prima volta dal CEO e co-fondatrice di Finzi Rebecca Saltsman A BlueskyIn cui ha condiviso uno screencap di un post sui social media di un altro marchio che sembrava stesse attraversando la stessa cosa, e ha detto quanto segue: “Se vedi un annuncio di Finji che sembra distintamente UN-Finji, mandami uno screencap”.
Giugno insolito
Secondo Saltsman in un’intervista a IGN, l’account ufficiale di Finji su TikTok pubblica annunci per i suoi giochi, ma “l’intelligenza artificiale si è bloccata completamente”. Il team ha appreso per la prima volta che gli annunci generativi dell’intelligenza artificiale venivano generati a loro insaputa grazie ai commenti sui social media degli utenti preoccupati che ciò che vedevano fossero annunci reali e regolari di Finzi. Saltsman è riuscito a ottenere screenshot dei membri del pubblico che mostravano gli annunci offensivi, spingendolo a sollevare la questione con il supporto di TikTok.
D Annuncio originale in questione I giochi di Finzi sembrano essere video pubblicitari, uno con diversi giochi e un altro incentrato sullo Zune in generale. Le versioni “potenziate” dell’intelligenza artificiale, che appaiono su TikTok come se fossero pubblicate direttamente dall’account ufficiale Finzi, sembrano consistere in presentazioni anziché video, come indicato da diversi commenti su entrambi gli annunci. Finzi ha inviato a IGN gli screenshot inviati dagli spettatori che affermano di aver visto le versioni AI di tali annunci. Sebbene diverse immagini “potenziate” dall’intelligenza artificiale appaiano relativamente inedite rispetto alle loro controparti ufficiali, un’immagine individuata da IGN è stata notevolmente alterata.
L’immagine incriminata raffigura una versione modificata della copertina ufficiale, la cui versione originale è riportata sopra. Nella versione apparentemente modificata dall’intelligenza artificiale, la protagonista June (al centro dell’immagine sopra) è raffigurata da sola, ma l’immagine si estende fino alle caviglie. È raffigurata con lo slip di un bikini, con fianchi e cosce incredibilmente grandi e stivali che salgono sopra le ginocchia, apparentemente invocando uno stereotipo dannoso. Questa è molto diversa dall’immagine reale di June nel gioco:
IGN ha visto una conversazione tra l’account ufficiale di Finji e l’assistenza clienti di TikTok, incluso un segmento in cui l’agente dell’assistenza clienti ha confermato che Finji aveva TikTok”Creativo intelligente“Opzione disattivata. “Smart Creative” è fondamentalmente una funzione di TikTok che utilizza l’intelligenza artificiale generativa per creare più versioni di un annuncio generato dall’utente. Pertanto, se un’azienda crea un annuncio A con l’immagine A e il testo A e un annuncio B con l’immagine B e il testo B, l’intelligenza artificiale generativa li mescolerà in diverse combinazioni per verificare quali utenti di Surface funzionano meglio con la versione migliore. Anche un “Creatività automatica” che utilizza l’intelligenza artificiale per “ottimizzare automaticamente” le risorse, come “migliorare” immagini, musica, audio e altre cose per rendere un annuncio più piacevole per gli spettatori. Saltsman ha confermato che Finzi ha disattivato entrambe queste opzioni e ha mostrato screenshot del backend di TikTok per diversi annunci per confermare.
Finzi ha inoltre affermato di non essere in grado di visualizzare o modificare le versioni generate dall’intelligenza artificiale dei propri annunci, ed era a conoscenza solo dei numerosi commenti sugli annunci e degli utenti che segnalavano il problema e condividevano screenshot sul Discord ufficiale. Saltsman ha detto di sospettare che almeno un altro annuncio inappropriato di intelligenza artificiale stia circolando sulla base di alcuni commenti dell’annuncio sull’altro personaggio di Frankie, Normal June, ma non è in grado di vedere i cambiamenti da solo e quindi non può confermare.
Nella stessa conversazione di supporto, l’agente dell’assistenza TikTok non è stato in grado di trovare una soluzione immediata per Finzi. A un certo punto l’agente propone un’inserzione per Finzi era Utilizzando inavvertitamente la funzione di creazione automatica, alla quale Finzi ha risposto: “Non l’ho mai attivata” e l’agente ha dovuto confermare che l’opzione non era attivata per gli annunci sopra descritti.
Più avanti nella conversazione, l’agente ha detto: “Sto verificando tutte le possibili ragioni (sic) per cui ciò potrebbe accadere, ma secondo il controllo tutte le configurazioni sono pulite e non dovrebbero includere alcun contenuto generato dall’intelligenza artificiale”. L’agente si è offerto di “sollevare un ticket” per ulteriori indagini, ma ha ignorato le ripetute richieste di Finzi di condividere una sequenza temporale di quando il ticket avrebbe potuto ricevere risposta.
Il circolo di supporto dell’inferno
Da quando si è verificato questo incidente, lo staff di Finzi ha cercato di dare seguito e ottenere risposte, solo per essere ripetutamente bloccato dal supporto di TikTok. Finzi ha inviato screenshot IGN di tutti i seguenti messaggi a TikTok e delle loro risposte.
La conversazione di cui sopra ha avuto luogo il 3 febbraio. Il 6 febbraio, dopo un messaggio di follow-up da parte di Finzi per supportare un aggiornamento, il supporto di TikTok Ads ha risposto come segue:
Dopo aver controllato la creatività, lo facciamo Non viene visualizzata alcuna indicazione che vengano utilizzate risorse generate dall’intelligenza artificiale o formati di presentazione. Entrambi sono garantiti come pubblicizzato Videocreativo Proveniente direttamente da te Libreria creativa/Post TikTok, e apparire creativo Livello dell’annuncio invariato. Non ci sono prove che il sistema abbia aggiunto contenuti generati dall’intelligenza artificiale o risorse di presentazioni assemblate automaticamente. (Tutta l’enfasi su TikTok.)
Un rappresentante di Finji ha risposto lo stesso giorno con uno screenshot dell’annuncio incriminato (che Finji aveva già inviato durante la richiesta di supporto iniziale) e ha chiesto a TikTok di intensificare il problema, provocando la seguente risposta da TikTok:
Confermiamo la ricezione delle prove fornite e comprendiamo l’importanza della tua preoccupazione. Sulla base del contenuto e del contesto che hai condiviso, riconosciamo che questa situazione solleva problemi significativi, tra cui l’uso non autorizzato dell’intelligenza artificiale, la sessualizzazione e la rappresentazione fuorviante dei tuoi personaggi, nonché i conseguenti danni commerciali e di reputazione al tuo studio.
Vogliamo essere chiari sul fatto che non stiamo più discutendo se ciò sia accaduto. Comprendiamo che hai fornito documentazione e commenti da parte dei visitatori degli annunci per supportare ulteriormente le tue affermazioni. La questione verrà immediatamente inoltrata per un’ulteriore revisione al massimo livello appropriato.
Stiamo avviando un’escalation interna per garantire che questo problema venga indagato a fondo e lavoreremo per metterti in contatto con un rappresentante senior che abbia la capacità di affrontare la situazione e discutere i prossimi passi verso la risoluzione.
Il 10 febbraio, non avendo ricevuto ulteriore risposta né contattato un “rappresentante anziano”, Finzi è tornato di nuovo per chiedere dove fosse il biglietto. Ha ricevuto un messaggio contenente quanto segue:
Capisco quanto sia stato fantastico vedere contenuti generati dall’intelligenza artificiale o generati automaticamente nei tuoi annunci, soprattutto quando non ti aspettavi alcuna modifica alle tue creatività.
Ecco cosa è successo e perché hai visto quelle risorse:
La tua campagna ha recentemente incluso un annuncio che utilizzava un file Formato dell’annuncio nel catalogo Progettato per dimostrare i vantaggi in termini di prestazioni derivanti dall’integrazione di caroselli e risorse video nelle campagne di vendita. Fa parte di un’iniziativa volta ad aiutarti a ottenere annunci (sic) come te Risultati migliori con meno sforzo. Le campagne che utilizzano queste risorse miste in genere vedono a ROAS 1,4x (Ritorno sulla spesa pubblicitaria) sollevamento E volevamo assicurarci che tu avessi accesso a quel potenziale miglioramento. (tutta l’enfasi su TikTok).
Il messaggio di supporto descrive i miglioramenti dichiarati ottenuti da un formato di annuncio catalogo, seguito da un’offerta per richiedere di essere aggiunti a una “blocklist di disattivazione” per la quale l’approvazione “non è garantita”.
Finzi ha risposto, comprensibilmente piuttosto arrabbiato a questo punto, perché questo non è stato comunicato ad un alto rappresentante, perché questo”Sessualizzato, razzista, E sessista (La) rappresentazione del lavoro dello studio” (enfasi di Finger), perché l’azienda non può monitorare le versioni dell’annuncio generate dall’intelligenza artificiale, perché è stato scelto senza il consenso dell’azienda e perché TikTok non può garantire la rinuncia.
TikTok ha risposto, affermando che la risposta più recente inviata proveniva in realtà dal suo team di crescita e che Finzi non sarebbe stato contattato da un “rappresentante senior” perché la persona che attualmente parla è “il più alto team interno disponibile per questo tipo di problema”. Il rappresentante ha affermato che il team di escalation aveva già esaminato la situazione e “i loro risultati sono stati incorporati nella risposta precedente” e che la risposta è stata “presa sul serio”. Ha affermato che Finzi è stato incluso “in un’iniziativa di automazione più ampia” e ha concluso che il team di crescita “ha già fornito i risultati finali e le azioni a questo riguardo”.
Dopo un’altra risposta di Finzi, un rappresentante di TikTok ha promesso di “riassegnare la questione internamente”, ma quella è stata l’ultima comunicazione ricevuta al momento della pubblicazione, anche dopo un altro check-in di Finzi il 17 febbraio. Quando è stato contattato da IGN, TikTok ha rifiutato di commentare la notizia.
“Devo ammettere che sono un po’ scioccato dalla totale mancanza di una risposta adeguata al caos che TikTok ha creato”, ha detto oggi Saltzman in una dichiarazione a IGN. “Una cosa è avere un algoritmo che sia razzista e sessista, un’altra è usare l’intelligenza artificiale per sfornare contenuti dai tuoi partner commerciali paganti, e farlo contro il loro consenso, e poi non rispondere a quegli errori in modo coerente? Davvero?
“Ciò che è veramente sorprendente è il vuoto profondo in cui di solito esistono il buon senso e il senso degli affari. TikTok vuole che io sia grato per il maltrattamento della mia azienda e del nostro gioco? Sulla base della risposta selvaggia in settimane di corrispondenza del servizio clienti che abbiamo ricevuto, penso che sia la loro posizione e il modo in cui usano segretamente la tecnologia e la usano in segreto. Sulle risorse dei loro clienti paganti senza consenso o conoscenza.
“Questo è semplicemente imbarazzante, ma non per me come persona. Per quanto mi riguarda, sono molto turbato. È il mio lavoro, il lavoro del mio team e la reputazione mia e della mia azienda, che ho costruito in un decennio. Quello che mi aspettavo erano scuse adeguate, un cambiamento sistemico nel modo in cui usano questa tecnologia per pagare i clienti e uno sguardo approfondito sul motivo per cui non sono così sprezzante nei confronti della loro tecnologia sessista. Non ho fiato per quanto sopra.”
Rebecca Valentine è una reporter senior di IGN. Hai un suggerimento per la storia? Invia a rvalentine@ign.com.
