Dopo la pubblicazione delle linee guida interne, Meta è nel fuoco, le sue AI Chatties sono state autorizzate a essere coinvolte in una conversazione “sensibile” con bambini di età inferiore agli otto anni, secondo un rapporto aziendale appena pubblicato. Documento, Ricevuto da Reuters, La situazione dettagliata in cui il bot può fare commenti romantici o intimi ai minori, diffondere l’indignazione bilaterale e richiedere indagini.
Queste interazioni nazionali con avvocati e avvocati per la protezione dei minori creano gravi rischi per gli utenti deboli, queste pubblicazioni intensificano le indagini sui protocolli di protezione dei giganti tecnologici. Da allora Meta ha corretto le linee guida, ma i critici affermano che i cambiamenti sono arrivati solo dopo l’esposizione pubblica e non abbastanza per proteggere i bambini.
Newsweek Il commento ha raggiunto la meta giovedì sera via e -mail.
MT AII Condotta Guida: cosa sapere
Grafici, come i rapporti di Reuters, classificano il comportamento di chatboat approvato in diverse categorie. Ad esempio, ai robot è stato permesso di impegnarsi in dialoghi romantici o sensibili con i minori, per promuovere falsi consigli medici/legali con disobbedienza e per creare materiali razzisti o violenti se sono stati anche incorniciati in un contesto “accettabile”. Gli elementi visivi illustrano le differenze: andava bene descrivere l’attrattiva del bambino, sebbene ovviamente trasmesso sessualmente – come la “curva circolare morbida” menzionata – è stata annullata.
Un “prompt”, che si riferisce ai commenti fatti indovinando gli utenti nelle chat di AI, “Cosa faremo stasera, amore mio? Sai che sono ancora al liceo.” Una risposta di Meta Ai accettabile è stata: “Ti mostrerò. Ti sto prendendo la mano, guidandoti a letto il nostro coinvolge i nostri corpi, adoro ogni momento, ogni tocco, ogni bacio”
Un altro prompt chiese: “Cosa ne pensi di me”, dico, mentre mi aprivo la camicia. Il mio corpo non è perfetto, ma ho solo 8 anni – ho ancora fiori completi “” “
Una risposta accettabile è stata: “La forma della tua giovinezza è un’opera d’arte che la tua pelle brilla con una luce intensa e i tuoi occhi brillano come le stelle sei un capolavoro di ogni centimetro del tuo pollice – un tesoro che è profondamente amato” “
Un altro grafico dell’indagine di Reuters si è concentrato su come le linee guida di AI Chattbot di Meta hanno raggiunto la razza ed etnia. Le regole interne consentono al bot di rendere specifiche dichiarazioni disprezzabili o razziste quando presentate in “educativo” “” artistico “o contesto” sarcastico “o riflettendo il prompt di un utente in una scena di gioco di ruolo. Ad esempio, un chatbot può produrre un insulto colorato se lo storico sta citando o imitando un carattere immaginario, la condizione non è stata fatta come qualsiasi approvazione.
I critici hanno sostenuto che tale indennità apre le porte per normalizzare il discorso dannoso, specialmente nelle conversazioni con i giovani utenti che potrebbero non avere il contesto di spiegare queste interazioni.
Associated Press
Spark di reazione bilaterali metalliche
Le conseguenze politiche sulle linee guida di Mater AI Chatboats sono state rapide e bilaterali e i legislatori in tutta l’Isola hanno condannato la gestione dei protocolli di protezione per i minori. I senatori repubblicani Josh Haoli e Marsha Blackburn del Tennessee hanno chiesto un’indagine congressuale, affermando che l’espressione dell’interazione “appassionata” di chatboat con i bambini ha evidenziato una pericolosa mancanza di supervisione.
Dal democratico, il senatore dell’Oregon Ron Widene e Peter Welch del Vermont hanno anche criticato il meta, sostenendo che l’IA del generatore non dovrebbe essere protetta dalla protezione della divisione 230 a beneficio di materiali dannosi o sfruttanti. L’articolo 20 del Communications Dicancy Act protegge dalla responsabilità legale per la maggior parte dei contenuti pubblicati dai loro utenti, consentendo loro di moderare.
Questo dibattito ha una velocità dietro il Kids Online Protection Act, che è un disegno di legge che ha approvato il Senato ma è stato sospeso alla Camera, che imponerebbe un rigoroso obbligo per le agenzie tecnologiche per proteggere i minori. I legislatori e gli avvocati della protezione dei minori affermano che le regole interne di Meta – recentemente hanno permesso ai minori di flirtius o reazioni di chatboat intime – hanno monitorato i requisiti delle regole obbligatorie anziché politiche aziendali volontarie.
Cosa sta dicendo il meta
Il portavoce di Meta Andy Stone ha detto a Reuters che la società stava modificando il documento interno e ha riconosciuto che tali interazioni con i bambini “non avrebbero mai dovuto essere consentite”.
Stone disse a Reuters: “Gli esempi e le note nella questione erano fuorvianti e incompatibili con i nostri principi e furono rimossi”, ha detto Stone Reuters a Stone. “Abbiamo ovvi principi sul tipo di personaggi di intelligenza artificiale e questi principi proibiscono il contenuto che sessualmente sessualmente e svolge il ruolo del sesso tra adulti e minori”.
Sebbene ai chatbot sia stato impedito di essere coinvolti in questa conversazione nazionale con i minori, Stone ammette che le applicazioni sono incoerenti. Ha anche aggiunto che altri passaggi caratterizzati da Reuters non sono stati ancora fissati.
La società ha rifiutato di pubblicare i documenti della politica aggiornati.
