A causa del contraccolpo, OpenAI non lancerà presto una versione erotica di ChatGPT.
Secondo il Financial TimesIl controverso piano è stato accantonato “a tempo indeterminato” poiché OpenAI “reinveste” la sua attenzione sui “prodotti principali”.
Alcuni addetti ai lavori hanno riferito al FT che OpenAI sta valutando la possibilità di eliminare del tutto il piano della “modalità per adulti”, anche se i suoi stessi consulenti hanno avvertito che gli utenti di ChatGPT potrebbero sviluppare allegati malsani, che potrebbero danneggiare la loro salute mentale. Un consulente ha freddamente suggerito che la modifica rischiava di trasformare ChatGPT in un “sexy allenatore suicidario”.
Secondo il rapporto, i consulenti non sono stati gli unici a vedere i segnali d’allarme.
Gli attivisti hanno iniziato a chiedersi se SexyChatGPT sia in linea con la missione di OpenAI a beneficio dell’umanità. Per lo staff che lavorava allo sviluppo della “modalità per adulti”, apparentemente non valeva la pena superare le sfide tecniche della funzionalità. “Sono state incontrate difficoltà”, hanno detto al FT, “nell’addestrare modelli di intelligenza artificiale che in precedenza evitavano tali conversazioni per motivi di sicurezza a produrre contenuti espliciti”. È stato anche difficile tenere fuori dall’output comportamenti illegali come la brutalità e l’indecenza quando si utilizzavano set di dati che includevano contenuti sessuali, hanno detto le fonti.
Apparentemente ChatGPTO sexy ha allontanato gli investitori. Due persone a conoscenza della questione hanno detto al FT che “il flirt di OpenAI con i minori ha causato disagio”, poiché alcuni investitori si sono chiesti perché OpenAI rischierebbe la sua reputazione su un prodotto con “un vantaggio relativamente piccolo” per la sua attività.
Anche senza la risposta sessuale, ChatGPT è stato collegato a danni alla salute mentale di bambini e adulti con azioni legali secondo cui OpenAI ha rilasciato incautamente il chatbot senza adeguate garanzie.
