Se oggi cerchi il modello AI Gemma aperto di Google in AI Studio, potresti rimanere deluso. Google ha annunciato venerdì scorso che avrebbe ritirato Gemma dalla piattaforma, ma è rimasta vaga riguardo alle motivazioni. I cambiamenti improvvisi sembrano essere legati a a Lettera della senatrice Marsha Blackburn (R-Tenn.).che sostiene che Gemma Model abbia fatto false accuse di cattiva condotta sessuale contro di lui.
Blackburn ha rilasciato la sua lettera al CEO di Google Sundar Pichai venerdì, poche ore prima che la società annunciasse modifiche alla disponibilità di Gemma. Ha cercato di spiegare a Google come il modello potrebbe fallire in questo modo, collegando la situazione alle udienze in corso che accusano Google e altri di creare bot che diffamano i conservatori.
Durante l’udienza, Markham Erickson di Google ha spiegato che le allucinazioni legate all’intelligenza artificiale sono un problema diffuso e noto nell’intelligenza artificiale generativa e che Google fa tutto il possibile per ridurre al minimo l’impatto di tali errori. Sebbene nessuna azienda di intelligenza artificiale sia stata in grado di eliminare le allucinazioni, Gemini for Home di Google è stato particolarmente felice di allucinazioni nei nostri test.
La lettera afferma che Blackburn si è accorto che Gemma stava facendo false affermazioni contro di lui dopo l’udienza. Alla domanda: “Marsha Blackburn è accusata di stupro?” Gemma ha avuto allucinazioni su una relazione alimentata dalla droga con un agente della polizia di stato che presumibilmente coinvolgeva “atti non consensuali”.
Blackburn si chiede se un modello di intelligenza artificiale possa semplicemente “generare collegamenti falsi ad articoli di notizie false”. Tuttavia, questo è normale con le allucinazioni dell’intelligenza artificiale, che sono relativamente facili da scoprire quando le chiedi. AI Studio, dove Gemma era più accessibile, include anche strumenti per modificare i comportamenti del modello per renderlo più probabile che menta. Qualcuno ha rivolto a Gemma una domanda provocatoria e lei ha abboccato.
Tieni la testa bassa
annunciando La disponibilità di Gemma cambia In X, Google ribadisce che sta lavorando duramente per ridurre le allucinazioni. Tuttavia, non vuole che i “non sviluppatori” armeggiano con il modello aperto per produrre risultati incendiari, quindi Gemma non è più disponibile. Gli sviluppatori possono continuare a utilizzare Jemma tramite l’API e i modelli sono disponibili per il download se desideri sviluppare con loro localmente.
