Giovedì, Google annuncio Il fatto che attori “motivati dal punto di vista commerciale” abbiano cercato di clonare la conoscenza dal suo chatbot Gemini AI non fa altro che suggerire questo. Secondo quanto riferito, una sessione contraddittoria ha suggerito il modello più di 100.000 volte in varie lingue diverse dall’inglese, apparentemente raccogliendo feedback per addestrare un imitatore a buon mercato.
Google ha pubblicato i risultati della propria autovalutazione trimestrale delle minacce ai prodotti nella misura in cui inquadra l’azienda come vittima ed eroe, cosa non insolita in queste valutazioni auto-autorate. Google chiama l’attività illegale “estrazione di modelli” e la considera un furto di proprietà intellettuale, una posizione un po’ carica. dare Che il LLM di Google è stato creato da materiali recuperati da Internet senza autorizzazione.
Anche Google non è estraneo alle pratiche di imitazione. Nel 2023, i dati Rapporto Il team Bird di Google è stato accusato di utilizzare l’output ChatGPT di ShareGPT, un sito pubblico in cui gli utenti condividono conversazioni di chatbot, per addestrare il proprio chatbot. Il ricercatore senior di Google AI Jacob Devlin, che ha sviluppato l’influente modello linguistico BERT, avvisare Leadership che ha violato i termini di servizio di OpenAI, quindi si è dimesso e si è unito a OpenAI. Google ha negato le affermazioni ma, secondo quanto riferito, ha smesso di utilizzare i dati.
Anche così, i termini di servizio di Google vietano alle persone di estrarre dati dai suoi modelli di intelligenza artificiale in questo modo, e il rapporto è una finestra sul mondo delle tecniche di clonazione dei modelli di intelligenza artificiale alquanto losche. L’agenzia ritiene che gli autori siano per lo più aziende private e ricercatori in cerca di un vantaggio competitivo e che gli attacchi provengono da tutto il mondo. Google ha rifiutato di nominare i sospettati.
occuparsi della distillazione
In genere, l’industria si riferisce a questa pratica di formazione di un nuovo modello sui risultati dei modelli precedenti come “Petni“E funziona così: se vuoi costruire il tuo Large Language Model (LLM) ma non ti mancano i miliardi di dollari e gli anni di lavoro che Google ha dedicato alla formazione di Gemini, puoi utilizzare il LLM precedentemente addestrato come scorciatoia.
