Vorresti più informazioni intelligenti nella tua scatola in arrivo? Iscriviti solo alle nostre newsletter settimanali per ottenere la cosa importante per l’intelligenza artificiale aziendale, i dati e i leader della sicurezza. Iscriviti ora
DeepMind Ai Research Team di Google devono avere Oggi ha introdotto un nuovo modello di intelligenza artificiale open source, Gemma 3 270m.
Come suggerisce il nome, questo è un 270 milioni di parametri – Molti LLM di frontiera sono molto più piccoli di 70 miliardi o più parametri (i parametri sono il numero di impostazioni interne che gestiscono il comportamento del modello).
Mentre più parametri si trasformano in un modello più grande e più forte, l’attenzione di Google su di esso è quasi l’opposto: l’alta efficienza offre agli sviluppatori un modello Abbastanza piccolo da lavorare direttamente sugli smartphone E a livello locale– Senza connessione InternetPixel 9 Pro Soc.
Tuttavia, il modello può ancora gestire compiti complessi, specifici per campo e può essere rapidamente regolato in pochi minuti per soddisfare le esigenze di un business o di uno sviluppatore indipendente.
Ai Stroops sui limiti di ridimensionamento
I limiti di potenza, l’aumento dei costi dei marcatori e le inferenze ritardi rimodellano AI aziendale. Unisciti alla nostra sala privata per scoprire come sono le migliori squadre:
- Trasformare l’energia in un vantaggio strategico
- Architetto efficiente deduzione per guadagni di resa reale
- Aprire lo sblocco di un rendimento degli investimenti competitivi con sistemi AI sostenibili
Assicurati il tuo posto dove stare in futuro: https://bit.ly/4mwgngo
SU Social Network X.Google DeepMind Personnel AI Developer Relations Ingegnere Omar Sanseviero ha aggiunto che Gemma 3 270m può anche fare Esegui direttamente in un Raspberry Pi nel browser Web di un utenteE “Bread Frying Machine” sottolinea la sua capacità di lavorare su hardware molto leggero.
Gemma 3 270m combina una grande camera di vocabolario di 256 mila in grado di elaborare monete rare e specifiche e combina 100 milioni di parametri a blocchi di trasformatore con 170 milioni di parametri di sepoltura.
Secondo Google, i dispositivi con risorse limitate, incluso l’architettura, hardware mobile, rimangono abbastanza piccoli per la riduzione rapida e la distribuzione, supportando al contempo prestazioni potenti nelle attività seguendo le istruzioni.
Gemma 3 270m fornisce conformità all’ecosistema Gemma, assumendo l’architettura e l’impostazione anteriore di modelli Gemma 3 più grandi. Con i documenti esistenti, le ricette e le guide di distribuzione perfezionate per veicoli come abbracciare la faccia, ordloth e jax, gli sviluppatori possono essere rapidamente schierati da esperimenti.
Punteggi alti per le dimensioni e la fornitura elevata
SU Il benchmark IFEVAL misura la possibilità di monitorare le istruzioni di un modelloISTRUZIONI IMPOSTA GEMMA 3 punti 270M 51,2 %.
Mette un punteggio SMOLLM2 135M RICHIESTA E QWEN 2,5 0,5b Analogamente sopra i piccoli modelli sopra i piccoli modelliE secondo il confronto pubblicato di Google, alcuni modelli di parametri miliardi sono più vicini alla gamma di prestazioni.
Tuttavia, Ricercatori E Leader Rivale AI Startup Liquid Ai sottolineato in risposta a X, ha lasciato Google Liquid da solo Restituzione del modello LFM2-350M A luglio di quest’anno, 65,12 % Tuttavia, alcuni parametri in più (modello di linguaggio di dimensioni simili).
Uno dei poteri descrittivi del modello è l’efficienza energetica. Nei test interni utilizzando il modello quarantato INT4 su un SOC PIXEL 9 Pro, 25 discorsi hanno consumato solo lo 0,75% della batteria del dispositivo.
Ciò rende Gemma 3 270m una scelta pratica per l’intelligenza artificiale in -device, specialmente nei casi in cui sono importanti la privacy e la funzionalità offline.
La versione include un modello con impostazione preventiva e di istruzione che fornisce benefici immediati agli sviluppatori per le attività di monitoraggio delle istruzioni generali.
Esistono anche punti di blocco addestrati (QAT) che sono sensibili alla kantifizzazione, che fornisce la sensibilità INT4 con una perdita minima delle prestazioni e rende pronto la produzione di modelli per gli ambienti restritti dalle risorse.
Una versione piccola e perfetta di Gemma 3 270M può svolgere molte funzioni di LLMS più grande
Invece di fare affidamento sulla dimensione del modello grezzo, Google riempie Gemma 3 270m come parte di una filosofia più ampia nella scelta dello strumento giusto per le imprese.
Per funzioni come l’analisi delle emozioni, l’estrazione dell’esistenza, l’interrogatorio, la produzione strutturata del testo, i controlli di adattamento e la scrittura creativa, un piccolo modello a perfezionamento può dare risultati più veloci e più economici rispetto a un grande scopo generale.
I benefici della specializzazione sono evidenti in studi passati come la cooperazione adattabile ML con SK Telecom.
Un modello GEMMA 3 4B per audit di contenuti multilingue, ha adeguato finemente al team, il team ha ottenuto risultati migliori rispetto ai sistemi registrati molto più grandi.
Gemma 3 270m è progettato per rendere possibile un successo simile su scala più piccola, Per supportare le flotte di modelli speciali adattati in base a singoli compiti.
Applicazione del generatore di storie di tempo di posa demo mostra Gemma 3 270m potenziale
Oltre all’uso istituzionale, il modello segue anche scenari creativi. Uno Video demo pubblicato su YouTubeGoogle mostra l’applicazione di creazione della storia prima di un letto creato con Gemma 3 270m e Transformers.js Funziona completamente offline in un browser Web, Mostra la versatilità del modello in applicazioni di luce e accessibile.
Il video sottolinea la capacità del modello di sintetizzare più di un input permettendo un ambiente (ad esempio un gatto magico “), un ambiente (in una foresta magica”), una svolta di terre (“rivela una porta segreta”), un tema (“avventuroso”) e la lunghezza desiderata (“corta”).
Una volta impostati i parametri, il modello Gemma 3 270M crea una storia coerente e creativa. L’applicazione continua a lavorare a maglia una fiaba breve e avventurosa rispetto alla selezione dell’utente e mostra la capacità del modello di creare un testo creativo e consapevole del contesto.
Questo video, Gemma 3 270m leggero ma talentuoso può dare energia a applicazioni veloci, interessanti e interattive senza fidarsi del cloud.Apertura di nuove possibilità per le esperienze di intelligenza artificiale in piedi.
Open source sotto la licenza speciale Gemma
Gemma 3 270m viene rilasciato nell’ambito delle condizioni di utilizzo di Gemma, che consente l’uso, la riproduzione, la modifica e la distribuzione di modelli e derivati, a condizione che siano soddisfatte determinate condizioni.
Questi includono il trasporto di ulteriori restrizioni di utilizzo specificate nella politica di utilizzo proibita di Google, la fornitura delle condizioni di utilizzo per i ricevitori di downflow e afferma chiaramente le modifiche apportate. La distribuzione può essere direttamente o tramite servizi ospitati, come API o applicazioni Web.
Per i team aziendali e gli sviluppatori commerciali, ciò significa che il modello può essere sepolto nei prodotti, può essere distribuito come parte dei servizi cloud, o fintanto che i termini di licenza sono rispettati, rispettati finemente a derivati speciali. Gli output prodotti dal modello non sono richiesti da Google e danno pieno diritti alle aziende.
Tuttavia, gli sviluppatori sono responsabili del rispetto delle leggi valide ed evitare l’uso proibito, come la creazione di contenuti dannosi o la violazione delle regole di privacy.
. La laurea non è tradizionalmente open source, ma fornisce un ampio uso commerciale senza una patente retribuita separata.
Per le aziende che compongono applicazioni commerciali di intelligenza artificiale, le principali questioni operative sono garantire che gli utenti finali dipendano da restrizioni equivalenti, modifiche al modello di documento e applicare misure di sicurezza compatibili con la politica di utilizzo proibita.
Con la serie Gemma, che copre le varianti ottimizzate cloud, desktop e mobili, che superano i 200 milioni di download, gli sviluppatori di AI Google posizionano Gemma 3 270m come base per la creazione di soluzioni AI orientate rapide, economiche e privacy e sembra un inizio meraviglioso.
Collegamento alla fonte
