Big Tech ha trascorso i modelli di AI di una durata degli ultimi anni che hanno trascorso gli ultimi anni, il rack dopo il rack di costose GPU per fornire l’intelligenza artificiale del generatore come servizio cloud. Tuttavia, piccoli problemi di intelligenza artificiale. Google ha annunciato una piccola versione del suo modello Jemma Open progettato per funzionare su dispositivi locali. Google afferma che il nuovo Jemma 3 270m può essere sintonizzato su uno scatto e mantiene forti prestazioni nonostante la sua impronta breve.
Google ha pubblicato il suo primo modello Open Jemma 3 all’inizio di quest’anno, che ha parametri da 1 miliardo a 27 miliardi. Nell’intelligenza artificiale del generatore, i parametri sono le variabili insegnate che i modelli controllano i token di output per indovinare come il token di output. Di solito, più parametri in un modello, meglio funziona. Con solo 270 milioni di parametri, il nuovo smartphone Jemma 3 può essere eseguito su un dispositivo o anche completamente all’interno di qualsiasi browser Web.
Esistono numerosi vantaggi, tra cui l’aumento della privacy e il ritardo inferiore nell’esecuzione di un modello AI a livello locale. Jemma 3 270m è stato progettato per tenere a mente questo tipo di casi d’uso. Durante il test con Pixel 9 Pro, il nuovo tensore Jemma è stato in grado di eseguire 25 conversazioni sui chip G4 e utilizzare solo lo 0,75 percento della batteria del dispositivo. Finora lo rende il modello Jamema più abile.
Jemma 3 mostra forti istruzioni per le dimensioni più piccole di 270 m.
Credito: Google
Gli sviluppatori non dovrebbero aspettarsi lo stesso livello di prestazioni nel modello multimiliardario, ma l’uso di Jemma 3 270m. Google utilizza il benchmark eFeval, che mette alla prova le capacità di un modello per seguire le istruzioni, per dimostrare che il suo nuovo modello sfreccia il peso sul suo peso. Jemma 3 270m ha ottenuto il punteggio del 51,2 per cento in questo test, che è superiore rispetto ad altri modelli leggeri che hanno più parametri. Si stima che il nuovo Jemma Falls Lama sia un modello di oltre 1 miliardo come Lama 1.2, ma si avvicina di quanto si possa pensare di avere una frazione dei parametri.
