Alcune aziende potrebbero essere meglio servite adattando modelli di grandi dimensioni alle loro esigenze, ma alcune aziende intendono farlo Creano i propri modelliUn progetto che richiede l’accesso alle GPU.
Google Cloud vuole svolgere un ruolo più importante nel percorso di modellazione delle aziende con il suo nuovo servizio. Formazione sull’intelligenza artificiale di Vertex. Il servizio offre alle organizzazioni che desiderano addestrare i propri modelli l’accesso a un ambiente Slurm gestito, strumenti di data science e qualsiasi chip in grado di addestrare modelli su larga scala.
Con questo nuovo servizio, Google Cloud spera di allontanare più aziende da altri fornitori e incoraggiare la creazione di modelli di IA più specifici per l’azienda.
Sebbene Google Cloud abbia sempre offerto la possibilità di personalizzare i modelli Gemini, il nuovo servizio consente ai clienti di portare i propri modelli o personalizzare qualsiasi modello open source host Google Cloud.
Vertex AI Training posiziona Google Cloud direttamente contro aziende come: CoreWeave E Laboratori Lambdacosì come i concorrenti del cloud AWS E Microsoft Azure.
Jaime de Guerre, direttore senior della gestione dei prodotti di Gloogle Cloud, ha dichiarato a VentureBeat che l’azienda ha sentito da molte organizzazioni di diverse dimensioni che hanno bisogno di un modo per ottimizzare al meglio l’elaborazione in un ambiente più affidabile.
“Quello che stiamo vedendo è un numero crescente di aziende che stanno costruendo o personalizzando modelli di intelligenza artificiale di ampia generazione per fornire un’offerta di prodotti costruita attorno a tali modelli o per contribuire a rafforzare il proprio business in qualche modo”, ha affermato De Guerre. “Ciò include startup di intelligenza artificiale, aziende tecnologiche, organizzazioni indipendenti che creano un modello per una particolare regione, cultura o lingua e alcune aziende più grandi che lo integrano nei processi interni”.
De Guerre ha osservato che tecnicamente chiunque può utilizzare il servizio, ma Google si rivolge alle aziende che pianificano una formazione su modelli su larga scala piuttosto che a semplici modifiche o a quelle che adottano LoRA. Vertex AI Services si concentrerà su lavori di formazione a lungo termine che coinvolgono centinaia o addirittura migliaia di chip. Il prezzo dipenderà dalla quantità di elaborazione di cui l’azienda avrà bisogno.
“Vertex AI Training non consiste nell’aggiungere ulteriori informazioni al contesto o utilizzare RAG; si tratta di addestrare un modello che può iniziare da pesi completamente casuali”, ha affermato.
La personalizzazione dei modelli è in aumento
Le organizzazioni stanno realizzando il valore della creazione di modelli personalizzati che vanno oltre la messa a punto di un LLM attraverso l’Access-Augmented Manufacturing (RAG). I modelli personalizzati avranno informazioni aziendali più dettagliate e risponderanno con risposte specifiche dell’organizzazione. come le aziende arcee.ai iniziato presenta i suoi modelli Per la personalizzazione ai clienti. Adobe ha recentemente annunciato un nuovo servizio che consente alle aziende di: Riqualifica Firefly per i suoi bisogni speciali. Organizzazioni come FICOcreazione di piccoli modelli linguistici specifici del settore finanziariospesso acquista GPU per addestrarle a costi significativi.
Google Cloud ha affermato che Vertex AI Training si differenzia fornendo accesso a un chipset più ampio, servizi per monitorare e gestire la formazione e competenze apprese dalla formazione dei modelli Gemini.
Alcuni dei primi clienti di Vertex AI Training includono: AI SingaporeUn consorzio di istituti di ricerca e startup di Singapore ha creato SEA-LION v4 con 27 miliardi di parametri e forza venditaGruppo di ricerca sull’intelligenza artificiale.
Le aziende spesso devono scegliere tra prendere un LLM precostruito e perfezionarlo o creare il proprio modello. Ma costruire un master da zero è spesso irrealizzabile per le piccole imprese o non ha senso in alcuni casi d’uso. Ma per le organizzazioni in cui ha senso un modello completamente personalizzato o creato da zero, il problema è ottenere l’accesso alle GPU necessarie per eseguire la formazione.
La formazione del modello può essere costosa
De Guerre ha detto che la formazione di un modello può essere fatta in questo modo: difficile e costososoprattutto quando le organizzazioni competono con diverse altre organizzazioni per lo spazio GPU.
Gli hyperscaler come AWS e Microsoft (e sì, Google) hanno pubblicizzato che i grandi data center e i rack e rack di chip di fascia alta forniscono il massimo valore alle aziende. Non solo avrai accesso a GPU costose, ma i fornitori di servizi cloud spesso offriranno servizi completi per aiutare le aziende a entrare in produzione.
Servizi come CoreWeave si distinguono per l’offerta di accesso su richiesta Nvidia H100s offre ai clienti flessibilità in termini di potenza di calcolo durante la creazione di modelli o applicazioni. Ciò ha dato origine anche a un modello di business in cui le società GPU affittano lo spazio sui server.
De Guerre ha affermato che Vertex AI Training non si limita a offrire accesso a modelli di formazione sul bare metal computing, in cui l’azienda noleggia un server GPU; devono inoltre portare con sé il proprio software di formazione e gestire la pianificazione e le interruzioni.
“Si tratta di un ambiente Slurm gestito che aiuterà con tutta la pianificazione dei lavori e il ripristino automatico dei lavori falliti”, ha affermato De Guerre. “Quindi, se un lavoro di formazione rallenta o si interrompe a causa di un guasto hardware, la formazione verrà riavviata automaticamente molto rapidamente in base ai checkpoint automatizzati che eseguiamo nella gestione dei checkpoint per continuare con tempi di inattività minimi.”
Ha aggiunto che ciò fornisce un throughput più elevato e una formazione più efficiente per cluster informatici su larga scala.
Servizi come Vertex AI Training possono rendere più semplice per le organizzazioni creare modelli di nicchia o personalizzare completamente modelli esistenti. Tuttavia, solo perché l’opzione è disponibile non significa che sia adatta a ogni organizzazione.
