Una startup piccola ma ben finanziata sta facendo una coraggiosa affermazione nella corsa per portare l’intelligenza artificiale nelle imprese: il problema che frena l’adozione dell’intelligenza artificiale in settori complessi non sono mai stati i modelli stessi.
IA contestualeuna società di due anni e mezzo sostenuta da investitori Spedizioni di Bezos E Bain Capital VenturesLo ha annunciato lunedì Costruttore di agentiUna piattaforma progettata per aiutare gli ingegneri nel settore aerospaziale, nella produzione di semiconduttori e in altri campi tecnicamente impegnativi a creare agenti di intelligenza artificiale in grado di automatizzare attività ad alta intensità di conoscenza che hanno resistito a lungo all’automazione.
L’annuncio arriva in un momento cruciale per l’intelligenza artificiale aziendale. Quattro anni dopo che ChatGPT ha dato il via alle iniziative di intelligenza artificiale aziendale, molte organizzazioni sono bloccate in programmi pilota e faticano a trasformare i progetti sperimentali in una produzione su vasta scala. I capi finanziari e i leader delle business unit stanno diventando sempre più impazienti di fronte agli sforzi interni che consumano milioni di dollari ma forniscono rendimenti limitati.
Caro Keela,Il CEO di Contextual AI ritiene che il settore si stia concentrando sul collo di bottiglia sbagliato. "Il modello è ormai quasi mercificato." Ha detto Kiela in un’intervista con VentureBeat. "Il collo di bottiglia qui è il contesto; L’intelligenza artificiale può davvero accedere ai tuoi documenti privati, specifiche e informazioni aziendali? Questo è il problema che abbiamo risolto."
Perché l’intelligenza artificiale aziendale continua a fallire e cosa dovrebbe risolvere il rendering con accesso potenziato?
Per capire cosa IA contestuale Questo sforzo aiuta a comprendere un concetto centrale per lo sviluppo moderno dell’intelligenza artificiale: generazione aumentata con accesso, o straccio.
Principali modelli linguistici come OpenAI, GoogleO antropico Quando creano risposte, attingono alle conoscenze integrate durante la formazione. Tuttavia, queste informazioni hanno una scadenza e non possono includere documenti proprietari, specifiche tecniche e conoscenze aziendali che sono la linfa vitale della maggior parte delle aziende.
I sistemi RAG tentano di risolvere questo problema recuperando i documenti rilevanti dai database dell’azienda e inserendoli nel modello insieme alla domanda dell’utente. Il modello può quindi basare la sua risposta su dati aziendali reali anziché basarsi esclusivamente sulla sua formazione.
Kiela ha aperto la strada a questo approccio durante il suo periodo come ricercatrice. Ricerca sull’intelligenza artificiale di Facebook e successivamente come capo della ricerca Volto che abbracciainfluente società di intelligenza artificiale open source. Ha un dottorato di ricerca. da Cambridge ed è assistente professore di sistemi simbolici alla Stanford University.
Ma Kiela ammette che i primi sistemi RAG erano rozzi.
"Il primo RAG era piuttosto rozzo; comprare un cane da caccia standard, collegarlo a un generatore, sperare per il meglio," ha detto. "Bug aggravati durante tutta la pipeline. Poiché il generatore non era addestrato a rimanere nel terreno, le allucinazioni erano comuni."
Quando fu fondata Kiela IA contestuale Nel giugno 2023 ha deciso di risolvere sistematicamente questi problemi. L’azienda ha sviluppato quello che chiama "livello di contesto unificato" — Una serie di strumenti che si interpongono tra i dati di un’azienda e i modelli di intelligenza artificiale, garantendo che le informazioni giuste raggiungano il modello al momento giusto, nel formato giusto.
L’approccio ha ricevuto elogi. Secondo il case study di Google Cloud, l’intelligenza artificiale contestuale ha ottenuto: Massime prestazioni nel benchmark FACTS di Google per risultati radicati e resistenti alle allucinazioni. L’azienda ha perfezionato i modelli open source Llama di Meta sulla piattaforma Vertex AI di Google Cloud, concentrandosi in particolare sulla riduzione della propensione dei sistemi di intelligenza artificiale a inventare conoscenza.
Inside Agent Composer, la piattaforma che promette di trasformare complessi flussi di lavoro di ingegneria in un lavoro di pochi minuti.
Costruttore di agenti Estende la piattaforma esistente di AI contestuale con funzionalità di orchestrazione; la capacità di coordinare più strumenti di intelligenza artificiale in più passaggi per completare flussi di lavoro complessi.
La piattaforma offre tre modi per creare agenti AI. Gli utenti possono iniziare con agenti predefiniti progettati per flussi di lavoro tecnici comuni come l’analisi delle cause principali o il controllo della conformità. Possono descrivere un flusso di lavoro in linguaggio naturale e consentire al sistema di creare automaticamente un’architettura di agenti funzionanti. Oppure possono crearlo da zero utilizzando un’interfaccia visiva drag-and-drop che non richiede codifica.
L’azienda afferma che ciò che differenzia Agent Composer dagli approcci concorrenti è la sua architettura ibrida. I team possono combinare regole rigide e deterministiche per passaggi ad alto rischio come controlli di conformità, convalida dei dati, cancelli di approvazione, ecc., con un ragionamento dinamico per l’analisi esplorativa.
"Per flussi di lavoro altamente critici, gli utenti possono scegliere passaggi completamente deterministici per controllare il comportamento degli agenti ed evitare ambiguità." Kiela ha detto.
La piattaforma include anche ciò che l’azienda chiama "ottimizzazione dell’agente con un clic," Raccoglie il feedback degli utenti e regola automaticamente le prestazioni dell’agente. Ogni fase del processo di ragionamento di un agente è verificabile e le risposte arrivano con citazioni a livello di frase che mostrano esattamente da dove provengono le informazioni nei documenti di origine.
Da otto ore a 20 minuti: cosa dicono i primi clienti sulle prestazioni della piattaforma nel mondo reale
IA contestuale L’azienda afferma che i primi clienti hanno riportato significativi miglioramenti in termini di efficienza, anche se riconosce che queste cifre provengono da autodichiarazioni dei clienti piuttosto che da verifiche indipendenti.
"Questi provengono direttamente dalle recensioni dei clienti che sono approssimazioni dei flussi di lavoro del mondo reale." Kiela ha detto. "I numeri sono riportati dai nostri clienti poiché descrivono lo scenario prima e dopo l’adozione dell’intelligenza artificiale contestuale."
I risultati dichiarati sono comunque sorprendenti. Un produttore avanzato ha ridotto i tempi di analisi delle cause principali da otto ore a 20 minuti automatizzando l’analisi dei dati dei sensori e la correlazione dei registri. Un’azienda chimica specializzata ha ridotto la ricerca sui prodotti da ore a minuti utilizzando agenti che ricercano brevetti e database normativi. Un produttore di apparecchiature di test ora crea il codice di test in pochi minuti invece che in giorni.
Keith Schaub, vicepresidente della tecnologia e della strategia bordo taglienteLa società di apparecchiature di prova per semiconduttori ha presentato una proposta di approvazione. "L’intelligenza artificiale contestuale è diventata una parte fondamentale dei nostri sforzi di trasformazione dell’intelligenza artificiale." disse Schaub. "La tecnologia è stata implementata tra più team di Advantest e clienti finali selezionati, consentendo un notevole risparmio di tempo su attività che vanno dalla creazione del codice di test ai flussi di lavoro di ingegneria del cliente."
Tra gli altri clienti dell’azienda Qualcommgigante dei semiconduttori; Nave BobUn fornitore di logistica abilitato alla tecnologia che afferma di ottenere una risoluzione dei problemi 60 volte più rapida; E NvidiaProduttore di chip i cui processori grafici alimentano la maggior parte dei sistemi di intelligenza artificiale.
L’eterno dilemma aziendale: le aziende dovrebbero costruire i propri sistemi di intelligenza artificiale o acquistarli già pronti?
Forse la sfida più grande IA contestuale Ciò che ci troviamo di fronte non sono prodotti concorrenti, ma l’istinto delle organizzazioni ingegneristiche di creare le proprie soluzioni.
"L’obiezione più grande è “lo faremo da soli”" Kiela acconsentì. "Alcune squadre stanno sperimentando. Sebbene ciò possa sembrare entusiasmante da realizzare, è estremamente difficile realizzarlo bene su larga scala. Molti dei nostri clienti hanno iniziato con il fai da te e dopo 12-18 mesi si sono ritrovati ancora a eseguire il debug delle linee di prelievo invece di risolvere problemi reali."
L’azienda sostiene che l’alternativa (soluzioni pronte all’uso) presenta i propri problemi. Tali strumenti vengono implementati rapidamente, ma spesso si rivelano poco flessibili e difficili da personalizzare per casi d’uso specifici.
Costruttore di agenti Cerca di occupare una via di mezzo offrendo un approccio alla piattaforma che combina componenti predefiniti con ampie opzioni di personalizzazione. Il sistema supporta modelli di OpenAI, Anthropic e Google, nonché il Grounded Language Model dell’intelligenza artificiale contestuale, appositamente addestrato per rimanere fedele al contesto ricevuto.
I prezzi per l’utilizzo self-service partono da $ 50 al mese, con prezzi aziendali speciali disponibili per implementazioni più ampie.
"La logica dei CFO è in realtà quella di aumentare l’efficienza e consentire una produzione più rapida attraverso iniziative di intelligenza artificiale." Kiela ha detto. "Ogni team tecnico fatica a reclutare i migliori talenti ingegneristici; Pertanto, rendere i team esistenti più produttivi è una grande priorità in questi settori."
La strada da percorrere: coordinamento multi-agente, azioni di digitazione e corsa per costruire sistemi di intelligenza artificiale compositi
Guardando al futuro, Kiela ha delineato tre priorità per il prossimo anno: automazione del flusso di lavoro con azioni di scrittura effettive sui sistemi aziendali anziché solo lettura e analisi; un migliore coordinamento tra più rappresentanti di esperti che lavorano insieme; e una padronanza più rapida attraverso l’apprendimento automatico dal feedback della produzione.
"L’effetto composto è importante qui," ha detto. "Con ogni documento che inserisci, ogni ciclo di feedback che chiudi, questi miglioramenti si accumulano. Ora sarà difficile catturare le aziende che creano questa infrastruttura."
Il mercato dell’intelligenza artificiale aziendale rimane fortemente competitivo, con offerte dei principali fornitori di servizi cloud, fornitori di software affermati e una moltitudine di startup che inseguono tutti gli stessi clienti. Se la scommessa dell’intelligenza artificiale contestuale sul contesto piuttosto che sui modelli ripagherà dipenderà dal fatto che le organizzazioni condividano o meno la visione di Kiela secondo cui le battaglie sui modelli fondamentali sono meno importanti dell’infrastruttura che le circonda.
Ma c’è una certa ironia nel posizionamento dell’azienda. Per anni, l’industria dell’intelligenza artificiale si è concentrata sulla costruzione di modelli più grandi e potenti e miliardi di dollari sono stati investiti nella corsa all’intelligenza artificiale generale. L’IA contestuale sostiene un argomento più tranquillo: nella maggior parte degli studi sul mondo reale, la magia non è nel modello. E’ sapere dove guardare.
