Inizialmente sperimentando con l’intelligenza artificiale di laureati e agenzie, ingegneri del software concetto di intelligenza artificiale generazione pratica di codice avanzato, diagrammi complessi e istruzioni pesanti.
Tuttavia, presto insegnò alla squadra, attraverso prove ed errori, che era possibile. sbarazzarsi di tutta quella complessa modellazione dei dati. Ryan Nystrom, responsabile dell’ingegneria AI di Notion, e il suo team gravitavano verso suggerimenti semplici, rappresentazioni leggibili dall’uomo, astrazione minima e formati di markup familiari. Di conseguenza, le prestazioni del modello sono notevolmente migliorate.
Applicando questo approccio riprogettato, a settembre l’azienda basata sull’intelligenza artificiale ha rilasciato la versione V3 del suo software di produttività. Caratteristica notevole: agenti AI personalizzabili, che sono diventati rapidamente lo strumento AI di maggior successo di Notion fino ad oggi. Basandosi sui modelli di utilizzo rispetto alle versioni precedenti, Nystrom lo definisce un “miglioramento della funzione passo-passo”.
“Questa è la sensazione che il prodotto venga tirato fuori da te, piuttosto che il tentativo di spingerlo”, spiega Nystrom. VB Oltre il podcast pilota. “Da quel momento in poi, sapevamo di avere qualcosa da molto tempo. Ora ci chiediamo: ‘Come posso usare Notion senza questa funzionalità?’ accaduto”
“Riconnessione” per l’era degli agenti IA
In quanto ingegnere informatico tradizionale, Nystrom era abituato a esperienze “altamente decisive”. Ma il momento illuminante arrivò quando un collega gli consigliò che, invece di codificare le regole su come gli agenti dovrebbero comportarsi in vari scenari, avrebbe dovuto semplicemente descriverli come farebbe un essere umano. Motivazione: i Master sono progettati per comprendere, “vedere” e ragionare attraverso i contenuti allo stesso modo degli esseri umani.
“Ora, ogni volta che lavoro con l’intelligenza artificiale, rileggo i suggerimenti e le descrizioni degli strumenti e (mi chiedo) è qualcosa che posso dare a una persona che non ha contesto e può capire cosa sta succedendo?” Nystrom ha detto nel podcast. “Altrimenti farà un pessimo lavoro.”
Facendo un passo indietro rispetto al “rendering abbastanza complesso” dei dati all’interno di Notion (come JSON o XML), Nystrom e il suo team hanno rappresentato le pagine di Notion come markup, il popolare linguaggio di markup indipendente dal dispositivo che definisce struttura e significato utilizzando testo semplice senza la necessità di tag HTML o editor formali. Ciò consente al modello di interagire con file di testo, leggere, cercare e apportare modifiche.
Alla fine, ciò ha richiesto a Notion di ristrutturare i suoi sistemi; Il team di Nystrom si è concentrato principalmente sul livello di transizione del middleware.
Hanno anche individuato fin dall’inizio l’importanza di applicare moderazione quando si tratta di contesto. Può essere forte la tentazione di caricare quante più informazioni possibili in un modello, ma ciò può rallentare le cose e confondere il modello. Nystrom ha descritto il limite da 100.000 a 150.000 token come il “punto debole” per Notion.
“Ci sono situazioni in cui puoi caricare tonnellate di contenuti nella finestra di contesto e il modello avrà difficoltà”, ha affermato. “Più si inserisce nella finestra di contesto, si nota una diminuzione delle prestazioni, della latenza e della precisione.”
È importante anche un approccio semplice all’uso degli strumenti; Nystrom ha avvertito che questo potrebbe aiutare le squadre a evitare la “pendenza scivolosa” di infinite funzionalità. Notion si concentra su un “menu personalizzato” di strumenti piuttosto che su un voluminoso menu simile a Cheesecake Factory che crea un paradosso di scelta per gli utenti.
“Quando le persone desiderano nuove funzionalità, possiamo semplicemente aggiungere uno strumento al modello o all’agente”, ha affermato. Ma “più strumenti aggiungiamo, più decisioni dovrà prendere il modello”.
Insomma: Canalizza il modello. Utilizza le API nel modo in cui devono essere utilizzate. Non cercare di essere fantasioso, non cercare di complicarlo eccessivamente. Usa un inglese semplice.
Ascolta il podcast completo per scoprire:
-
Perché l’intelligenza artificiale è ancora nell’era pre-Blackberry e pre-iPhone;
-
importanza "cibo per cani" nello sviluppo del prodotto;
-
Perché non dovresti preoccuparti di quanto sia conveniente la tua funzionalità AI nelle fasi iniziali, che può essere ottimizzata in seguito;
-
Nell’era MCP, come possono i team di ingegneri ridurre al minimo gli strumenti?
-
L’evoluzione di Notion dai wiki agli assistenti IA completi.
Iscriviti a Beyond the Pilot Podcast di Apple, SpotifyE YouTube.
