Produce “fluenti assurdità” mentre ragionamento al di fuori delle zone educative

Un nuovo obiettivo nel ragionamento LLM

I ricercatori dell’ASU propongono un nuovo obiettivo per mostrare questo problema: il COT non è un’azione di ragionamento, ma un sofisticato modello di modanatura basato su modelli statistici sui dati educativi. “Il successo di Cot deriva dalla naturale capacità di ragionamento di un modello, ma dalla capacità di generalizzare strutturalmente, analogamente agli esempi di distribuzione interna.” In altre parole, un LLM è buono nell’applicare vecchi schemi a nuovi dati che sembrano simili, ma non per risolvere nuovi problemi.

Per testare questa ipotesi, hanno distrutto le capacità di COT lungo le tre dimensioni di “spostamento distributivo” (cambiamenti tra i dati di addestramento e i dati di test). In primo luogo, hanno testato la “generalizzazione della missione” per vedere se un modello potrebbe implementare un processo di ragionamento appreso su un nuovo tipo di attività. In secondo luogo, hanno esaminato la “generalizzazione delle lunghezze üzere per determinare se potevano prendere una catene di ragionamento più lunghe o più brevi di quanto non fossero addestrate. Infine, hanno valutato il” formato generalizzazione Özgün per misurare quanto il modello fosse sensibile ai piccoli cambiamenti nell’espressione o nella struttura della richiesta.

Per l’analisi, Dataalchemy Al fine di addestrare LLM più piccoli da zero in un ambiente controllato, consente loro di misurare completamente il modo in cui le prestazioni vengono rotte quando vengono spinte oltre i dati di allenamento.

“L’obiettivo di distribuzione dei dati e un ambiente controllato sono al centro di ciò che stiamo cercando di trasmettere, Chengshuai Zhao, uno studente di dottorato nell’ASU e il co -autore dell’articolo, si dice che venne il bersaglio.” Speriamo di creare un’area in cui persone, ricercatori e sviluppatori possono scoprire liberamente la natura delle LLM ed esplorare e far avanzare i limiti di conoscenza umana. “

Mirage approvato

Sulla base dei loro risultati, i ricercatori hanno concluso che il ragionamento del COT è la base con la distribuzione della distribuzione dei dati durante l’educazione e quando è una forma sofisticata di corrispondenza del modello strutturato ”. Quando questa distribuzione è un po ‘testata, le prestazioni crollano.

L’errore era coerente in tutte e tre le dimensioni. In nuovi compiti, i modelli non potevano generalizzare e invece hanno aumentato i modelli più vicini che hanno visto durante l’allenamento. Quando hanno incontrato catene di ragionamento di diverse lunghezze, hanno lottato, spesso hanno cercato di aggiungere o rimuovere passaggi che rispettavano la durata degli esempi educativi. Infine, le loro prestazioni sono state molto sensibili ai cambiamenti superficiali nelle variazioni di elementi e istruzioni principali.

È interessante notare che i ricercatori hanno scoperto che questi fallimenti potrebbero essere corretti rapidamente. I modelli sono aumentati rapidamente eseguendo la sintonizzazione fine in un esempio molto piccolo di dati nuovi e invisibili attraverso la sintonizzazione fine controllata (SFT). Tuttavia, questa rapida correzione supporta ulteriormente la teoria della corrispondenza del modello, che il modello non impara a ragionare in modo più astratto, ma memorizza invece un nuovo modello per superare un certo punto debole.

Pacchetti per le imprese

I ricercatori sottolineano che fornendo un avvertimento diretto ai professionisti, il rischio di fare affidamento sulla COT come soluzione efficace e di gioco e equalizzare la produzione in stile karyol con il pensiero umano ”. Forniscono tre importanti consigli per gli sviluppatori che creano applicazioni con LLMS.

1)Proteggi dalla dipendenza eccessiva e dalla fiducia sbagliata. Non dovrebbe essere considerato un modulo affidabile per il ragionamento in aree di scommesse elevate come COT, finanza o analisi legale. LLMS può produrre chiaramente “assurdo fluente” (ragionamento difettoso ragionevole ma logico), che è chiaramente ingannevole di una risposta sbagliata. Gli autori sottolineano che “il controllo adeguato degli esperti di dominio è indispensabile”.

“Il progresso della scienza dovrebbe rimanere makin centrati sull’uomo, ma la scoperta si sta ancora sviluppando sull’umanità e la curiosità, Z ha detto Zhao.

2) pRiolitizza il test ood). La verifica standard, in cui i dati di test riflettono i dati educativi, non è sufficiente per misurare la forza reale. Gli sviluppatori dovrebbero applicare test meticolosi che studiano sistematicamente i guasti tra compiti, lunghezze e variazioni di formato.

3)Riconoscere la perfezione come patch, non Payacea. Sebbene la regolazione sottile controllata (SFT) possa rapidamente “rattoppare le prestazioni di un modello in una particolare nuova distribuzione dei dati, non crea una vera generalizzazione. Espande delicatamente la“ bolla di distribuzione ”del modello. Fidarsi della SFT per correggere ogni errore OOD è una strategia insostenibile che non affronta la mancanza di ragionamento astratto del modello.

Sebbene non vi sia alcuna forma di cognizione umana del lettino, questa limitazione può essere gestita. La maggior parte delle pratiche aziendali contiene una serie di compiti relativamente ristretti e prevedibili. I risultati dell’articolo offrono un piano per garantire l’affidabilità in questi campi. Gli sviluppatori possono creare semi di valutazione meticolosi che testano sistematicamente le prestazioni del modello in base a determinate attività, lunghezze e variazioni di formattazione che le loro applicazioni dovranno affrontare. Ciò consente a un modello di mappare i confini della zona di comfort “all’interno della distribuzione” e determinare dove è compatibile con le sue esigenze speciali.

Questo test mirato converte l’adeguamento fine da una “patch” reattiva a una strategia di allineamento proattivo. Quando le valutazioni rivelano una certa debolezza, gli sviluppatori possono creare set di dati SFT piccoli e mirati per affrontarlo. Invece di cercare di raggiungere il ragionamento generale e generale, questo approccio utilizza SFT chirurgicamente per garantire che le capacità di corrispondenza del modello del modello siano completamente allineate con i contorni di una particolare attività operativa. In definitiva, lo studio offre una lente pratica per andare oltre le applicazioni di speranza e ingegneria per ottenere un successo prevedibile.

Informazioni quotidiane sull’utilizzo del business con quotidianamente ecc.

Se vuoi impressionare il tuo capo, ci sono quotidianamente, ecc. Dai turni normativi alle distribuzioni pratiche, ti diamo ciò che le aziende fanno con l’intelligenza artificiale produttiva, in modo da poter condividere informazioni per il massimo YG.

Leggi la nostra politica sulla privacy

Grazie per aver iscritto. Dai un’occhiata di più ecc.

C’è stato un errore.