E se i dispositivi AI più avanzati non fossero più bloccati dietro le pareti aziendali, ma invece fossero collocati direttamente nelle mani di sviluppatori, ricercatori e neords di tutto il mondo? È esattamente che Openai ha fatto il suo nuovo nuovo Modello di parametri 120b e 20b Come sistema a peso aperto con la licenza Apache 2.0. Questo audace passo sfida lo status quo della proprietà AI, che fornisce un accesso senza precedenti a modelli in grado di combattere argomenti complessi, codifica e funzioni STEM. Con questa versione, Openai non è solo condividendo la tecnologia, ma sta dando la priorità a modellare di nuovo il paesaggio AI Trasparenza, cooperazione e accesso Più che crescita eccessiva.

L’ingegneria rapida ha riferito che questi modelli a peso aperto sono più che semplici risultati tecnici: rappresentano un cambiamento verso un ecosistema di intelligenza artificiale più inclusivo e innovativo. Da Architettura rara Ottimizza l’efficienza per la durata di riferimento estesa di 128.000 token, questi modelli sono progettati per soddisfare le esigenze di nuove ricerche e applicazioni pratiche. Se sei curioso di sapere come Il modello 20B fornisce un accesso completo all’hardware di grado consumer TOS AI O ha implementato da OpenIai, ispirato alle misure di sicurezza morale, solleva importanti domande sul futuro dell’IA. Questo può essere l’inizio di una nuova era in cui il potere dell’IA è condiviso, non silenzioso?

Modello a motore aperto di Openai

Tl; Dr Key Takeaways:

  • Openi ha rilasciato due modelli AI a peso aperto (parametri 120B e 20B) con la licenza Apache 2.0, che enfatizzano la trasparenza, la cooperazione e l’accesso.
  • Il modello è adattato a diverse funzionalità hardware, in cui il modello da 120B è adattato alla GPU ad alta riduzione e al modello 20B accessibili sull’hardware di livello consumer.
  • Le caratteristiche principali includono l’architettura rara per l’efficienza computazionale, la lunghezza di riferimento estesa fino a 128.000 token e la catena-off-tho per una maggiore risoluzione dei problemi e trasparenza.
  • I punti mobili a 4 bit garantiscono un’adattabilità completa e un’implementazione efficiente con piattaforme come l’innovazione tecnologica come Hauging Face, Pittor e Apple Metal.
  • Openi dà la priorità allo sviluppo della sicurezza e dell’IA morale attraverso iniziative come una sfida di squadra rossa da $ 500.000, promuovendo la cooperazione e l’uso responsabile delle tecnologie di intelligenza artificiale.

Caratteristiche e capacità principali

I due modelli sono progettati per completare un ampio spettro di abilità hardware, garantendo questo per gli utenti con diverse risorse computazionali.

  • Modello 120B: Personalizzato per la GPU ad alta dimostrazione, come l’H100 di NVIDIA, richiede VRAM da 80 GB per l’efficienza di picco. Questo modello è ideale per applicazioni di massa che richiedono un importante potere computazionale.
  • Modello 20b: Il grado di consumo è stato cucito su hardware, in grado di camminare su attrezzature con VRAM da 16 GB. Ciò rende le capacità di intelligenza artificiale avanzate accessibili a piccole organizzazioni e singoli sviluppatori.

Entrambi i modelli impiegano un’architettura rara, attivando solo una frazione dei loro parametri durante il funzionamento – 5 miliardi di modelli 120B e 3,6 miliardi per modelli 20b. Questo progetto aumenta l’efficienza computazionale mantenendo prestazioni elevate.

Una caratteristica straordinaria è una lunghezza di riferimento estesa fino a 128.000 token, in grado di incorporare il posizionale rotante. Questa capacità è vantaggiosa per compiti come argomenti particolarmente a lungo termine, analizzare documenti completi o gestire progetti di codifica complessi. Inoltre, il modello è principalmente addestrato sul testo inglese, con una forte enfasi su logica, codifica e problemi matematici, li rendono versatili strumenti per sviluppatori e ricercatori.

Display e adattabilità

I modelli a peso aperto forniscono prestazioni a parità di valore con sistemi proprietari come GPT-4 Mini, in particolare in settori come la logica, l’uso delle attrezzature e la risoluzione dei problemi. Una delle loro caratteristiche più pratiche è la capacità di accogliere i livelli di sforzo della logica, basata su requisiti bassi, moderati o elevati. Questa flessibilità consente di ottimizzare le prestazioni per compiti specifici quando si gestisce la mancanza di risorse in modo efficace.

Un’altra caratteristica notevole è l’integrazione della regione a catena. Questa funzionalità aumenta le capacità di risoluzione dei problemi del modello rompendo le funzioni complesse nelle fasi gestite. Fornisce inoltre trasparenza, consentendo di tracciare e eseguire il debug del processo logico. Questo livello di approfondimento è prezioso per accurata, affidabilità e applicazioni che richiedono responsabilità.

Modello OpenAI 120B e 20B GPT -SS

Ottieni maggiori informazioni Modello AI a peso aperto Navigando la nostra vasta gamma di articoli, guide e tutorial.

Innovazione tecnologica e compatibilità della piattaforma

L’efficienza è un principio principale di questi modelli. Entrambi i punti mobili a 4 bit utilizzano l’accuratezza, riducono significativamente i requisiti di memoria senza compromettere l’accuratezza computazionale. Questa innovazione garantisce che i modelli possano funzionare in modo efficiente in diversi tipi di piattaforme e ambiente. Ci sono modelli Compatibile con una vasta gamma di piattaformeCoinvolto:

  • Faccia della gola
  • Chiamata CPP
  • LM Studio
  • Olam

Il supporto per Pytorch e Apple Metal migliora ulteriormente il loro scopo, consentendo l’integrazione spontanea nei flussi di lavoro esistenti. Questa compatibilità garantisce che è possibile distribuire modelli in diversi ambienti con barriere tecniche minime, rendendoli altamente adattabili ai casi di varo utilizzo.

Sicurezza, trasparenza e cooperazione

Openi ha dato priorità alla sicurezza e alla trasparenza in questa versione. Per affrontare possibili uso improprio, l’organizzazione ha avviato una sfida di team rossa con fondi premio da $ 500.000. Questa iniziativa invita gli esperti a identificare i punti deboli e proporre una soluzione, promuove un approccio collaborativo alla sicurezza e allo sviluppo morale dell’IA.

La regione a catena del modello di tre opera opera senza supervisione diretta, consentendo di verificare e comprendere i loro processi decisionali in modo indipendente. Questa trasparenza è necessaria per garantire la creazione di fiducia e l’uso responsabile delle tecnologie AI. Fornendo attrezzature per rilevare e eseguire il debug, Openi consente agli utenti di mantenere la responsabilità e l’affidabilità nelle loro applicazioni.

Accesso e risorse per l’eclissi di adozione

I modelli di peso aperto sono facilmente disponibili su piattaforme come abbracci, nonché con API completi e strumenti di integrazione. Ciò riduce gli ostacoli nell’adozione dell’accesso, in particolare per le aree che muovono le risorse e i mercati emergenti. La partnership con leader del settore come Nvidia, AMD e AWS migliora ulteriormente l’utilità dei modelli, che fornisce un forte supporto per la distribuzione e il ridimensionamento.

Per aiutare l’adozione, Openai ha rilasciato documenti dettagliati, libri da cucina e guide di formazione. Queste risorse sono progettate per aiutarti a comprendere e implementare rapidamente il modello indipendentemente dalla tua competenza tecnica. Questo approccio collaborativo riflette una tendenza più ampia nella comunità dell’IA, in cui lo sviluppo aperto è visto come il percorso della rapida innovazione e sicurezza.

Importanza del modello a peso aperto

L’intelligenza artificiale è un momento importante in fase di sviluppo dal rilascio di questi modelli a peso aperto. Riducendo gli ostacoli per l’ingresso, Openi consente a una vasta gamma di organizzazioni e individui di utilizzare tecnologie AI avanzate. È efficace per i mercati e le regioni emergenti, in particolare con un ampio accesso all’accesso all’accesso, il che può beneficiare di abilità innovative di intelligenza artificiale.

L’open source di questi modelli promuove anche l’innovazione e protegge lo sviluppo dell’IA. Incoraggiando la cooperazione e la trasparenza, Openi dà l’esempio per le pratiche di intelligenza artificiale responsabili. L’iniziativa si allinea con gli sforzi globali per garantire lo sviluppo morale e lo spiegamento delle tecnologie AI, evidenziando l’importanza della responsabilità condivisa nel modellare il futuro dell’intelligenza artificiale.

Credito mediatico: Ingegneria precoce

Archiviato sotto: AI, notizie tecnologiche





Ultime offerte di gadget geek

Divulgazione: Alcuni dei nostri articoli includono collegamenti associati. Se acquisti qualcosa attraverso uno di questi link, il gadget geek può guadagnare una commissione affiliata. Scopri la nostra politica di divulgazione.

Collegamento alla fonte