E se i dispositivi AI più avanzati non fossero più bloccati dietro le pareti aziendali, ma invece fossero collocati direttamente nelle mani di sviluppatori, ricercatori e neords di tutto il mondo? È esattamente che Openai ha fatto il suo nuovo nuovo Modello di parametri 120b e 20b Come sistema a peso aperto con la licenza Apache 2.0. Questo audace passo sfida lo status quo della proprietà AI, che fornisce un accesso senza precedenti a modelli in grado di combattere argomenti complessi, codifica e funzioni STEM. Con questa versione, Openai non è solo condividendo la tecnologia, ma sta dando la priorità a modellare di nuovo il paesaggio AI Trasparenza, cooperazione e accesso Più che crescita eccessiva.
L’ingegneria rapida ha riferito che questi modelli a peso aperto sono più che semplici risultati tecnici: rappresentano un cambiamento verso un ecosistema di intelligenza artificiale più inclusivo e innovativo. Da Architettura rara Ottimizza l’efficienza per la durata di riferimento estesa di 128.000 token, questi modelli sono progettati per soddisfare le esigenze di nuove ricerche e applicazioni pratiche. Se sei curioso di sapere come Il modello 20B fornisce un accesso completo all’hardware di grado consumer TOS AI O ha implementato da OpenIai, ispirato alle misure di sicurezza morale, solleva importanti domande sul futuro dell’IA. Questo può essere l’inizio di una nuova era in cui il potere dell’IA è condiviso, non silenzioso?
Modello a motore aperto di Openai
Tl; Dr Key Takeaways:
- Openi ha rilasciato due modelli AI a peso aperto (parametri 120B e 20B) con la licenza Apache 2.0, che enfatizzano la trasparenza, la cooperazione e l’accesso.
- Il modello è adattato a diverse funzionalità hardware, in cui il modello da 120B è adattato alla GPU ad alta riduzione e al modello 20B accessibili sull’hardware di livello consumer.
- Le caratteristiche principali includono l’architettura rara per l’efficienza computazionale, la lunghezza di riferimento estesa fino a 128.000 token e la catena-off-tho per una maggiore risoluzione dei problemi e trasparenza.
- I punti mobili a 4 bit garantiscono un’adattabilità completa e un’implementazione efficiente con piattaforme come l’innovazione tecnologica come Hauging Face, Pittor e Apple Metal.
- Openi dà la priorità allo sviluppo della sicurezza e dell’IA morale attraverso iniziative come una sfida di squadra rossa da $ 500.000, promuovendo la cooperazione e l’uso responsabile delle tecnologie di intelligenza artificiale.
Caratteristiche e capacità principali
I due modelli sono progettati per completare un ampio spettro di abilità hardware, garantendo questo per gli utenti con diverse risorse computazionali.
- Modello 120B: Personalizzato per la GPU ad alta dimostrazione, come l’H100 di NVIDIA, richiede VRAM da 80 GB per l’efficienza di picco. Questo modello è ideale per applicazioni di massa che richiedono un importante potere computazionale.
- Modello 20b: Il grado di consumo è stato cucito su hardware, in grado di camminare su attrezzature con VRAM da 16 GB. Ciò rende le capacità di intelligenza artificiale avanzate accessibili a piccole organizzazioni e singoli sviluppatori.
Entrambi i modelli impiegano un’architettura rara, attivando solo una frazione dei loro parametri durante il funzionamento – 5 miliardi di modelli 120B e 3,6 miliardi per modelli 20b. Questo progetto aumenta l’efficienza computazionale mantenendo prestazioni elevate.
Una caratteristica straordinaria è una lunghezza di riferimento estesa fino a 128.000 token, in grado di incorporare il posizionale rotante. Questa capacità è vantaggiosa per compiti come argomenti particolarmente a lungo termine, analizzare documenti completi o gestire progetti di codifica complessi. Inoltre, il modello è principalmente addestrato sul testo inglese, con una forte enfasi su logica, codifica e problemi matematici, li rendono versatili strumenti per sviluppatori e ricercatori.
Display e adattabilità
I modelli a peso aperto forniscono prestazioni a parità di valore con sistemi proprietari come GPT-4 Mini, in particolare in settori come la logica, l’uso delle attrezzature e la risoluzione dei problemi. Una delle loro caratteristiche più pratiche è la capacità di accogliere i livelli di sforzo della logica, basata su requisiti bassi, moderati o elevati. Questa flessibilità consente di ottimizzare le prestazioni per compiti specifici quando si gestisce la mancanza di risorse in modo efficace.
Un’altra caratteristica notevole è l’integrazione della regione a catena. Questa funzionalità aumenta le capacità di risoluzione dei problemi del modello rompendo le funzioni complesse nelle fasi gestite. Fornisce inoltre trasparenza, consentendo di tracciare e eseguire il debug del processo logico. Questo livello di approfondimento è prezioso per accurata, affidabilità e applicazioni che richiedono responsabilità.
Modello OpenAI 120B e 20B GPT -SS
Ottieni maggiori informazioni Modello AI a peso aperto Navigando la nostra vasta gamma di articoli, guide e tutorial.
Innovazione tecnologica e compatibilità della piattaforma
L’efficienza è un principio principale di questi modelli. Entrambi i punti mobili a 4 bit utilizzano l’accuratezza, riducono significativamente i requisiti di memoria senza compromettere l’accuratezza computazionale. Questa innovazione garantisce che i modelli possano funzionare in modo efficiente in diversi tipi di piattaforme e ambiente. Ci sono modelli Compatibile con una vasta gamma di piattaformeCoinvolto:
- Faccia della gola
- Chiamata CPP
- LM Studio
- Olam
Il supporto per Pytorch e Apple Metal migliora ulteriormente il loro scopo, consentendo l’integrazione spontanea nei flussi di lavoro esistenti. Questa compatibilità garantisce che è possibile distribuire modelli in diversi ambienti con barriere tecniche minime, rendendoli altamente adattabili ai casi di varo utilizzo.
Sicurezza, trasparenza e cooperazione
Openi ha dato priorità alla sicurezza e alla trasparenza in questa versione. Per affrontare possibili uso improprio, l’organizzazione ha avviato una sfida di team rossa con fondi premio da $ 500.000. Questa iniziativa invita gli esperti a identificare i punti deboli e proporre una soluzione, promuove un approccio collaborativo alla sicurezza e allo sviluppo morale dell’IA.
La regione a catena del modello di tre opera opera senza supervisione diretta, consentendo di verificare e comprendere i loro processi decisionali in modo indipendente. Questa trasparenza è necessaria per garantire la creazione di fiducia e l’uso responsabile delle tecnologie AI. Fornendo attrezzature per rilevare e eseguire il debug, Openi consente agli utenti di mantenere la responsabilità e l’affidabilità nelle loro applicazioni.
Accesso e risorse per l’eclissi di adozione
I modelli di peso aperto sono facilmente disponibili su piattaforme come abbracci, nonché con API completi e strumenti di integrazione. Ciò riduce gli ostacoli nell’adozione dell’accesso, in particolare per le aree che muovono le risorse e i mercati emergenti. La partnership con leader del settore come Nvidia, AMD e AWS migliora ulteriormente l’utilità dei modelli, che fornisce un forte supporto per la distribuzione e il ridimensionamento.
Per aiutare l’adozione, Openai ha rilasciato documenti dettagliati, libri da cucina e guide di formazione. Queste risorse sono progettate per aiutarti a comprendere e implementare rapidamente il modello indipendentemente dalla tua competenza tecnica. Questo approccio collaborativo riflette una tendenza più ampia nella comunità dell’IA, in cui lo sviluppo aperto è visto come il percorso della rapida innovazione e sicurezza.
Importanza del modello a peso aperto
L’intelligenza artificiale è un momento importante in fase di sviluppo dal rilascio di questi modelli a peso aperto. Riducendo gli ostacoli per l’ingresso, Openi consente a una vasta gamma di organizzazioni e individui di utilizzare tecnologie AI avanzate. È efficace per i mercati e le regioni emergenti, in particolare con un ampio accesso all’accesso all’accesso, il che può beneficiare di abilità innovative di intelligenza artificiale.
L’open source di questi modelli promuove anche l’innovazione e protegge lo sviluppo dell’IA. Incoraggiando la cooperazione e la trasparenza, Openi dà l’esempio per le pratiche di intelligenza artificiale responsabili. L’iniziativa si allinea con gli sforzi globali per garantire lo sviluppo morale e lo spiegamento delle tecnologie AI, evidenziando l’importanza della responsabilità condivisa nel modellare il futuro dell’intelligenza artificiale.
Credito mediatico: Ingegneria precoce
Archiviato sotto: AI, notizie tecnologiche
Ultime offerte di gadget geek
Divulgazione: Alcuni dei nostri articoli includono collegamenti associati. Se acquisti qualcosa attraverso uno di questi link, il gadget geek può guadagnare una commissione affiliata. Scopri la nostra politica di divulgazione.