I computer analogici possono addestrare l’intelligenza artificiale 1000 volte più velocemente e ridurre il consumo di energia

I computer analogici che risolvono rapidamente un tipo chiave di equazione utilizzata nell’addestramento dei modelli di intelligenza artificiale potrebbero offrire una potenziale soluzione al crescente consumo di energia nei data center a causa del boom dell’intelligenza artificiale.

Laptop, smartphone e altri dispositivi familiari sono noti come computer digitali, perché memorizzano ed elaborano dati come serie di 0 o 1 cifre binarie e possono essere programmati per risolvere molti problemi. Al contrario, i computer analogici sono solitamente progettati per risolvere solo un problema specifico. Memorizzano ed elaborano i dati utilizzando quantità che possono variare continuamente come la resistenza elettrica, anziché 0 e 1 discreti.

I computer analogici potevano eccellere in velocità ed efficienza energetica, ma inizialmente mancavano della precisione delle loro controparti digitali. Ora, sole zhong dell’Università di Pechino, in Cina, e i suoi colleghi hanno creato una coppia di chip analogici che lavorano insieme per risolvere accuratamente le equazioni di matrice – una parte fondamentale dell’invio di dati su reti di telecomunicazioni, dell’esecuzione di simulazioni scientifiche di grandi dimensioni o dell’addestramento di modelli di intelligenza artificiale.

Il primo chip produce soluzioni a bassa precisione per calcoli di matrici molto veloci, mentre il secondo esegue un algoritmo di perfezionamento iterativo per analizzare i tassi di errore del primo chip e migliorare la precisione. Sun afferma che il primo chip produce risultati con un tasso di errore di circa l’1%, ma dopo tre cicli con il secondo chip, questo scende allo 0,0000001%, che secondo lui corrisponde alla precisione dei calcoli digitali standard.

Finora, i ricercatori hanno creato chip in grado di risolvere matrici 16 x 16, o chip con 256 variabili, che potrebbero avere applicazioni per alcuni problemi più piccoli. Ma Sun ammette che gestire le query utilizzate nei grandi modelli di intelligenza artificiale di oggi richiederebbe circuiti molto più grandi, forse un milione di volte più grandi.

Ma un vantaggio che i chip analogici hanno rispetto a quelli digitali è che non occorre molto tempo per risolvere matrici di grandi dimensioni, mentre i chip digitali faticano sempre più all’aumentare della dimensione della matrice. Ciò significa che il throughput del chip a matrice 32 x 32 – la quantità di dati elaborati al secondo – batterà quello di una GPU Nvidia H100, uno dei chip di fascia alta utilizzati oggi per addestrare l’intelligenza artificiale.

Sun afferma che, teoricamente, un ulteriore ridimensionamento potrebbe raggiungere un throughput 1000 volte superiore rispetto ai chip digitali come le GPU, utilizzando 100 volte meno energia. Ma si affretta a sottolineare che le funzioni del mondo reale potrebbero non rientrare nelle capacità estremamente ristrette dei suoi circuiti, portando a piccoli benefici.

“Questo è solo un confronto di velocità e, per le applicazioni reali, il problema potrebbe essere diverso”, afferma Sun. “Il nostro chip può eseguire solo calcoli con matrici. Se i calcoli con matrici occupano la maggior parte del lavoro di calcolo, ciò rappresenta un’accelerazione molto significativa del problema, altrimenti sarà un limite di velocità.”

Sun afferma che, per questo motivo, il risultato più probabile è la creazione di chip ibridi, in cui una GPU ha alcuni circuiti analogici che gestiscono parti molto specifiche del problema, ma anche per questo ci vorranno probabilmente alcuni anni.

Giacomo Milano Il King’s College di Londra afferma che i calcoli a matrice sono un processo chiave nell’addestramento dei modelli di intelligenza artificiale e che il calcolo analogico fornisce un potenziale impulso.

“Il mondo moderno è costruito su computer digitali. Queste incredibili macchine sono computer universali, il che significa che possono essere utilizzati per calcolare assolutamente qualsiasi cosa, ma non necessariamente tutto può essere calcolato in modo efficiente o rapido”, afferma Millen. “I computer analogici sono progettati per compiti specifici e come tali possono essere incredibilmente veloci ed efficienti. Questo compito utilizza un chip di calcolo analogico per accelerare un processo chiamato inversione della matrice, che è un processo chiave nell’addestramento di alcuni modelli di intelligenza artificiale. Fare questo in modo più efficiente potrebbe aiutare a ridurre le enormi richieste di energia derivanti dalla nostra crescente dipendenza dall’intelligenza artificiale”.