Qualcomm trascorre molto tempo durante la presentazione del suo nuovo prodotto parlando della sua NPU Hexagon. Gli osservatori più attenti potrebbero pensare che questo marchio venga riutilizzato dalla linea di processori di segnale digitale (DSP) dell’azienda, e per una buona ragione.
“Il nostro viaggio nell’elaborazione dell’intelligenza artificiale è iniziato forse 15 o 20 anni fa, quando il nostro primo punto di riferimento era l’elaborazione del segnale”, ha affermato Vinesh Sukumar, responsabile dei prodotti AI presso Qualcomm. I DSP hanno un’architettura simile alle NPU, ma sono molto più semplici, con particolare attenzione all’audio (ad esempio, il riconoscimento vocale) e all’elaborazione del segnale modem.
La NPU è uno dei numerosi componenti dei moderni SoC.
Credito: Qualcomm
Con lo sviluppo dell’insieme di tecnologie che chiamiamo “intelligenza artificiale”, gli ingegneri hanno iniziato a utilizzare i DSP per più tipi di elaborazione parallela, come la memoria a lungo termine (LSTM). Sukumar ha spiegato che man mano che l’industria si appassionava alle reti neurali convoluzionali (CNN) alla base di applicazioni tecnologiche come la visione artificiale, i DSP si concentravano sulle funzioni della matrice, che sono anche essenziali per l’elaborazione dell’intelligenza artificiale generativa.
Sebbene esista una discendenza architetturale, le NPU non sono gli unici DSP fantasiosi “Se parli di DSP in termini generali, sì, (una NPU) è un processore di segnale digitale”, ha affermato Mark Odani, vicepresidente assistente di MediaTek. “Ma ha fatto molta strada ed è molto più ottimizzato per il parallelismo, il modo in cui funzionano i trasformatori e per contenere un gran numero di parametri per l’elaborazione.”
Nonostante siano così importanti nei nuovi chip, le NPU non sono strettamente necessarie per eseguire carichi di lavoro AI “edge”, un termine che distingue l’elaborazione AI locale dai sistemi basati su cloud. Le CPU sono più lente delle NPU ma possono gestire alcuni carichi di lavoro leggeri senza utilizzare tanta potenza. Nel frattempo, le GPU spesso riescono a masticare più dati di una NPU, ma utilizzano più potenza per farlo. E secondo Sukumar di Qualcomm, ci sono momenti in cui potresti volerlo. Ad esempio, l’esecuzione di un carico di lavoro AI durante un gioco può favorire la GPU.
