Modello a Cascata: Ottimizzare le Prestazioni dell'AI sui Dispositivi Embedded

Nella nostra intervista con Sergi Mansilla di Edge Impulse all'Embedded World 2025, abbiamo ottenuto un aggiornamento sul Machine Learning in ambito edge. Come abbiamo visto in ogni fiera, la tecnologia sta maturando rapidamente. Grazie al model cascading, gli algoritmi di ML di primo livello eseguono un pre-filtraggio prima di eseguire modelli più impegnativi dal punto di vista energetico. Abbiamo anche discusso i vantaggi dell'acquisizione di Qualcomm per la comunità Edge Impulse.

Nel mondo dell'AI edge stanno accadendo molte cose: i processori embedded sono sempre più potenti e gli algoritmi cloud sono stati adattati per essere eseguiti su di essi. Parlando con Sergi Mansilla di Edge Impulse, è chiaro che il settore sta sfruttando questo cambiamento a vantaggio dei sistemi embedded.

Grazie a modelli di Machine Learning a cascata, gli algoritmi a basso consumo possono effettuare una valutazione preliminare dei dati. Se sono presenti attributi fondamentali, un secondo algoritmo, come ad esempio un modello linguistico di grandi dimensioni, può eseguire un'elaborazione aggiuntiva che richiede più energia. I VLM, o modelli linguistici di visione, entrano sempre più spesso nei sistemi edge, consentendo agli algoritmi di linguaggio naturale di rilevare oggetti o descrivere una scena.

Abbiamo anche discusso i vantaggi dell'acquisizione di Edge Impulse da parte di Qualcomm per la comunità e l'accesso a nuovo hardware che offre agli sviluppatori.