L’intelligenza artificiale generativa ha bisogno di grandi prestazioni computazionali: secondo quanto spiega Qualcomm, per generarlo serve un approccio ibrido. Con carichi distribuiti su cloud e dispositivi edge, il futuro dell’AI diventa ibrido.
Intelligenza artificiale generativa, il futuro è ibrido secondo Qualcomm
L’IA generativa (o GenAI) è una forma di intelligenza artificiale che produce contenuti di vario tipo (testo, immagini, video, musica, ecc.) in base a delle richieste chiamate prompt. Con l’aumento della domanda e dei costi di elaborazione di questa tecnologia, diventa fondamentale adottare un’architettura ibrida che distribuisca i carichi di lavoro tra cloud e dispositivi edge.
Un’architettura ibrida di IA permette di eseguire e coordinare i processi di IA tra il cloud e i dispositivi edge – come smartphone, auto, PC e dispositivi IoT. Questo non solo aiuta nel calcolo, ma permette anche di avere esperienze personalizzate.
Ma il vantaggio principale è il risparmio economico. Si stima infatti che la ricerca basata sull’IA generativa abbia un costo per query 10 volte superiore a quella tradizionale. E questo è solo uno dei tanti usi dell’IA generativa.
Ma oltre ad abbattare i costi, offre benefici aggiuntivi in termini di prestazioni, privacy, sicurezza e scalabilità globale.
Queste architetture possono avere diverse modalità di offload per bilanciare l’elaborazione tra cloud e dispositivi, a seconda di fattori come la complessità del modello e della query. Eseguendo i calcoli più semplici su i dispositivi e quelli più complessi sul cloud, per esempio. Ma considerate che già ora gli smartphone eseguono modelli AI con più di un miliardo di parametri e nel prossimo futuro arriveranno oltre i 10 miliardi.
Per questo, l’approccio ibrido sembra il futuro dell’intelligenza artificiale generativa: maggiori informazioni nel whitepaper di Qualcomm.
- Un'alternativa consapevole Gli smartphone sono realizzati in vetro e pellicola PET parzialmente riciclati e vengono...
- Ottime foto notturne, ideali per la condivisione. L'intelligenza artificiale di Nightography pensa attentamente in modo...
- La fotocamera grandangolare da 50 MP funziona di pari passo con un potente processore e può quindi creare rapidamente...
Rimani aggiornato seguendoci su Google News!
Da non perdere questa settimana su Techprincess
🌍 Giornata della Terra: ciascuno può dare il suo piccolo contributo per salvaguardarla
🍿Fallout: tutte le domande irrisolte alle quali la Stagione 2 dovrà rispondere
🛞Come scegliere gli pneumatici estivi per l’estate? I fattori da considerare
🤯Google licenzia 28 dipendenti per proteste contro il progetto Nimbus in Israele
✒️ La nostra imperdibile newsletter Caffellattech! Iscriviti qui
🎧 Ma lo sai che anche Fjona ha la sua newsletter?! Iscriviti a SuggeriPODCAST!
📺 Trovi Fjona anche su RAI Play con Touch - Impronta digitale!
💌 Risolviamo i tuoi problemi di cuore con B1NARY
🎧 Ascolta il nostro imperdibile podcast Le vie del Tech
💸E trovi un po' di offerte interessanti su Telegram!
