Microsoft ha annunciato l’integrazione del modello di intelligenza artificiale DeepSeek R1 su diverse piattaforme, tra cui Copilot+ PC, Azure AI Foundry e GitHub. Il primo modello disponibile sarà DeepSeek-R1-Distill-Qwen-1.5B, con versioni più avanzate da 7 e 14 miliardi di parametri in arrivo. L’integrazione punta a migliorare le capacità di elaborazione locale dell’AI e ridurre la dipendenza dal cloud.
Microsoft integra DeepSeek R1 su Windows con Copilot+ PC, Azure e GitHub
I primi dispositivi a supportare DeepSeek R1 saranno quelli con processori Snapdragon X, seguiti dalle future piattaforme Intel Lunar Lake e AMD Ryzen AI 9. Grazie alle ottimizzazioni per le NPU (Neural Processing Unit), questi modelli potranno eseguire operazioni di intelligenza artificiale in locale, migliorando efficienza energetica e tempi di risposta. Le NPU garantiscono prestazioni superiori rispetto a CPU e GPU, riducendo il consumo energetico e migliorando la fluidità delle operazioni AI.
Microsoft ha testato la versione ottimizzata di DeepSeek R1 per NPU, confrontandola con l’originale. I risultati indicano che l’accuratezza delle risposte rimane invariata, mentre i consumi energetici risultano sensibilmente ridotti. Il tempo di generazione del primo token è sceso a 130 millisecondi, con una velocità di inferenza di 16 token al secondo su input brevi. Questo incremento nelle prestazioni migliora l’interazione in tempo reale, rendendo il modello più reattivo.
Le potenzialità di DeepSeek R1
Lo sviluppo di DeepSeek R1 trae ispirazione da Phi Silica, un precedente progetto Microsoft per l’ottimizzazione dell’inferenza locale. Tra le innovazioni introdotte spiccano la finestra scorrevole, che accelera il tempo di risposta e migliora la gestione dei contesti estesi, e la quantizzazione QuaRot a 4 bit, che riduce il consumo energetico mantenendo un’alta qualità dell’output.
Naviga in sicurezza con Nord VPN, Ottieni da questo link fino al 72% di Sconto
Il modello utilizza il formato ONNX QDQ, garantendo compatibilità con una vasta gamma di dispositivi Windows. Questa combinazione tecnologica consente di eseguire modelli AI in locale senza compromettere le prestazioni generali del sistema, facilitando l’integrazione su laptop e workstation.
DeepSeek R1 sarà accessibile agli sviluppatori attraverso l’AI Toolkit di Visual Studio Code. Sarà possibile scaricare il modello dal catalogo Azure AI Foundry o da GitHub e testarlo nel Playground, inviando prompt per valutarne le capacità. Oltre alla versione locale, Microsoft offrirà DeepSeek R1 in cloud su Azure, fornendo un’opzione scalabile e sicura per applicazioni aziendali.
Come parte di Azure AI Foundry, il modello beneficia di una piattaforma affidabile e conforme agli standard di sicurezza aziendale, rendendolo adatto per l’integrazione in soluzioni enterprise. Questa scelta strategica mira a fornire agli sviluppatori strumenti flessibili per la creazione di applicazioni AI avanzate senza dipendere esclusivamente da risorse cloud.
- ALEXA PUÒ MOSTRARTI MOLTE COSE: Echo Show 5 è dotato di uno schermo da 5,5", per controllare a colpo d’occhio il...
- PICCOLE DIMENSIONI, MIGLIORI PRESTAZIONI AUDIO: ascolta la tua musica o i tuoi podcast preferiti, guarda le serie TV che...
- LA TUA CASA GESTITA IN TUTTA COMODITÀ: controlla i dispositivi per Casa Intelligente, come lampadine e termostati,...
Ultimo aggiornamento 2024-10-06 / Link di affiliazione / Immagini da Amazon Product Advertising API
