Copilot, l'assistente personale di Microsoft, sarà eseguibile anche offline dal proprio PC. Si tratterà di una piccola rivoluzione nel rapporto tra utenti e LLM (Large Language Model) ma perché ciò sia possibile sarà necessario possedere dei terminali con caratteristiche specifiche. E no, non si parla dei computer basati su architetture SoC x86 che usiamo abitualmente.
I requisiti per eseguire Copilot in locale
Poter sfruttare Copilot anche senza una connessione a Internet potrebbe rivelarsi un vantaggio. Prima di proseguire, è però bene sottolineare che le prime indiscrezioni in proposito non provengono dalla Casa di Redmond ma da Intel e, per la precisione, da Todd Lewellen che è responsabile del team Client Computing Group di Santa Clara. Tornando al cuore della questione, è molto probabile che per disporre di processori adatti allo scopo bisognerà attendere il rilascio di laptop equipaggiati con SoC Snapdragon X Elite di Qualcomm.
Questi ultimi permetteranno tra l'altro di testare a pieno le potenzialità di Windows on ARM, variante dell'OS per la quale esiste già anche una versione non definitiva di Google Chrome. Gli Snapdragon X Elite presentano inoltre l'integrazione di un'unità NPU (Neural Processing Unit) e dovrebbero supportare i 40 TOPS (Trillion Operations per Second). Entrambe caratteristiche fondamentali per l'esecuzione di Copilot.
Perché usare Copilot offline?
Copilot è un AI Companion animato dall'Intelligenza Artificiale che è stato concepito per incrementare la produttività. Si tratta sostanzialmente di un chatbot con cui interagire usando testi, immagini e input vocali e dal quale ottenere riepiloghi di documenti o pagine Web, immagini generate da AI e, a seconda della sottoscrizione scelta, lavorare meglio con le applicazioni di Microsoft 365.
I vantaggi derivanti dall'uso offline non si limiterebbero soltanto al fatto di poter sfruttare una LLM senza collegamento alle rete. Ne dovrebbero beneficiare anche le prestazioni con una diminuzione notevole dei tempi di latenza tra invio del prompt e ricezione dell'output. Un altro beneficio evidente dovrebbe riguardare la privacy. Operare localmente significa infatti non dover inviare i propri dati ad un Cloud server remoto.