Secondo Intel, Microsoft desidera che parti di Copilot vengano presto eseguite in modo nativo sul tuo computer. Solo: i requisiti minimi per questo sono più alti di quelli che Intel può attualmente offrire.
Microsoft vuole eseguire presto AI Copilot localmente. Intel lo ha confermato all'AI Summit I dispositivi di Tom. Microsoft Copilot è un assistente AI creativo basato sullo stesso modello GPT che alimenta ChatGPT di OpenAI. Copilot può aiutarti con tutti i tipi di attività quotidiane, come la ricerca di elementi di azione nelle e-mail o la preparazione di presentazioni PowerPoint. Tuttavia, attualmente, tutte le query inviate a Copilot devono passare attraverso il cloud, poiché la potenza di calcolo è sufficiente solo per l’inferenza.
Inferenza locale
Ciò richiede tempo, capacità di rete e potenza di calcolo nel data center. Inoltre, potrebbe essere necessario trasferire avanti e indietro dati sensibili alla privacy e i clienti non sempre lo desiderano. La soluzione è eseguire Copilot localmente, almeno per compiti leggermente più leggeri. Ciò è possibile purché le macchine locali dispongano di potenza di calcolo sufficiente per elaborare in modo efficiente queste attività di inferenza.
Intel ha persino trovato un numero: Microsoft vuole 40 TOPS di potenza di calcolo NPU. Lo stesso numero era stato precedentemente rilasciato da Trendforce e lo abbiamo visto anche sui chipset HP. Colpisce: la stessa Microsoft preferisce per ora rimanere sul vago e non vuole né confermare né smentire 40 redattori TOPS. Fortunatamente, Intel lo fa invece di Microsoft.
Minimalismo orientato al futuro
40 cime (Tera operazioni al secondo) è una misura della potenza AI della NPU. Attualmente non esiste un computer dotato solo di un processore che disponga di TOPS sufficienti. Le NPU sui processori Intel e AMD hanno un massimo di dieci e sedici TOPS. In altre parole, Copilot non può funzionare in modo nativo sull'attuale generazione di “PC AI”, secondo i numeri di Microsoft, che ora sono stati ampiamente confermati da quasi tutti tranne Microsoft.
Intel è fiduciosa di raggiungere la soglia di prestazioni Copilot con la prossima generazione di chip quest'anno. Non c'è dubbio che anche AMD sia consapevole dei requisiti e saremmo sorpresi se i nuovi chipset Ryzen non soddisfacessero i requisiti minimi.
I piani di Microsoft mostrano dove si sta sviluppando l'intelligenza artificiale. Il copilota deve diventare onnipresente utilizzando i dispositivi locali. In effetti, Intel è in parte una pubblicità per Nvidia e AMD: oggi solo i computer con una GPU discreta hanno i TOPS necessari.