Microsoft, Ocak ayında DeepSeek-R1 modelinin NPU için optimize edilmiş sürümlerini Qualcomm Snapdragon X işlemcilerle çalışan Copilot+ bilgisayarlarına doğrudan getirmeyi planladığını duyurdu. Şubat ayında DeepSeek-R1-Distill-Qwen-1.5B ilk olarak AIToolkit for VSCode'da yayınlandı.
Redmond merkezli şirket, bugün Azure AI Foundry üzerinden Copilot+ bilgi işlem platformu için geliştirilmiş DeepSeek R1 7B ve 14B modellerinin kullanıma sunulduğunu resmen duyurdu. 7B ve 14B modellerinin doğrudan Copilot+ cihazında çalıştırılabilmesi, geliştiricilerin daha önce mümkün olmayan daha güçlü yapay zeka uygulamaları geliştirmelerine olanak tanıyacak.
Bu modeller NPU'lar üzerinde çalıştığı için kullanıcılar, pil ömrü ve bilgisayarın termal performansı üzerinde çok az etkiyle istikrarlı bir AI performansı bekleyebilirler. Ayrıca CPU ve GPU da sistemde daha önemli görevleri yerine getirmek üzere serbest kalacak.
Microsoft, DeepSeek modelinin int4'e kadar tüm varyantlarını nicelemek için kendi geliştirdikleri otomatik niceleme aracı Aqua'yı kullandıklarını vurguluyor. Ancak modelin token işleme hızı oldukça düşüktür. Microsoft, 14B modeliyle saniyede sadece 8 token, 1.5B modeliyle ise saniyede yaklaşık 40 token bildiriyor. Microsoft, hız iyileştirmelerine yönelik iyileştirmelerin devam ettiğini söylüyor. Microsoft performansı iyileştirmeye devam ettikçe, bu modellerin Copilot+ bilgisayarlar üzerindeki etkisinin önemli ölçüde artması bekleniyor.
İlgilenen geliştiriciler, VS Code için AI Toolkit eklentisi aracılığıyla DeepSeek modelinin 1.5B, 7B ve 14B varyantlarını Copilot+ bilgisayarlarına indirip çalıştırabilirler. DeepSeek modeli ONNX QDQ formatında optimize edilmiş olup doğrudan Azure AI Foundry'den indirilebilir. Bu modeller, Intel Core Ultra 200V ve AMD Ryzen işlemcileri çalıştıran gelecekteki Copilot+ bilgisayarlarda da yer alacak.
Birçok kişi Microsoft'un DeepSeek ile ortaklık kurarak risk aldığını düşünüyor. DeepSeek'in Windows ekosistemine entegre edilmesi, teknoloji hırsızlığı iddialarının haklı çıkması durumunda Microsoft'un başını derde sokabilir. Ancak DeepSeek'in yapay zeka pazarında büyük bir adım attığı da yadsınamaz. Microsoft'un bu hamlesi, cihaz üzerinde daha güçlü yapay zeka yeteneklerine doğru bir atılımın sinyalini veriyor ve yapay zeka destekli uygulamalar için yeni umutlar açıyor.