Microsoft, 2,8 trilyon toplam ve 80 milyar aktif parametreli MoE modeli MAI-Base-2'yi tanıttı
Orijinal başlık: Microsoft unveils MAI-Base-2, a MoE model with 2.8T total and 80B active parameters, claiming 4x-12x more pretraining FLOPs-efficiency than DeepSeek-V4-Pro-Base (Microsoft AI)
Kısaca
Şirket, Haziran'da MAI-Base-1 üzerine post-training ile geliştirilen akıl yürütme modeli MAI-Thinking-1'in ardından genel amaçlı temel model hattını MAI-Base-2 ile genişletiyor.
Ne oldu?
- MAI-Base-2, Mixture-of-Experts (MoE) mimarisiyle çalışıyor; toplam 2,8 trilyon parametrenin yalnızca 80 milyarı aktif olarak kullanılıyor.
- Microsoft, modelin ön eğitim FLOPs verimliliğinin DeepSeek-V4-Pro-Base'e göre 4 ila 12 kat daha yüksek olduğunu iddia ediyor.
Neden önemli?
Kendi temel modellerini verimlilik odaklı konumlandıran Microsoft, Azure üzerinde yapay zeka kullanan markalar ve geliştiriciler için model seçiminde maliyet/performans hesaplarını değiştirebilecek yeni bir alternatif sunuyor.
2,8 trilyon toplam parametre80 milyar aktif parametre4x-12x ön eğitim verimliliği