DeepSeek, DeepInfer'in çıkarım çekirdeğini açık kaynak yaptı
Orijinal başlık: DeepSeek, DeepInfer’in çıkarım çekirdeğini açık kaynak yaptı
Kısaca
Açık kaynak sunulan ilk paket NVIDIA SM100 ve Huawei Ascend 950 desteği taşıyor; tam sunucu hizmetini içermiyor.
Ne oldu?
- DeepSeek, DeepInfer adlı çıkarım çekirdeğini açık kaynak olarak yayımladı.
- İlk paket NVIDIA SM100 ve Huawei Ascend 950 desteği sunuyor, tam sunucu hizmeti bulunmuyor.
Neden önemli?
Kendi sunucularında model çalıştıran ekipler, DeepInfer çekirdeğini NVIDIA SM100 ve Huawei Ascend 950 donanımlarında test ederek çıkarım maliyetlerini düşürme fırsatını değerlendirmeli.

