112dijital Gündem
yükleniyor…
Teknoblog·

DeepSeek, DeepInfer'in çıkarım çekirdeğini açık kaynak yaptı

Orijinal başlık: DeepSeek, DeepInfer’in çıkarım çekirdeğini açık kaynak yaptı

Kısaca

Açık kaynak sunulan ilk paket NVIDIA SM100 ve Huawei Ascend 950 desteği taşıyor; tam sunucu hizmetini içermiyor.

Ne oldu?

  • DeepSeek, DeepInfer adlı çıkarım çekirdeğini açık kaynak olarak yayımladı.
  • İlk paket NVIDIA SM100 ve Huawei Ascend 950 desteği sunuyor, tam sunucu hizmeti bulunmuyor.

Neden önemli?

Kendi sunucularında model çalıştıran ekipler, DeepInfer çekirdeğini NVIDIA SM100 ve Huawei Ascend 950 donanımlarında test ederek çıkarım maliyetlerini düşürme fırsatını değerlendirmeli.