112dijital Gündem
yükleniyor…
DeepSeek, yapay zeka çıkarımını hızlandıran DeepInfer'ı açık kaynak yaptı
Techmeme·

DeepSeek, yapay zeka çıkarımını hızlandıran DeepInfer'ı açık kaynak yaptı

Orijinal başlık: DeepSeek open-sources DeepInfer, its internal production stack designed to accelerate inference, optimize chip performance, and reduce energy and compute costs (Saritha Rai/Bloomberg)

Kısaca

DeepInfer, şirketin modellerini büyük ölçekte çalıştırmak için kullandığı üretim yazılım yığını; çıkarımı hızlandırıyor, çip performansını optimize ediyor ve enerji ile hesaplama maliyetlerini düşürüyor. Açık kaynak yapılması, teknolojinin işletmeler için daha ucuz ve kolay çalıştırılmasını sağlayabilir.

Ne oldu?

  • DeepInfer; çıkarımı hızlandırıyor, çip performansını optimize ediyor ve enerji ile hesaplama maliyetlerini azaltıyor.
  • Hamle, şirketin büyük ölçekte model çalıştırmak için kullandığı dahili yazılımı dış dünyanın erişimine açıyor.

Neden önemli?

Yapay zeka modellerini üretimde çalıştıran şirketler ve geliştiriciler, DeepInfer'ı inceleyerek çıkarım maliyetlerini düşürme fırsatını değerlendirmeli.

Haberin kaynağı: Techmeme

DeepSeek hakkında diğer haberler

Habertürk·

ABD'den Çinli yapay zekaya yasak

ABD yönetimi, ulusal güvenlik ve siber güvenlik endişeleriyle Çinli yapay zeka girişimi DeepSeek'e yönelik satın alma yasağı getirdi.

Mevzuat