NVIDIA GPU'ları OpenAI'ın GPT-6 Astra Ultrafast modelini nasıl hızlandırıyor?
Kısaca
OpenAI'ın yeni Ultrafast modu, NVIDIA Blackwell GPU'ları üzerinde çalışıyor ve OpenAI API'sinde uygun ChatGPT Work ile Codex kullanıcılarına sunuluyor. Blackwell mimarisine yönelik çıkarım optimizasyonları sayesinde Astra Standard moda göre 8 kata kadar daha hızlı token üretimi sağlıyor.
Ne oldu?
- GPT-6 Astra Ultrafast, OpenAI API'sinde ve uygun ChatGPT Work ile Codex kullanıcılarının erişimine açıldı.
- OpenAI'ın Blackwell mimarisinin olanaklarını kullanan modelleriyle yapılan çıkarım optimizasyonları, Astra Standard moda kıyasla 8 kata kadar hızlı token üretimi sunuyor.
Neden önemli?
OpenAI API'sini kullanan geliştiriciler, Blackwell üzerinde çalışan Ultrafast mod sayesinde token üretimini 8 kata kadar hızlandırarak gecikmeye duyarlı uygulamalarında yanıt sürelerini ve çıkarım maliyetlerini optimize etmeyi değerlendirmeli.
OpenAI hakkında diğer haberler
Kaliforniya Başsavcısı Rob Bonta, OpenAI'a soruşturma celbi gönderdi
Kaliforniya Başsavcısı Rob Bonta, şirketin yapay zeka modellerine ilişkin siber güvenlik olaylarını ve risklerini inceleyen geniş kapsamlı bir soruşturmanın parçası olarak OpenAI'a araştırma celbi (subpoena) tebliğ etti.
OpenAI'dan üç çalışanın yanlış ele aldığı bilgiler arasında şirketin altyapı mimarisi de vardı
OpenAI, gizli bilgilerin işlenmesine dair şirket politikalarını ihlal ettikleri ve bir kısmını dış bir grupla paylaştıkları iddiasıyla üç çalışanla yollarını ayırdı.
OpenAI, güvenlik gözetim kuruluşuna veri sızdıran çalışanlarla yollarını ayırdı
Wall Street Journal'ın isimsiz kaynaklara dayandırdığı habere göre şirket, söz konusu üç kişinin şirket politikasını ihlal ettiğini belirtti.
OpenAI, ChatGPT'ye sanal deneme ve Favoriler alışveriş özelliklerini ekledi
OpenAI, ChatGPT'yi çevrim içi alışverişte yardımcı hale getirme denemelerine devam ediyor. Kullanıcılar artık kıyafet ve aksesuarları sanal olarak deneyebilecek, beğendikleri ürünleri de Kitaplık bölümüne kaydedebilecek.
