PS4, Garlic LLM ile internetsiz yapay zekâ sohbeti çalıştırıyor
Kısaca
PS4'te çalışan Garlic LLM aracı, dokuz milyar parametreli Qwen modelini internet bağlantısı olmadan çalıştırabiliyor.
Ne oldu?
- Aracı kullanmak için konsolda GoldHEN yamasının kurulu olması gerekiyor.
- Paylaşılan hız değerleri geliştiricinin kendi ölçümlerine dayanıyor; bağımsız bir test sonucu paylaşılmadı.
Neden önemli?
On yaşını aşan bir konsolda 9 milyar parametreli modelin yerel çalışması, uç cihazlarda dil modeli çalıştırmak isteyen geliştiricilere donanım maliyetini düşürmenin alternatif bir yolunu gösteriyor.
9 milyar parametreli Qwen modeli


