Token saymayı bırakın, ortaya çıkan ürüne bakın
Orijinal başlık: Stop counting tokens, start counting what ships
Kısaca
Yapay zeka kodlama ajanları planlama, kod üretme ve test döngüleri nedeniyle tek bir görevde temel bir sohbet istemine göre 10-50 kat daha fazla token harcayabiliyor; yazı, verimliliğin token sayısından değil teslim edilen işten ölçülmesi gerektiğini savunuyor.
Ne oldu?
- Görev verilen ajan plan yapıyor, kod üretiyor, testleri çalıştırıyor ve hataları düzeltmek için bu döngüyü tekrar tekrar işletiyor.
- Ajan ne kadar faydalı hale gelirse o kadar çok çağrı yapıyor; bu da maliyetin token başına değil, çıkan ürün üzerinden değerlendirilmesi gerektiğini gösteriyor.
Neden önemli?
Yapay zeka kodlama ajanlarıyla çalışan ekipler, bütçe planlamasını token tüketimine göre yaparsa yüksek maliyeti yanlışlıkla 'verimsizlik' olarak okuyabilir; asıl ölçüt ajanın teslim ettiği çalışan kod olmalı.
10-50 kat token tüketimi