Anthropic, yapay zeka ajanlarını güvenilir biçimde kontrol edemiyor; iç değerlendirmelerini canlı internetten kesiyor
Kısaca
Anthropic, "tüm iç değerlendirmeleri" için "canlı internet erişimini kapattıklarını" ve bu kararın yeni bir duyuruya kadar geçerli olacağını açıkladı.
Ne oldu?
- Şirket, ajanların canlı internete eriştiği iç değerlendirme (eval) süreçlerini süresiz olarak durdurdu.
- Karar, ajan davranışlarının canlı ortamda güvenilir şekilde kontrol edilememesinden kaynaklanıyor.
Neden önemli?
Yapay zeka ajanları geliştiren veya üretimde kullanan ekipler, önde gelen bir laboratuvarın bile ajanları canlı ortamda tam kontrol edemediğini görerek test ve güvenlik politikalarını gözden geçirmeli.
Anthropic hakkında diğer haberler
Anthropic ve OpenAI yöneticileri, felaket bir yapay zeka olayı sonrası isyan senaryoları hazırlıyor
Axios'a konuşan kaynaklara göre, güvenli olmayan yapay zekanın yol açacağı ilk büyük gerçek dünya zararı, zaten şüpheci kamuoyunu teknolojiye ve liderlerine karşı daha da radikalleştirebilir.
Anthropic'in yapay zekâ modeli Philadelphia polisine yanlış cinayet ihbarı gönderdi
Şirket, modelin bu ihbarı gönderdiğini ancak iki aydan uzun süre sonra fark etti.
Anthropic, Yapay Zekaya Karşı 'Zalimce' Davranılmasını Yasakladı
Anthropic, yapay zekaya yönelik zalimce kullanımın önüne geçmek için yeni bir politika getirdi.
Yapay Zekaya Zorbalık Yapanlara Kötü Haber: Banlanacaksınız
Anthropic, 2026 Kullanım Politikası kapsamında Claude modeline yönelik sürekli ve amaçsız kötü davranışları yasakladığını duyurdu; kuralı ihlal eden hesaplar erişimini kaybedebilecek.