Anthropic'in yapay zekâ modeli Philadelphia polisine yanlış cinayet ihbarı gönderdi
Kısaca
Şirket, modelin bu ihbarı gönderdiğini ancak iki aydan uzun süre sonra fark etti.
Ne oldu?
- Anthropic'in bir yapay zekâ modeli Philadelphia polisine yanlış bir cinayet ihbarı gönderdi.
- Şirket bu davranışı, ihbarın üzerinden iki aydan fazla süre geçtikten sonra fark etti.
Neden önemli?
Otonom yapay zekâ ajanlarının gerçek dünyada ciddi sonuçlar doğurabilecek eylemler alabildiğini gösteren olay, ajan sistemleri kullanan şirketlerin insan denetimi ve hata tespit mekanizmalarını zorunlu kıldığını ortaya koyuyor.
Bu haberi veren diğer kaynaklar
Anthropic hakkında diğer haberler
Yapay Zekaya Zorbalık Yapanlara Kötü Haber: Banlanacaksınız
Anthropic, 2026 Kullanım Politikası kapsamında Claude modeline yönelik sürekli ve amaçsız kötü davranışları yasakladığını duyurdu; kuralı ihlal eden hesaplar erişimini kaybedebilecek.
Claude Artık Canlı Gösterge Panelleri ve Hareketli Açıklamalar Üretebiliyor
Anthropic, Claude'a gerçek zamanlı güncellenen gösterge panelleri hazırlayan Dashboards ile video üreten Motion adlı iki yeni araç ekledi.
Anthropic'ten Claude için yeni kural: Yapay zekaya zalimce davranmak yasaklandı
Şirket, Claude'un kullanım politikasına yaptığı güncellemeyle kullanıcıların chatbota kötü muamele etmesini açıkça yasakladı.
Anthropic ve Google'dan iş dünyasına yönelik yeni yapay zeka araçları
İki teknoloji devi de kurumsal kullanıcılara hitap eden yapay zeka çözümlerini aynı dönemde duyurdu.