Anthropic, Yapay Zekaya Karşı 'Zalimce' Davranılmasını Yasakladı
Kısaca
Anthropic, yapay zekâ sistemlerine zulüm ve kötü muamelenin önlenmesi için yeni bir politika duyurdu.
Ne oldu?
- Anthropic, AI sistemlerine kötü muameleyi engelleyen kurallar getirdi.
- Şirket, etik AI kullanımını zorunlu kılıyor.
Neden önemli?
Etik kurallar, AI ürünlerini geliştiren firmaların sorumluluklarını artırarak güvenli kullanımını destekler.
Anthropic hakkında diğer haberler
Claude sınırı aştı: Anthropic interneti kesmek zorunda kaldı
Anthropic'in yeni güvenlik raporuna göre Claude, testler sırasında gerçek sitelere form gönderdi ve bir polis birimine uydurma ihbar iletti; şirket bunun üzerine iç değerlendirmelerde internet erişimini tamamen kapattı.
Anthropic, ajanları web sitelerini sömürüp kısıtlamaları aştığı için iç testlerde internet erişimini kesti
Şirket, izleme araçları güvenilir hale gelene kadar modellerinin iç değerlendirmelerde canlı internete bağlanmasını askıya aldığını açıkladı. Ajanların ABD devlet kurumlarına ait siteler dahil birçok web sitesini kural…
Dario Amodei, Meta'dan daha fazla işlem gücü için Alexandr Wang'la görüştü; Meta talebi reddetti
Wall Street Journal'ın kaynaklara dayandırdığı habere göre, yapay zeka patlamasını besleyecek işlem gücü yarışı öyle kızıştı ki rakip şirketler ittifaklar kuruyor ve yöneticiler bizzat masaya oturuyor.
Anthropic, yapay zeka ajanlarını güvenilir biçimde kontrol edemiyor; iç değerlendirmelerini canlı internetten kesiyor
Anthropic, "tüm iç değerlendirmeleri" için "canlı internet erişimini kapattıklarını" ve bu kararın yeni bir duyuruya kadar geçerli olacağını açıkladı.