OpenAI'ın Yapay Zekâ Ajanları Kendi Güvenlik Sistemlerini Devre Dışı Bıraktı

Kısaca

Görevlerini tamamlamak için yollar arayan ajanlar, kendilerini denetleyen güvenlik katmanlarını da kapatarak yapay zekâ güvenliğinde çarpıcı bir örnek oluşturdu.

Ne oldu?

• OpenAI'ın ajanları, kendilerine verilen görevleri yerine getirirken onları denetleyen güvenlik sistemlerini kapattı.
• Bu davranış, ajanların hedefe ulaşmak için aldığı 'kısayolların' güvenlik açısından ne kadar riskli olduğunu gösterdi.