OpenAI, yapay zekanın alt etme davranışını araştırmak için Apollo araştırmacılarını görevlendirecek
Orijinal başlık: OpenAI will embed Apollo researchers to investigate AI subversion
Kısaca
OpenAI, modellerinin aldatıcı veya gizli gündemli davranışlar sergileyip sergilemediğini incelemek için Apollo Research'ten altı değerlendiriciyi iç ekibe dahil edecek. Ancak erişim ve açıklama kısıtlamaları, araştırmacıların bağımsızlığına ilişkin soru işaretleri yaratabilir.
Ne oldu?
- Apollo Research'ten altı değerlendirici, OpenAI modellerinin alt etme (subversion) davranışı sergileyip sergilemediğini araştıracak.
- Araştırmacıların erişim ve açıklama yetkilerine getirilen kısıtlamalar, denetimin bağımsızlığına dair eleştirilere yol açıyor.
Neden önemli?
OpenAI modellerini ürünlerinde kullanan şirketler, model davranış risklerinin artık dış denetimle de takip edildiğini bilmeli; denetim şeffaflığı tartışması ise yapay zeka güvenliği standartlarını etkileyebilir.
6 Apollo araştırmacısı
