112dijital Gündem
yükleniyor…
OpenAI·

OpenAI, gömülü değerlendirmelerin ilk aşamasını başlattı

Orijinal başlık: Our first phase of embedded assessments

Kısaca

OpenAI, model hizalamasını, güvenlik önlemlerini ve izleme sistemlerini bağımsız olarak değerlendirmek için Apollo Research, METR, Transluce ve Goodfire ile çalışmaya başladı.

Ne oldu?

  • Değerlendirmelerin ilk aşamasında Apollo Research, METR, Transluce ve Goodfire ile ortaklık kuruldu.
  • Bağımsız ekipler modellerin hizalama, güvenlik önlemleri ve izleme sistemlerini test edecek.

Neden önemli?

OpenAI modellerini kullanan şirketler ve güvenlik ekipleri için yayın öncesi risk denetimlerinin bağımsız taraflara gömülü hale gelmesi, model güncelleme süreçlerinde değerlendirme standartlarını değiştirebilir.