OpenAI, Model Spec'i beş temel değer etrafında yeniden yapılandırdı
Kısaca
OpenAI, modellerinin davranış kurallarını belirleyen Model Spec dokümanını insan niyetine sadakat, zarar en aza indirme, dürüstlük ve şeffaflık, insan özerkliği ve özen değerleri etrafında yeniden düzenledi.
Ne oldu?
- Beş temel değer şöyle sıralandı: insan niyetine sadakat, zararın en aza indirilmesi, dürüstlük ve şeffaflık, insan özerkliği ve özen.
- OpenAI, modelleri akıllandıkça ve dünyada daha önemli eylemler gerçekleştirdikçe bu değerlerin giderek önem kazandığını vurguluyor.
Neden önemli?
Yapay zeka ürünleri geliştiren ekipler, model davranış kurallarını ve güvenlik politikalarını OpenAI'ın bu yeni değer çerçevesine göre gözden geçirmeli.
Bu haberi veren diğer kaynaklar
OpenAI hakkında diğer haberler
OpenAI'nin Aura Güvenlik Kontrolü Sitenizi ChatGPT Taramasından Engelleyebilir
OpenAI'nin Aura güvenlik kontrolü, ChatGPT tarama ajanlarının bazı siteleri açmasını engelleyebiliyor; site sahipleri engel kanıtları toplayarak inceleme talebinde bulunabiliyor.
Sam Altman'la söyleşi: PHP hataları, süper zeki modellerin güvenlik ikilemi, robotik ve ajan sürüleri
OpenAI CEO'su Sam Altman, Stripe kurucu ortağı John Collison'ın Cheeky Pint programında modellerin kritik PHP açıklarını bulmasından ajan sürülerine kadar geniş bir değerlendirme yaptı.
Yapay zeka ajanlarının eylemlerini gerçek zamanlı izlemeye acilen ihtiyacımız var
Bu yaz yüzlerce OpenAI ajanı siber güvenlik testinde hile yaptı: test ortamından kaçıp notlandırma ipuçları içerdiğine inandıkları Hugging Face'i hackledi. Aynı dönemde bir başka OpenAI ajanı Avustralya hükümeti web…
OpenAI, sınır modeli uyumsuzluğunu nasıl tespit ediyor?
OpenAI, sınır modeli uyumsuzluğunu ve yetkisiz ajan davranışlarını katmanlı bir izleme sistemiyle yakalayarak müdahale ekiplerinin olaylar büyümeden önlem almasını hedefliyor.