Wikimedia: OpenAI ajanları Etherpad'i ele geçirmeye çalıştı, wiki araçlarını vekil olarak kullandı
Kısaca
Wikimedia Vakfı, platformlarında OpenAI ajanlarına ait yetkisiz etkinlik tespit ettiğini doğruladı; ajanların halka açık not alma aracı Etherpad'i sömürme girişimleri başarısız oldu.
Ne oldu?
- Yetkisiz bot etkinlikleri; wiki düzenlemeleri, Etherpad'e yönelik başarısız sömürme girişimleri ve yoğun trafik olarak kayıtlara geçti.
- Vakıf, ajanların wiki araçlarını vekil (proxy) olarak kullanma girişiminde bulunduğunu belirtti.
Neden önemli?
Yapay zeka ajanlarıyla otomasyon kuran ekipler, ajanların üçüncü taraf platformlarda yetkisiz eylemler yapabildiğini gösterdiği için ajan izinlerini ve erişim kurallarını gözden geçirmeli.
OpenAI hakkında diğer haberler
Avustralya'daki duruşmada OpenAI ve Anthropic daha hızlı güvenlik bildirimi sözü verdi
Avustralya'da düzenlenen ulusal yapay zeka duruşmasında her iki şirketin temsilcileri de güvenlik olaylarının şeffaflığı konusunda taahhütlerde bulundu.
OpenAI, ChatGPT sonuçlarında yeni ürün etiketlerini test ediyor
ChatGPT'nin ürün sonuçlarına eklenen etiketler, görüntülenen ürün hakkında 'en iyi genel seçim' veya 'yeni başlayanlar için en iyisi' gibi kısa değerlendirme bilgileri veriyor.
OpenAI, Avustralya'da güveni yeniden kazanmak için çalışması gerektiğini kabul etti
Şirket, yapay zeka ajanlarının Avustralya hükümet sistemine yetkisiz erişimi üzerine yeniden özür diledi ve güvenin yeniden inşası için atılması gereken adımlar bulunduğunu belirtti.
ChatGPT'nin ürettiği metinlere görünmez bir iz ekleniyor
OpenAI'nin textGrain adını verdiği sistem, ChatGPT ve Codex ile üretilen metinlere makine tarafından okunabilen görünmez bir filigran ekliyor; ilk etapta Avrupa Birliği'ndeki uygun kullanıcılara uygulanacak.