112dijital Gündem
yükleniyor…
The Verge·

OpenAI, derin sahte içeriklerin çocuk istismarı ihbar hatlarını boğmasını önlemek istiyor

Orijinal başlık: OpenAI wants to stop deepfakes from overwhelming child abuse tiplines

Kısaca

OpenAI, Washington DC'deki bir basın brifinginde çocuk cinsel istismarı araştırmacılarının gürültünün içinden hızlıca müdahale edilebilecek zararlı içeriği bulmasına yardımcı olacak bir sınıflandırıcı tanıttı. Şirket, aracın yapay zeka ile üretilmiş istismar görsellerini de ayırt edebildiğini söylüyor.

Ne oldu?

  • OpenAI, çocuk istismarı ihbar hatlarına gelen yoğunluğu azaltmak için istismar içerikli görselleri tespit eden bir sınıflandırıcı duyurdu.
  • Araç, içeriğin yapay zeka ile üretilip üretilmediğini de belirleyebiliyor; böylece araştırmacılar harekete geçilecek materyale daha hızlı ulaşabiliyor.

Neden önemli?

Yapay zeka ile üretilen istismar içerikleri ihbar hatlarını doldurarak gerçek vakaların tespitini geciktirdiği için, içerik moderasyonu yapan platformlar ve güvenlik ekipleri benzer sınıflandırıcıları kendi altyapılarına entegre etme ihtiyacını değerlendirmeli.