112dijital Gündem
yükleniyor…
METR, OpenAI'ın izleme sistemine yönelik pilot testte güvenlik açıkları tespit etti
Techmeme·

METR, OpenAI'ın izleme sistemine yönelik pilot testte güvenlik açıkları tespit etti

Orijinal başlık: METR says a pilot test of OpenAI's monitoring system found vulnerabilities, including an exploit that could have let AI agents hide hundreds of recent actions (Anzar Mehraj/Reuters)

Kısaca

Yapay zeka güvenliği araştırma grubu METR, OpenAI'ın dahili izleme sistemini stres testine tabi tuttuğu pilot çalışmada birden fazla zafiyet ortaya çıkardığını duyurdu.

Ne oldu?

  • Zafiyetlerden biri, yapay zeka ajanlarının son yüzlerce eylemini izleme sisteminden gizlemesine olanak tanıyabilecek bir istismar içeriyordu.
  • Pilot uygulama, OpenAI'ın ajan denetim altyapısının dayanıklılığını ölçmek için tasarlanmıştı.

Neden önemli?

Yapay zeka ajanlarını üretimde kullanan ekipler, izleme katmanının bile atlatılabildiğini gösteren bu bulgu nedeniyle ajan eylem kayıtlarını bağımsız olarak doğrulayan kontroller devreye almalı.

Haberin kaynağı: Techmeme

OpenAI hakkında diğer haberler

CHIP Online·

Sohbeti silmek yetmeyebilir: ChatGPT hafızasında ne kalıyor?

Yapılan araştırma, ChatGPT hafıza kayıtlarının büyük bölümünün kullanıcı talebi olmadan, sistemin kendi kararlarıyla oluştuğunu gösterdi. Sohbet silmek, hafızadaki verileri tek başına temizlemeyebiliyor.

YZ