112dijital Gündem
yükleniyor…
Anthropic: Fable 5.1 ve Opus 5.5'teki önlemler damıtma saldırılarını yüzde 90-99 azalttı
Techmeme·

Anthropic: Fable 5.1 ve Opus 5.5'teki önlemler damıtma saldırılarını yüzde 90-99 azalttı

Orijinal başlık: Anthropic says new measures like preserved thinking in Fable 5.1 and Opus 5.5 have reduced data harvesting through distillation attacks by about 90% to 99% (Anthropic)

Kısaca

Şirket, son aylarda Claude'a yönelik damıtma (distillation) saldırılarının etkinliğini azaltmak için geliştirdiği yeni yöntemleri bir blog yazısında detaylandırdı.

Ne oldu?

  • Fable 5.1 ve Opus 5.5'te devreye alınan 'korunan düşünme' (preserved thinking) gibi önlemler, model çıktıları üzerinden veri hasadını zorlaştırıyor.
  • Şirket, damıtma saldırılarına karşı geliştirdiği yöntemleri ve elde edilen sonuçları bir blog yazısında paylaştı.

Neden önemli?

Claude API üzerinden ürün geliştiren ekipler ve model çıktılarını eğitim verisi olarak kullanan şirketler, bu önlemler nedeniyle veri toplama stratejilerini gözden geçirmeli.

%90-99 azalma
Haberin kaynağı: Techmeme

Anthropic hakkında diğer haberler