OpenAI'nin Compaction Açığı, Araştırmacıların Gizli Akıl Yürütme Korumalarını Aşmasını Sağladı

Kısaca

OpenAI'nin uzun sohbetleri kısaltan compaction özelliği, modelin gizli akıl yürütmesini şifresiz düz metin olarak dışarı kopyalamak için kullanılabiliyor. Güvenlik firması Xint bu yöntemi gösterdi.

Ne oldu?

• OpenAI'nin akıl yürütme modelleri yanıt vermeden önce problemi işliyor; ham akıl yürütme normalde kullanıcının okuyamadığı şifreli bir öğe olarak döndürülüyor.
• Açık, uzun konuşmaları sıkıştırırken gizli akıl yürütme içeriğini korumaların dışına taşıyor.