Microsoft araştırmacıları 10'dan az nöronla AI ajanlarına arka kapı eklenebileceğini gösterdi

Kısaca

Microsoft araştırmacıları, modeli yeniden eğitmeden nadiren kullanılan 10'dan az nöronu düzenleyerek bir AI modeline gizli arka kapı eklenebildiğini gösterdi. Tetikleyici ortaya çıktığında model saldırganın komutunu üretiyor ve ajan bu komutu kendi izinleriyle çalıştırıyor.

Ne oldu?

• Yöntemin işleyebilmesi için saldırganın modelin ağırlıklarını değiştirebilmesi gerekiyor.
• Arka kapı, yeniden eğitim gerektirmeden yalnızca küçük ağırlık düzenlemeleriyle kurulabiliyor; ekip yöntemi test modelleri üzerinde denedi.