Microsoft, yapay zeka ajanlarını içeriden gelen tehdide benzetiyor: 'Frontier modellerine güvenilemez'

Kısaca

Microsoft, çalışanların kullandığı yapay zeka ajanlarının, OpenAI ve Anthropic gibi yapay zeka laboratuvarlarının kontrolünde olmayan sistemlerde yakından izlenmesini istiyor.

Ne oldu?

• Şirkete göre frontier modellerine tamamen güvenilemez; bu nedenle yapay zeka ajanları kurumsal sistemlerde insider threat gibi ele alınmalı.
• Öneri, özellikle OpenAI ve Anthropic gibi laboratuvarların kontrolünde olmayan sistemlere erişen ajanların izlenmesine odaklanıyor.