Microsoft, yapay zeka ajanları için sürekli denetim istiyor
Kısaca
Microsoft, şirketlerin kendi sistemlerine yerleştirdiği yapay zeka ajanlarını içeriden kaynaklanan güvenlik riskleri arasında değerlendirmesi gerektiğini söyledi.
Ne oldu?
- Microsoft Security yöneticisi Hayete Gallot, 19 Ekim tarihli yazısında ajanların hedeflerine ulaşmaya çalışırken beklenmedik davranışlar gösterebileceğini belirtti.
- Şirket, yalnızca dış saldırıları engellemenin yeterli olmadığını, ajanların eylemlerinin çalışma boyunca sürekli denetlenmesi gerektiğini vurguluyor.
Neden önemli?
Kurumsal yapay zeka ajanı devreye alan ekipler, ajan davranışlarını insider risk kategorisine alıp sürekli izleme ve denetim mekanizmaları kurmalı.
Microsoft hakkında diğer haberler
Bing, arama sonuçlarında sitelink göstermeme testi yapıyor
Microsoft, Bing arama sonuçlarında ana sonucun altındaki sitelinkleri göstermeme yönünde bir test yürütüyor gibi görünüyor. Aynı sorgu, bir tarayıcıda sitelinklerle gösterilirken diğerinde bu bağlantılar olmadan…
Microsoft Uyardı: "Yapay Zekâ Ajanları, Şirketler İçin İç Tehdide Dönüşebilir"
Öngörülemez davranan ajanların kurum içinde risk oluşturabileceği vurgulanırken, bu tehditlere karşı geliştirilen yeni güvenlik araçları da tanıtıldı.
Xbox fiziksel oyunlar için işe alım yapıyor, yeni ilanda disk ayrıntısı yok
Xbox Games Supply Strategist ilanı, diskten dijitale geçiş sürerken kutulu oyunların tedarik zincirindeki yerini koruduğunu gösteriyor.
Microsoft, yapay zeka ajanlarını içeriden gelen tehdide benzetiyor: 'Frontier modellerine güvenilemez'
Microsoft, çalışanların kullandığı yapay zeka ajanlarının, OpenAI ve Anthropic gibi yapay zeka laboratuvarlarının kontrolünde olmayan sistemlerde yakından izlenmesini istiyor.