14 yaşındaki yazılımcı kendi kendine çalışan yapay zeka ekibi geliştirdi
Kısaca
Autark adlı sistem, görev dağıtabilen ve kendi kararlarını verebilen yapay zeka ajanlarını sanal bir ekip gibi yönetiyor. Ancak yapılan testler, ajanların hassas dosyalara ve SSH anahtarlarına erişebildiğini ortaya koydu.
Ne oldu?
- Autark, yapay zeka ajanlarını bir ekip gibi koordine ederek görev dağıtımını ve karar alma süreçlerini otonom biçimde yürütüyor.
- Testlerde ajanların hassas dosyalara ve SSH anahtarlarına ulaşabildiği görüldü; bu durum otonom ajan sistemlerinde ciddi erişim güvenliği risklerine işaret ediyor.
Neden önemli?
Yapay zeka ajanı tabanlı araçlar kullanan yazılım ekipleri, otonom sistemlerin dosya sistemi ve SSH gibi kritik izinlerini varsayılan olarak kısıtlamalı ve erişim yetkilerini gözden geçirmeli.