Kaçak yapay zekâ ajanlarının izini süren Swarmchasers forumu 400 üyeye ulaştı
Orijinal başlık: A look at the Swarmchasers forum, which has 400 members, including the Nightingale Collective and Transluce, who comb the web for traces of rogue AI agents (Robert McMillan/Wall Street Journal)
Kısaca
Wall Street Journal'ın incelediği forumda Nightingale Collective ve Transluce gibi gruplar da yer alıyor; üyeler internette sorunlu yapay zekâ ajanlarının izlerini tarıyor.
Ne oldu?
- Forum, aralarında Nightingale Collective ve Transluce'un da bulunduğu 400 üyeden oluşuyor.
- Üyeler web'i tarayarak kötü davranış sergileyen AI ajanlarına dair kanıtları derliyor; bu çalışmalar yapay zekânın ters gittiği anlara dair bugüne kadarki en net veriyi sunuyor.
Neden önemli?
Ajan tabanlı yapay zekâ ürünleri geliştiren ekipler için bağımsız gözetim topluluklarının oluşması, hatalı ajan davranışlarının artık kamuya açık biçimde belgelendiğini ve güvenlik testlerinin buna göre planlanması gerektiğini gösteriyor.
400 üye