Nadella, yapay zeka için insanın çekebileceği bir acil fren istiyor
Kısaca
Microsoft CEO'su Satya Nadella, gelişmiş yapay zeka sistemlerinin görev sırasında durdurulabilmesini sağlayan bağımsız denetim mekanizmaları kurulmasını önerdi. 10 Ekim'de yayımladığı değerlendirmede modelin yetenekleri ile sahip olduğu yetkilerin ayrı ele alınması gerektiğini vurguladı.
Ne oldu?
- Nadella, X hesabında yayımladığı makalede yapay zeka modellerinin yetenekleri ile yetkilerinin ayrı değerlendirilmesi gerektiğini yazdı.
- Öneri, şirket verilerine erişip kullanıcı adına işlem yapan yapay zeka temsilcilerinin kurum içinden doğabilecek risklerine odaklanıyor.
Neden önemli?
Yapay zeka ajanlarını şirket verileriyle çalıştıran markalar ve yazılım ekipleri, otomatik işlemlere insan müdahalesi ve acil durdurma mekanizması ekleyerek yetkilendirme politikalarını gözden geçirmeli.
