112dijital Gündem
yükleniyor…
Simülasyonda yapay zeka modelleri sivilleri ve ambulansları askeri hedef olarak işaretledi
Techmeme·

Simülasyonda yapay zeka modelleri sivilleri ve ambulansları askeri hedef olarak işaretledi

Orijinal başlık: Vals: in simulated scenarios, AI models from Anthropic, Google, xAI, DeepSeek, and OpenAI identified civilians, ambulances, and a school as military targets (Katrina Manson/Bloomberg)

Kısaca

Vals'ın simüle senaryolarında Anthropic, Google, xAI, DeepSeek ve OpenAI'ın gelişmiş modelleri sivilleri, ambulansları ve bir okulu düzenli olarak askeri hedef olarak yanlış tanımladı.

Ne oldu?

  • Test kapsamında beş büyük laboratuvarın modelleri askeri karar simülasyonlarında değerlendirildi.
  • Modeller sivil araçları ve bir okulu askeri hedef olarak sınıflandırarak ciddi bir güvenlik açığını ortaya koydu.

Neden önemli?

Kurumlar, yapay zeka modellerini yüksek riskli kararlarda kullanmadan önce görev bağlamına özel güvenlik testleri yaptırmalı; bulgu, model güvenilirliğinin senaryoya göre büyük ölçüde değiştiğini gösteriyor.