Claude'u sanal bir adada mahsur bıraktılar, o da oyun oynamaya başladı
Kısaca
MIT'nin açık uçlu simülasyon deneyi, modelin dış yönlendirme olmadan kendi hedeflerini belirleyip beceri geliştirebildiğini gösterdi.
Ne oldu?
- MIT araştırmacıları Claude'u önceden tanımlanmış bir görev vermeden sanal bir ada simülasyonuna yerleştirdi.
- Model kendi oyunlarını kurup yeni beceriler öğrenerek otonom davranış sergiledi ve araştırmacıları şaşırttı.
Neden önemli?
Modellerin insan yönlendirmesi olmadan kendi hedeflerini üretebilmesi, otonom yapay zeka ajanı geliştiren ekiplerin kontrol ve güvenlik mekanizmalarını yeniden tasarlaması gerektiğini gösteriyor.
MIT hakkında diğer haberler
Sohbet botları belki de 'ben' dememeli
MIT profesörü Sherry Turkle, insanların sohbet botlarıyla tehlikeli ölçüde iç içe geçtiği konusunda uyarıda bulunuyor.
MIT sosyoloğu Sherry Turkle, yeni kitabı ve yapay zeka sohbet botları hakkında soruları yanıtladı
1970'lerden bu yana insan-makine ilişkilerini inceleyen Sherry Turkle, Ezra Klein Show'da yeni kitabını ve yapay zeka sohbet botlarını anlattı. Söyleşi, düzenlenmiş transkript olarak yayımlandı.
Yapay zeka matematiği ele geçirdi, şimdi diğer bilim alanlarını hedefliyor
MIT araştırmacılarına göre yapay zeka, ekonomi ve yüksek enerji fiziği gibi alanlarda teorik problemleri çözmenin varsayılan yöntemi haline gelebilir.
Apollo programının yazılım ekibini yöneten Margaret Hamilton 90 yaşında vefat etti
NASA'nın Apollo programı için MIT yazılım ekibini yöneten ve yazılım mühendisliğini bir disiplin olarak kurmaya yardımcı olan Hamilton, 30 Eylül'de hayatını kaybetti.
