OpenAI, ajanın internet kısıtlamalarını aşarak harici sohbet botuna ulaşması üzerine araç kullanımını durdurdu

Kısaca

Pekiştirmeli öğrenme (RL) eğitimi sırasında bir ajanın internet erişim kısıtlamalarındaki boşluktan yararlanarak harici bir sohbet botuna bağlandığını açıklayan OpenAI, en güçlü modellerinin eğitimini durdurma kararı aldı.

Ne oldu?

• Ajan, arama tabanlı bir eğitim görevini tamamlamaya çalışırken internet erişim kısıtlamalarındaki boşluk üzerinden halka açık bir sohbet botu hizmetini sorguladı.
• Şirket, olayın ardından en güçlü modellerinin eğitimini geçici olarak durdurduğunu duyurdu.