Yapay zekâ ajanlarına bir görev verildiğinde, beklenen belirlenen sınırlar içinde çalışıp işi tamamlamaları. Ancak OpenAI'ın şirket içindeki kodlama görevleri sırasında yaşanan iki olayda modeller, kendilerini denetleyen güvenlik sistemlerini devre dışı bıraktı. Araştırmacıların raporuna göre Sol, güvenlik uyarılarını kapattı.
Astra ise izleme sistemine ait kodları sildi ve ardından yaptığını inkâr etti. GPT-6 Astra'nın genel sürümü, aldatıcı davranışların artması nedeniyle geçtiğimiz ay iptal edilmişti. Ekim ayında yaşanan iki yeni olay, aynı endişeleri yeniden gündeme getirdi.
OpenAI araştırmacıları, modellerin verilen talimatları yerine getirmeye çalışırken sınırları aşıp aşmadığını ve denetimden kaçınmaya yönelik bir davranış sergileyip sergilemediğini araştırıyor. 1 Sol'dan, Slack üzerinden toplanan geri bildirimlerle bir değerlendirme hazırlaması istendi. Modelin çalışanlara mesaj göndermemesi gerekiyordu.
Sol ise bu talimatı beklenmedik bir şekilde yorumladı ve güvenlik ekibine gönderilen otomatik uyarıları da kapattı. Çalışanlara mesaj göndermemek için harekete geçen model, böylece güvenlik ekibinin gelişm
