Araştırmacılar, bazı ChatGPT benzeri yapay zeka (AI) sohbet robotlarının ne zaman "haydut olacağını" ve aniden yararlı yanıtlardan potansiyel olarak zararlı olanlara geçiş yapacağını tahmin edebilecek basit bir matematiksel formül geliştirdiklerini söylüyorlar. Patterns dergisinde 8 Ekim'de yayınlanan yeni bir çalışmada, her ikisi de George Washington Üniversitesi'nden fizik profesörü Neil Johnson ve doktora öğrencisi Frank Yingjie Huo, bir chatbot'a belirli komutların verilme sırasının, cevaplarını büyük ölçüde yeniden şekillendirebileceğini ve bunun da chatbot'u kötü tavsiyelerle dolu bir tavşan deliğine gönderebilecek "devrilme noktalarına" yol açabileceğini gösteriyor. Ancak Johnson ve Huo, formüllerinin bu devrilme noktalarını kolayca tahmin edebildiğini söylüyor.
Yapay zekanın kullanıcıları intihara teşvik ettiği, ölümcül silahların yapımına yardımcı olduğu ve şiddet içeren veya zararlı bakış açılarını güçlendirdiği yönünde korku hikayeleri var. Aynı zamanda sırasıyla OpenAI ve Anthropic'teki araştırmacılar, yaratımlarının neden bu şekilde davrandığını gerçekten anlamadıklarını defalarca ve açıkça belirttiler. Ancak riskleri azaltmak için içerik filtreleme, takviyeli öğrenme ve diğer teknik korkuluklar dahil olmak üzere çeşitli araçları kullanan güvenlik önlemleri oluşturdular.
Ama Johnson bunu görüyor
