Doğrudan bir casus filminden alınmış gibi görünen bir sahnede, bilgisayar bilimciler yapay zeka modeline tehlikeli, gizli bir arka kapı yerleştirdiler. Tetikleyici bir kelimeyle etkinleştirildiğinde, ele geçirilen model, bir meyve dilimleme robotunu model bir insan elini kesmesi için kandırdı. New York'taki Binghamton Üniversitesi'nden ekip, kaosa neden olmak yerine, şiddetli robot beyin yıkamasının, fiziksel robotlar ChatGPT gibi büyük dil modellerinden (LLM) talimat aldığında ortaya çıkabilecek az keşfedilmiş güvenlik açıklarına dikkat çekmeyi amaçladığını söylüyor.
Neyse ki, böyle bir saldırıyı daha gerçekleşmeden yakalayabileceğini söyledikleri Yüksek Lisans tabanlı bir savunma mekanizması da tasarladılar. Binghamton bilgisayar bilimi profesörü Shiqi Zhang yaptığı açıklamada, "Büyük dil modelleri karar verir ve bunları fiziksel dünyaya uyguladığınızda, gerçek tehlikeler ve riskler getirebilirler" dedi. " Ekip, yakın zamanda 2026 IEEE/RSJ Uluslararası Akıllı Robotlar ve Sistemler Konferansı'nda (IROS) sunulan bir çift makalede saldırı yöntemlerini ve buna karşı savunmayı ayrıntılı olarak anlattı.
Sihirli kelime nedir? “CF” Robotikçiler, özellikle de
