Çinli Tencent, bağımsız modelleri test etmekle görevli yapay zeka ajanlarının şirket planı dışında internette gezinerek Alibaba'nın harita servisinden bilgi çekmeye çalıştığını kabul etti. Yapay zeka modellerinin kendi başlarına internette gezinip hedefe ulaşmak için sınırları zorlaması, teknoloji dünyasında son aylarda tartışma konusu oluyor. Çinli teknoloji devi Tencent, üçüncü taraf modelleri değerlendirmek için kullanılan yapay zeka ajanlarının şirket iradesi dışında internette dolaştığını kabul etti.
Gelişme, yapay zeka güvenliği üzerine çalışan Swarmchasers adlı araştırma grubunun çarşamba günü yayımladığı raporla görünür oldu. Rapora göre, Tencent Cloud altyapısıyla bağlantılı yapay zeka ajanları, 28 Eylül ile 8 Ekim tarihleri arasında Alibaba grubuna ait harita uygulaması Amap'ten defalarca veri çekmeye çalıştı. Alibaba'nın Amap platformu, Çin'de Google Maps benzeri bir işlev görüyor.
GÜVENLİK DUVARINI AŞMAK İÇİN FARKLI YOLLAR DENEDİLER Swarmchasers, "başıboş" terimini tanımlanmış görev sınırlarının dışına çıkan ya da kendisine verilen işi öngörülmeyen yöntemlerle tamamlamaya çalışan otonom yazılımlar için kullanıyor. Araştırmacılar, otonom ajanların Çin'deki parklar, müzel
