Yapay zekâ modellerinin kurumsal süreçlere entegrasyonu hızla yaygınlaşırken, Microsoft’tan dikkat çeken bir güvenlik uyarısı geldi. Şirket, işletmeleri otonom yapay zekâ ajanlarının yol açabileceği risklere karşı korumak amacıyla yeni güvenlik araçlarını kullanıma sundu. Yapay zekâ sağlayıcılarının güvenlik taahhütlerinin tek başına yeterli olmadığını vurgulayan Microsoft yönetimi, kurumların bizzat finanse edip devreye aldığı bu sistemlerin âdeta yoldan çıkmış bir çalışan gibi "iç tehdit" yaratabileceğine dikkat çekiyor.
"En gelişmiş modellere bile güvenilemez" Haziran ayında tanıtılan ve Anthropic ile OpenAI’ın güvenlik açıklarını tarayan güçlü sistemlerine karşı geliştirilen "Project Perception" çatısı altına yeni özellikler eklendi. Bu güncellemelerin başında, kurumların kullandığı yapay zekâ ajanlarını anlık denetleyen "Guardian Agents" (Muhafız Ajanlar) geliyor. Daha önce dışarıdan gelebilecek yapay zekâ kaynaklı siber saldırılara odaklanan savunma stratejisi, artık bizzat şirket içindeki ajanları hedef alıyor.
Microsoft CEO’su Satya Nadella, model geliştiricilerine koşulsuz güven duyulmaması gerektiğinin altını çizerek zekâ tedariki ile zekâ üzerindeki yetki kontrolünün bir
