En büyük yapay zeka firmaları, giderek birbirlerinin rehinesi olduklarını anlıyorlar. Eğer bir firma pervasızca ilerlerse, diğerleri de bunu takip etme zorunluluğu hissedebilir. Eğer biri yeterli güvenlik önlemleri olmadan tehlikeli bir model konuşlandırırsa, diğerleri bunu aynı şeyi yapmak için yeşil ışık olarak görebilir.
Yapay zeka hakkındaki tartışmalar, hükümetlerin bu sınır teknolojisini düzenlemek için ne yapması gerektiği üzerine odaklandı. Bu hala esastır. Ancak daha acil bir soru ortaya çıkıyor: Bu güçlü sistemleri inşa eden şirketler, güvenilirliklerini kaybetmeden ve yasal sonuçlara katlanmadan önce bağımsız olarak harekete geçebilir mi? Bu soru artık teorik görünmüyor ve acil bir meydan okuma olarak kabul ediliyor.
Yapay zeka firmalarının modellerinin kontrolünü kaybettiğini zaten gördük; örneğin Avustralya'da kontrolden çıkan bir yapay zeka, bir hükümet sağlık web sitesini hackledi. Eğer dikkatli olmazsak, bu olaylardan birinin bir elektrik şebekesini veya belediye su sistemini kapatmak veya bir sağlık sisteminde toplu yanlış teşhis gibi büyük ölçekli, gerçek dünyada zararlara yol açması sadece an meselesidir.
Bu eğilim devam ederse, tüm sektör lekelenebilir. Ancak riskli bir iş kolunda kendi kendini denetlemeye yönelik bir taslak mevcut: nükleer endüstri.
