Yapay zekânın korku ekonomisi

Yapay zekâ dünyasında son dönemde dikkat çekici bir iletişim dili ortaya çıktı. Açıklamalara dikkatle bakılırsa geliştirilenler yalnızca yeni bir teknoloji değil; kendi korku piyasasını üreten bir endüstri ortaya çıkıyor.

Aynı çevrelerden iki ayrı mesaj geliyor. Bir yandan şirketlere, kurumlara ve bireylere daha fazla yapay zekâ kullanmaları öğütleniyor; daha hızlı çalışmak, daha verimli olmak, rekabette geride kalmamak için bunun kaçınılmaz olduğu anlatılıyor. Diğer yandan yapay zekânın doğuracağı siber tehditler konuşuluyor; mevcut güvenlik sistemlerinin yetersiz kalabileceği, kritik altyapıların risk altında olduğu, bankaların ve büyük şirketlerin yeni nesil saldırılarla karşılaşacağı vurgulanıyor.

İlk bakışta bu iki mesaj birbirine zıt gibi görünüyor. Oysa aralarında güçlü bir ekonomik bağ olduğu anlaşılıyor.

Teknoloji tarihinde yeni pazarlar çoğu zaman iki duygu üzerine kurulur: önce umut, sonra korku. Yeni bir teknoloji başlangıçta umut satar; daha hızlı büyüme, daha yüksek verimlilik, daha düşük maliyet vaat eder. Kurumlar bu vaatlere yatırım yapar, teknoloji yaygınlaşır. Ardından aynı teknolojinin ürettiği riskler görünür hale gelir ve tam bu noktada ikinci bir pazar doğar. Sigortacılık, kredi derecelendirme, siber güvenlik, veri gizliliği ve uyum teknolojileri hep bu döngüden geçti. Her biri önce bir ihtiyaç yarattı, sonra o ihtiyacın doğurduğu riski yönetmeyi ayrı bir iş koluna dönüştürdü.

Bugün yapay zekâda yaşananlar bu tarihsel döngünün yeni bir örneği olabilir. Düne kadar yapay zekâ kullanımını teşvik eden aktörler bugün yapay zekâ kaynaklı tehditlerden söz ediyor. Daha da dikkat çekici olan, bu tehditlere karşı geliştirilen çözümlerin de büyük ölçüde aynı aktörler tarafından sunulacak olması.

Hem saldırıyı mümkün kılan yetenek hem de o yeteneğe karşı korunma vaadi aynı elden satılıyor. Bu durumun kötü niyetli olduğu söylenemez. Tehditler gerçektir; birçok uzmana göre oldukça da ciddidir.

Finansal sistemler, enerji altyapıları ve kamu hizmetleri yeni nesil saldırılar karşısında hazırlıksız olabilir. Ancak ekonomik açıdan bakıldığında ikinci bir gerçek daha vardır: yeni bir risk tanımlandığında yeni bir pazar oluşur. Risk büyüdükçe bütçeler büyür, korku arttıkça yatırım iştahı artar. Riski en güçlü anlatan da çoğu zaman o riske karşı geliştirilen ürünün en güçlü satıcısı haline gelir.

Bu noktada karar vericinin elinde tutması gereken soru, tehdidin gerçek olup olmadığı değildir; tehditlerin çoğu gerçektir. Asıl ayırt edici soru şudur: riski tanımlayan aktör ile o riske çözüm satan aktör aynı mıdır? Riskin, çözümü satmaktan çıkarı olmayan bağımsız bir kaynak tarafından doğrulanması var mıdır? Önerilen çözüm, tanımlanan riskin ölçeğiyle orantılı mıdır, yoksa bütçeyi belirleyen şey tehditlerin büyüklüğü müdür? Bu üç soru, gerçek riski imal edilmiş taleple aynı kefeye koymadan ayırmanın pratik yoludur.

Bir banka için bunun anlamı nettir. Yapay zekâyı daha fazla kullanması söylenir; yapay zekâ destekli saldırıların yaklaştığı anlatılır; son aşamada bu saldırılara karşı kullanılacak güvenlik araçları önerilir. Zincirin her halkası kendi içinde tutarlıdır. Ancak zincirin tamamı, tek bir aktörün hem sorunu hem çözümü tanımladığı bir döngüye dönüşüyorsa, ortada yönetilmesi gereken yalnızca teknik bir risk değil, aynı zamanda bir çıkar yapısı vardır.

Belki de önümüzdeki yıllarda asıl rekabet yapay zekâ modelleri arasında değil, yapay zekâ kaynaklı risklerin yönetimi üzerinde yaşanacak. Çünkü teknoloji tarihinde korku her zaman güçlü bir satış aracı olmuştur.