Yapay zekâda alarm zilleri: bu kez uyarı içeriden geliyor

Yapay zekâ tartışmasında son günlerde ABD’nin iki önemli merkezinden dikkat çekici iki hamle geldi: New York ve California.

New York’ta, hızla gelişen yapay zekânın yaratabileceği risklere karşı bir “AI Emergency Task Force” kurulması önerildi. Önerinin arkasındaki düşünce oldukça çarpıcı: Yapay zekâdaki gelişmeler artık yalnızca teknoloji politikası olarak değil, ekonomi, istihdam, kamu güvenliği ve toplumsal riskler açısından da ele alınmalı. New York yönetiminin olası risklere daha hızlı cevap verebilmesi için özel bir acil durum yapısı oluşturulması tartışılıyor.

Kaliforniya ise bir adım daha ileri gitti. Vali Gavin Newsom, frontier AI modelleri için bir “AI kill switch”, yani acil kapatma mekanizmasının oluşturulmasını gündeme aldı. Böyle bir mekanizma, ciddi ve kontrol edilemeyen bir güvenlik riski ortaya çıkması halinde gelişmiş AI sistemlerinin devre dışı bırakılabilmesini hedefliyor. Newsom ayrıca bağımsız üçüncü taraf denetimlerinin ve AI şirketlerinin güvenlik süreçlerinin daha yakından izlenmesinin değerlendirilmesini istedi.

Birkaç yıl önce yapay zekâ düzenlemelerinde veri gizliliği, telif hakkı ve algoritmik ayrımcılığı konuşuyorduk. Bugün New York “AI Emergency Task Force”, Kaliforniya ise “AI kill switch” tartışıyor.

Peki ne değişti?Aslında yanıtın önemli bir bölümü teknoloji şirketlerinin içinden geliyor.

Yapay zekâ dünyasında son günlerde yapılan açıklamalar, sıradan bir teknoloji tartışmasının ötesine geçmiş durumda. Çünkü bu kez uyarılar yapay zekâya mesafeli akademisyenlerden ya da düzenleyici kurumlardan değil, teknolojiyi bizzat geliştiren isimlerden geliyor.

Anthropic CEO’su Dario Amodei’nin yaptığı çağrı oldukça net: Frontier AI, yani dünyanın en gelişmiş yapay zekâ modellerinin yeteneklerinin ilerleme hızını, güvenlik önlemlerinin yetişebilmesi için yavaşlatmak gerekiyor. Amodei’nin önerdiği yaklaşım teknolojiyi veya model eğitimini durdurmak değil; yapay zekânın yetenekleri ile onu kontrol edecek güvenlik mekanizmaları arasındaki mesafenin açılmasını önlemek.

Asıl dikkat çekici gelişme ise Amodei’nin yalnız kalmaması oldu. OpenAI CEO’su Sam Altman da Amodei’nin çağrısına destek verdi. Altman özellikle, bağımsız güvenlik değerlendiricilerine şirket çalışanlarına benzer düzeyde erişim verilmesi önerisini OpenAI’de uygulayacaklarını açıkladı. Elon Musk’ın cevabı ise çok daha kısaydı: “Dario is right.”

Bu üç ismin aynı noktada buluşması önemli. Çünkü Anthropic, OpenAI ve Musk’ın xAI’ı dünyanın en gelişmiş modellerini geliştirmek için birbirleriyle kıyasıya yarışıyor. Şimdi ise yarışın içindeki isimler, yarışın hızının güvenlik mekanizmalarının önüne geçip geçmediğini tartışıyor.

Üstelik endişeler artık yalnızca teorik değil. OpenAI, geliştirdiği GPT-6 Astra’nın kendi güvenlik çerçevesinde “Critical” siber güvenlik kapasitesi eşiğine ulaşan ilk modeli olduğunu açıkladı. Şirkete göre Astra, doğru araç ve erişim sağlandığında insanın her adımı yönlendirmesine ihtiyaç duymadan daha önce bilinmeyen güvenlik açıklarını bulabiliyor ve iyi korunan sistemleri hedef alabilecek yeni saldırı yöntemleri geliştirebiliyor.

Daha çarpıcısı, OpenAI’nin testlerinde Astra iki “zero-day” güvenlik açığını keşfederek bunları bir saldırı zincirinin parçası olarak kullandı. Şirket bu yetenekleri gördükten sonra Astra’nın geliştirme ve piyasaya sürülme sürecinin bazı bölümlerini geciktirdi, güvenlik önlemlerini güçlendirdi ve gerekli yeni güvenlik standartlarını karşılamayan bazı çalışmalarını durdurdu.

Yani sektörün önde gelen isimlerinin “biraz yavaşlamamız gerekiyor” demesi artık yalnızca gelecekte ortaya çıkabilecek teorik risklere dayanmıyor. Frontier modellerin laboratuvar testlerinde gösterdiği yeni yetenekler, güvenlik tartışmasını geleceğin senaryosundan bugünün meselesine dönüştürüyor.

Tartışmanın diğer tarafında ise Mark Zuckerberg var.

Zuckerberg da birkaç şirketin çok güçlü yapay zekâyı kontrol etmesinden endişeli, fakat çözümü farklı görüyor. Ona göre önde gelen birkaç laboratuvarın son derece güçlü modeller geliştirip bunları kendi kontrolünde tutması “oldukça tehlikeli.” Zuckerberg, “Bu kadar güçlü bir şeyin az sayıda laboratuvarın veya insanın kontrolünde olmasından çok daha fazla endişe duyuyorum” diyerek yapay zekâ kapasitesinin daha geniş biçimde dağıtılmasını savunuyor.

Yani ilginç bir paradoksla karşı karşıyayız: Amodei, Altman ve Musk “çok hızlı gidiyoruz” derken, Zuckerberg “çok az kişinin elinde gidiyoruz” diyor. Bir taraf hızın yarattığı riske, diğer taraf ise gücün birkaç şirket ve kişinin elinde yoğunlaşmasına dikkat çekiyor.

Musk ise aynı hafta tartışmanın ekonomik boyutunu daha da büyüttü. 9 Eylül’de oldukça iddialı bir öngörüde bulunarak yapay zekâ ve robotların 10 yıldan kısa sürede küresel ekonomiyi iki katından fazla büyüteceğini söyledi.

PwC’nin 2026 araştırmaları ise önemli bir güven açığına işaret ediyor. Şirketlerin yalnızca %51’i AI risklerini yönetmek için resmî bir yaklaşım oluşturmuş durumda. PwC’nin küresel CEO araştırmasında ise CEO’ların %66’sı, son bir yılda AI güvenliği, veri gizliliği ve kurumsal şeffaflık gibi konularla bağlantılı paydaş güveni sorunları yaşadıklarını belirtiyor.

Rakamların anlattığı hikâye aslında Amodei’nin uyarısıyla aynı: Yapay zekânın kapasitesi ile onu yönetecek güvenlik ve yönetişim kapasitesi arasındaki mesafe açılıyor. Bugünün asıl sorusu artık şirketlerin AI kullanıp kullanmayacağı değil; teknoloji hızlandıkça insan denetiminin, güvenlik standartlarının ve kurumsal kontrolün aynı hızda ilerleyip ilerleyemeyeceği.

Ortaya oldukça sıra dışı bir tablo çıkıyor: Bir tarafta tarihin belki de en büyük verimlilik ve ekonomik büyüme sıçramasının gerçekleşebileceğini söyleyen teknoloji liderleri var. Diğer tarafta ise aynı teknolojiyi geliştiren isimlerin giderek yükselen güvenlik uyarıları. Şimdi New York ve California gibi dünyanın en önemli finans ve teknoloji merkezlerinin yönetimleri de bu tartışmanın içine giriyor. Belki de yapay zekânın önümüzdeki dönemdeki en büyük paradoksu tam olarak bu olacak: Ekonomik potansiyeli büyüdükçe, onu kontrol altında tutmanın bedeli ve önemi de büyüyecek.

Bence asıl “wow” nokta tam da burada.Yapay zekâ tartışması artık “Bu teknoloji neler yapabilir?” sorusundan çıkıyor. Yeni soru şu:

Yapay zekâ bizden daha hızlı gelişmeye başladığında, onu yönetecek kurumlar, şirketler ve kurallar aynı hızda gelişebilecek mi?

Belki de önümüzdeki birkaç yılın en büyük teknoloji yarışı daha güçlü modeli kimin geliştireceği değil; güç ile kontrol arasındaki mesafeyi kimin kapatabileceği olacak.