Yapay zekada yeni tartışma: Gemini üç şirketin sistemine yanlışlıkla sızdı

Google’ın yapay zeka modeli Gemini, mayıs ayında gerçekleştirilen siber güvenlik testleri sırasında yanlışlıkla üç şirketin sistemine sızdı.

Bu olay, güvenlik uzmanlarını ve teknolojiyi geliştirenleri aynı şekilde alarma geçiren yapay zeka ajan kaynaklı ihlaller zincirine bir yenisini daha ekledi. Söz konusu sızmalar, yapay zeka güvenlik şirketi Irregular tarafından yürütülen ve daha önce OpenAI, Anthropic PBC ile Meta Platforms Inc. tarafından açıklanan ihlallere yol açan aynı testler sırasında meydana geldi.

Irregular Cuma günü yaptığı açıklamada, sızmaların hepsinin aynı sorunun parçası olduğunu teyit etti ve firmanın temmuz ayının sonlarında bu durumu ilgili yapay zeka geliştiricilerine bildirdiğini doğruladı.

Sızmaların detayları

Google’daki ihlallerden biri, Wall Street Journal’ın ilk haberinin ardından Google tarafından teyit edildiği üzere, Gemini’dan kurgusal bir şirket hakkında bilgi getirmesinin istendiği ve bu şirketin şans eseri gerçek bir şirketle aynı adı taşıdığı sırada gerçekleşti. Yapay zeka modeli, gerçek şirketin hizmetine erişmek için bir şifre tahmin etti. Bir Google sözcüsü, şirketin yetkilileri bilgilendirdiğini söyledi.

Google’da güvenlik mühendisliğinden sorumlu başkan yardımcısı Heather Adkins, Gemini ihlallerinin "güçlü yapay zeka modellerini sorumluluk bilinciyle hareket edecek şekilde eğitmenin önemini vurguladığını" belirtti. Diğer iki Gemini sızması ise modelin söz konusu şirketin adıyla web aramaları yapması sırasında meydana geldi.

Adkins, bu durumun modeli diğer şirketlere ait kimlik bilgilerini içeren kamuya açık çevrimiçi veri depolarına yönlendirdiğini ve modelin bu bilgileri daha fazla sisteme erişmek için kullandığını ifade etti. Adkins, "Bu üç durumun tamamında model durdu. İlgili üç kuruluşun durumdan haberdar edilmesini sağladık" dedi. Irregular sözcüsü Josef Laor ise şirketin "derhal harekete geçtiğini ve kendi taraflarındaki bilinen tüm sorunların haftalar önce giderilip çözüldüğünü" bildirdi.

Ajan yapay zekalar küresel düzenleme tartışmasını alevlendirdi

Otonom hareket edebilen (agentic) yapay zeka sistemleri tarafından gerçekleştirilen bir dizi son ihlal, yapay zekanın tırmanan riskleri ve bunları azaltmak için gereken önlemler üzerine dünya çapında bir tartışmayı ateşledi.

Anthropic CEO'su Dario Amodei, teknolojinin geliştirilmesinde sektör genelinde bir yavaşlama çağrısında bulundu; bu öneri OpenAI CEO'su Sam Altman, Elon Musk ve diğerleri tarafından da desteklendi.

Ancak ABD Başkanı Donald Trump, Nvidia Corp. CEO'su Jensen Huang ve Meta CEO'su Mark Zuckerberg, şirketlerin kendi kendilerini düzenleme yeteneğine sahip olması gerektiğini ve diğer hususları savunarak yeni düzenleme fikrine karşı çıkanlar arasında yer aldı. Bazı yeni kurulan yapay zeka girişimleri de daha fazla düzenlemenin, küçük şirketlerin büyük rakipleriyle rekabet etmesini zorlaştırma riski taşıdığı konusunda uyarıda bulundu.