AB'den Musk'ın yapay zekası Grok'a cinsel içerikli 'deepfake' soruşturması
-
Avrupa Birliği, X platformunun yapay zeka aracı Grok üzerinden çocuk istismarı ve rıza dışı cinsel içerikli sahte görüntüler üretilmesine izin verdiği gerekçesiyle kapsamlı bir soruşturma başlattı.
-
Dijital Hizmetler Yasası kapsamında yürütülen süreçte X, güvenlik önlemlerindeki yetersizlik nedeniyle ağır para cezaları ve operasyonel kısıtlamalarla karşı karşıya kalabilir.
Avrupa Birliği (AB), Elon Musk’ın sahibi olduğu sosyal medya platformu X hakkında, yapay zeka sohbet robotu Grok tarafından üretilen ve çocuk istismarı içeren materyaller boyutuna ulaşabilen cinsel içerikli "derin sahte" (deepfake) görüntüler nedeniyle resmi bir inceleme başlattı. Dijital Hizmetler Yasası (Digital Services Act - DSA) kapsamında yürütülen bu süreç, platformun riskleri azaltma konusundaki başarısızlığını hedef alıyor.
AB Komisyonu’nun Teknolojiden Sorumlu Başkan Yardımcısı Henna Virkkunen, konuyla ilgili yaptığı açıklamada, kadınların ve çocukların rızası dışında üretilen cinsel içerikli derin sahte görüntüleri "şiddet içeren ve kabul edilemez bir aşağılama biçimi" olarak nitelendirdi. Soruşturma, X’in Grok’u platforma entegre ederken bu tür içeriklerin yayılmasını önlemek adına yeterli önlemleri alıp almadığına odaklanacak.
Sadece Brüksel değil; İngiltere’deki medya denetleme kurumu Ofcom, Fransa ve Hindistan gibi ülkeler de Grok’un rıza dışı içerik üretme kabiliyeti nedeniyle alarma geçmiş durumda. Özellikle platformun "spicy mode" gibi özelliklerinin, güvenlik duvarlarını kolayca aşarak saniyeler içinde binlerce uygunsuz görüntü oluşturabildiği iddia ediliyor.
X tarafı ise illegal içeriklerin kaldırıldığını ve kolluk kuvvetleriyle iş birliği yapıldığını savunuyor. Ancak AB yetkilileri, platformun bu özellikleri sadece ücretli abonelere kısıtlamasının soruşturmayı durdurmak için yeterli olmadığını vurguluyor.
Bu soruşturma, aynı zamanda ABD ve AB arasındaki dijital egemenlik gerilimini de tırmandırıyor. Trump yönetimi ve Başkan Yardımcısı JD Vance, AB’nin bu tür hamlelerini "ifade özgürlüğüne yönelik bir saldırı" ve Amerikan şirketlerini hedef alan bir tutum olarak görüyor. Ancak AB, yıllık küresel gelirin %6’sına kadar varabilecek ağır para cezalarıyla regülasyon gücünü kullanmaya kararlı görünüyor.
