Üç şirketten yapay zekada 'denetleme' adımı

ABD'de yapay zeka modellerinin gelişme hızını düşürme çağrılarının ardından bu teknolojiyi "denetleme" önerileri tartışılmaya devam ediyor.

CNN'in haberine göre ismi paylaşılmayan kaynaklar, yapay zeka modelleriyle öne çıkan Anthropic, Google ve OpenAI firmalarının "sektör standartlarının belirlenmesi için kendilerinin bir kurum oluşturması" seçeneği üzerinde durduğunu öne sürdü.

Kaynaklar, bu görüşmenin yapılmasında, Anthropic'ten araştırmacı Jacob Coxon'ın istifasından ziyade temmuzda Google DeepMind'ın kurucu ortağı Demis Hassabis'in ABD öncülüğünde bir yapay zeka standartları kurumu modeli önerdiği makalesinin etkili olduğunu belirtti.

ABD Başkanı Donald Trump yönetimi "yer alsa da almasa da" bu görüşmelerin sürdüğünü ve süreceğini savunan kaynaklar, yapay zekanın denetimi konusunda teknoloji sektöründeki tüm liderlerin "hemfikir olmadığını" ifade etti.

Hassabis, makalesinde hükümetin denetlediği, kamu ve özel sektör işbirliğinde işletilen bu kurumun gelişmiş yapay zeka modelleri hizmete sunulmadan önce test etmesini teklif etmişti.

Amodei'nin yapay zeka gelişimini yavaşlatma önerisi

ABD'li yapay zeka şirketi Anthropic'in Üst Yöneticisi Dario Amodei, firmadaki araştırmacı Jacob Coxon'ın yapay zeka konusunda yeterince sorumlu davranılmadığı gerekçesiyle istifasının ardından 12 Eylül'de şirketin internet sitesinde makale yayımlamıştı.

Amodei, yapay zeka teknolojisinin katlanarak artan hızla gelişmesinin sistemleri anlama ve kontrol etme kapasitesini aşabileceği uyarısını yaparak, bu teknolojinin gelişiminin denetime daha fazla olanak sağlayacak şekilde yavaşlatılması önerisinde bulunmuştu.

Yapay zeka şirketlerinin bir araya gelerek güvenlik standartları belirlemesi ve yapay zekanın piyasaya sürülme hızına yönelik bazı kurallar oluşturması gerektiğine dikkati çeken Amodei'ye, Elon Musk da X'te paylaştığı "Dario haklı" ifadesiyle destek vermiş, OpenAI Üst Yöneticisi Sam Altman da öneriye katıldığını ve bağımsız değerlendirme konusunda aynı adımı atacağını kaydetmişti.

Amodei, yazısında ABD yönetiminin Çin'e çip ihracatı kısıtlamalarını güçlendirmesi ve Çin'deki yapay zeka laboratuvarlarının kendi modellerinde ABD'li şirketlerin modellerinden "damıtma" adı verilen yöntemle veri çalmasını engellemesi gerektiğini vurgulamıştı.

Anthropic Üst Yöneticisi, CBS News televizyonuna verdiği röportajda, yapay zekanın yavaşlatılmasına ilişkin önerisinin önündeki en zor ikilemin, Çin ve diğer düşman ülkelerin aynı şeyi yapmaması ihtimali olduğunu dile getirmişti.