Yapay zekâ nereye gidiyor? 8 teknoloji liderinden dikkat çeken görüşler
-
Teknoloji yöneticileri, yapay zekânın yol açabileceği riskleri tartışırken, teknolojinin geliştirilme hızının yavaşlatılmasından daha fazla bağımsız denetime kadar çeşitli çözüm önerileri sunuyor. Dario Amodei ve Elon Musk gibi bazı yöneticiler, yapay zekânın güvenliğini sağlamak için daha güçlü bağımsız denetim mekanizmaları oluşturulmasını ve şirketler ile hükümetler arasında koordinasyonun artırılmasını öneriyor. Jensen Huang ve Mark Zuckerberg gibi diğer yöneticiler ise yeni düzenlemelere veya bilinçli bir yavaşlamaya gerek olmadığını, piyasa dinamiklerinin ya da bağımsız değerlendiricilerin şirketleri güvenli şekilde inovasyon yapmaya yönlendirebileceğini savunuyor. Yapay zekânın ne ölçüde ve ne hızla ilerlemesi gerektiğine ilişkin tartışma, teknoloji yöneticileri açısından ciddi bir ikilem oluşturuyor. Yüz milyarlarca dolarlık yatırımı yapay zekâya yönlendiren yöneticiler, bir yandan teknolojinin potansiyel tehlikelerine ilişkin endişelerini dile getirirken diğer yandan yatırımcıları ve müşterileri tedirgin etmeden kamuoyunu sakinleştirmeye çalışıyor.
Tartışmalar nasıl başladı?
Tartışmalar, Anthropic PBC araştırmacısı Jacob Coxon’ın geçen hafta istifa ederek yapay zekâ geliştiren araştırmacıların “bu teknolojinin on yılın sonuna kadar hepimizi öldürebileceğine gerçekten inandıkları” uyarısında bulunmasının ardından yoğunlaştı. Anthropic çalışanlarından, aralarında hizalama bilimi lideri Evan Hubinger’ın da bulunduğu diğer isimler de benzer endişeleri kamuoyuna açıkladı. Hubinger, teknolojinin önümüzdeki 10 yıl içinde insanlığın yok olmasına yol açma ihtimalinin yüzde 10’dan fazla olduğuna inandığını söyledi.
Anthropic CEO’su Amodei'nin makalesi tartışmaları alevlendirdi
Bu tartışmadan sonra, Anthropic CEO’su Dario Amodei, “We Must Pace the Frontier” başlıklı 3.800 kelimelik yazısında politika yapıcıları Çin’e gelişmiş yapay zekâ çipleri satmaktan kaçınmaya, çip kaçakçılığına karşı önlemleri sıkılaştırmaya ve “otoriter ülkelerdeki şirketlerin yetkisiz damıtma yapmasını” engellemeye çağırdı. Amodei ayrıca demokrasilerin teknolojik üstünlüğünü “mümkün olduğunca büyük” tutması gerektiğini savundu.
İşte sektörün önde gelen yöneticilerinin yapay zekânın bundan sonraki yönüne ilişkin görüşleri:
SpaceX- Elon Musk
Amodei'nin makalesine teknoloji şirketlerinin önde gelen isimleri görüşlerini paylaştı. Bunlardan ilki Spacex, Tesla CEO'su Elon Musk oldu.
Musk, X’teki paylaşımında Amodei’nin görüşüne katıldığını belirterek, “Dario haklı” dedi.
OpenAI- Sam Altman
Tartışmalara katılan bir diğer isim ise OpenAI Kurucusu Sam Altman oldu.
Altman, X’teki paylaşımında Amodei ile yapay zekânın en ileri seviyedeki gelişiminin hızının kontrol edilmesi gerektiği konusunda hemfikir olduğunu söyledi.
Altman, bunun OpenAI’da son haftalarda yürüttükleri görüşmelerin ana konularından biri olduğunu belirterek, çalışanlarla benzer erişim imkânlarına sahip bağımsız değerlendiricilerin görevlendirilmesinin “harika bir fikir” olduğunu ve OpenAI’ın da aynı uygulamayı hayata geçireceğini ifade etti.
Cohere - Aidan Gomez
Cohere, işletmelere yönelik özel büyük dil modelleri ve doğal dil işleme çözümleri geliştiren Toronto, Kanada merkezli bir yapay zekâ şirketidir. Kurucusu Aidan Gomez, , yapay zekânın evrensel olarak yavaşlatılmasına yönelik öneriyi eleştirdiği blog yazısında, mevcut ticari avantajların korunmasını açıkça sağlayan ve herkesin hızını düşüren bir mekanizmanın yapay zekâyı daha güvenli hale getirmeyeceğini söyledi.
Gomez, güvenlik önlemlerinin gerekli olduğunu kabul ederken yapay zekâ geliştirme çalışmalarının toplumun ayak uydurabileceği sorumlu bir hızda ilerlemesi gerektiğini savundu.
Microsoft- Satya Nadella
Microsoft'un CEO'su Satya Nadella, X’teki paylaşımında süper zekâya yönelik her türlü çalışmanın temel bir ilkeye dayanması gerektiğini belirtti.
Nadella’ya göre geliştirilen yapay zekâ insanlığa fayda sağlamıyor ve insan kontrolü altında bulunmuyorsa, bu teknolojinin geliştirilmesinin anlamı yok.
Hugging Face- Clément Delangue
Hugging Face, yapay zeka ve makine öğrenimi topluluğunun bir araya geldiği, açık kaynaklı model, veri seti (dataset) ve web uygulamalarının (Spaces) barındırıldığı dünyanın en büyük iş birliği platformudur.
Kurucusu Delangue, yapay zekâ hizalamasının kritik olduğunun ve yalnızca birkaç öncü yapay zekâ laboratuvarının kapalı kapılar ardında bu sorunu çözemeyeceğinin artık açık olduğunu söyledi.
Delangue, Hugging Face’in Open Alignment Initiative girişimini duyurdu ve şirketin Amodei’nin Anthropic için taahhüt ettiği “yerleşik değerlendiriciler” programına katılmak istediğini belirtti.
Nvidia- Jensen Huang
Dünyanın en değerli şirketinin başındaki Huang, yapay zekâ güvenliğine ilişkin yeni düzenlemelere gerek olmadığını savundu. Huang’a göre piyasa güçleri şirketleri güvenli şekilde inovasyon yapmaya yönlendirecek.
Huang, Salesforce etkinliğinde “Yeni yasalara ihtiyacımız yok, yeni düzenlemelere ihtiyacımız yok” dedi. Huang, şirketlerin piyasaya sunacakları bir ürünün kabul göreceğinden emin olana kadar geliştirme hızlarını kendilerinin ayarlayabileceğini ve gerekli piyasa mekanizmalarının zaten mevcut olduğunu söyledi.
CrowdStrike- George Kurtz
CrowdStrike merkezi Austin, Teksas'ta bulunan bir Amerikan siber güvenlik teknoloji şirketidir.
Kurucusu Kurtz, “Bundan sonra gelecekleri yavaşlatmak, halihazırda burada olanı güvence altına almıyor” dedi.
Kurtz, yapay zekâ geliştirmeyi yavaşlatmaya çalışmak yerine siber güvenlik sektörünün giderek daha otonom hale gelen yapay zekâ sistemlerine ayak uydurabilecek savunma mekanizmaları geliştirmesi gerektiğini savundu. Bu kapsamda bağımsız testler, daha güçlü güvenlik kontrolleri ve yüksek etkili kararlarda insan denetimi önerdi.
Meta- Mark Zuckerberg
Zuckerberg, salı günü X’te yaptığı paylaşımda bağımsız değerlendiriciler ve danışmanlarla çalışmanın sektör açısından en iyi uygulama olduğunu söyledi.
Zuckerberg, Meta’nın yapay zekâ modeli Muse’un piyasaya sunulmasını güvenlik ve emniyete odaklanmak amacıyla birkaç ay ertelediğini belirtti. Ancak şirketin bunu yapmadan önce diğer şirketlerin de aynı şeyi yapmasını istemediğini, günlük çalışmalarının bir parçası olarak bunun insanlar ve şirket açısından doğru yaklaşım olduğuna karar verdiklerini söyledi.