"Yapay zeka öldürebilir" uyarılarına yenisi eklendi

Google DeepMind'dan ayrılan bir yapay zeka araştırmacısı yapay zekanın yaygın zararlara yol açmasını önlemek adına insanlığın vaktinin tükenmekte olduğu konusunda uyarıda bulundu.

Bilal Chughtai Pazartesi günü hem X, hem de LinkedIn'de yaptığı paylaşımda, "Yakın zamanda, AGI (Yapay Genel Zeka) güvenliği ve hizalama araştırmaları üzerinde çalıştığım Google DeepMind'daki görevimden ayrıldım. Google'da yapay zeka geliştirme sürecine bizzat tanık oldum. Ben de bu teknolojinin izlediği mevcut gidişattan son derece endişeliyim. Yapay zekanın bizi yok etme potansiyeline sahip olduğuna yürekten inanıyorum" ifadelerini kullandı.

Ancak Chughtai, yapay zeka alanında güvenli bir yol izlemenin hâlâ mümkün olduğu konusunda iyimser olduğunu ve üstleneceği bir sonraki görevin de buna odaklanacağını belirtti. LinkedIn profiline göre kendisi şu anda, farklı alanlardaki kişilere yapay zeka güvenliği konusunda eğitim veren kâr amacı gütmeyen bir kuruluş olan BlueDot Impact bünyesinde çalışıyor.

Chughtai, son günlerde yeni teknolojinin evrilen ancak insanlıkla uyumsuz hale gelen ve nihayetinde insanlığın sonunu getirebilecek yetenekleri konusunda ciddi endişelerini dile getiren en son yapay zeka araştırmacısı oldu.

Bu ayın başlarında, diğer bir yapay zeka geliştiricisi olan Jacob Coxon işinden ayrılmış, eski işverenleri Anthropic ve OpenAI'ı, 'süper zeki yapay zekaya doğru yarışarak' insanların hayatını kumar malzemesi yapmakla suçlamıştı.

Anthropic CEO'su Dario Amodei hafta sonu, yapay zeka topluluğunu; en gelişmiş sistemlerin insan kontrolünden çıkıp felaket boyutunda zararlara yol açmasını önlemek amacıyla bu sistemlerin geliştirilme hızını yavaşlatmaya çağıran bir makale yayımladı. Nadir görülen bir birlik örneği sergilenerek, Amodei’nin bu çağrısına OpenAI CEO’su Sam Altman ve SpaceX/xAI lideri Elon Musk da destek verdi.