Anthropic uyardı: Yapay zeka kendi kendini geliştirebilir

Yapay zeka şirketi Anthropic, yapay zeka sistemlerinin giderek daha fazla insan müdahalesi olmadan yazılım geliştirme ve araştırma süreçlerini yürütebildiğini, bu eğilimin sürmesi halinde kendi kendini geliştirebilen sistemlere dönüşebileceğini açıkladı.

Şirket, kurucu ortak Jack Clark ile Anthropic Enstitüsü Başkanı Marina Favaro tarafından kaleme alınan "Yapay zeka kendini inşa ettiğinde" başlıklı blog yazısını yayımladı.

Yazıda, geçmişte yapay zeka geliştirme süreçlerinin büyük ölçüde insanlar tarafından yürütüldüğü ancak Anthropic'te bu görevlerin giderek daha fazla yapay zeka sistemlerine devredildiği ve bunun geliştirme hızını artırdığı belirtildi.

Bu eğilimin devam etmesi halinde yapay zeka sistemlerinin kendi haleflerini tasarlayıp geliştirebilecek seviyeye ulaşabileceği ifade edilen yazıda, bu durumun "özyinelemeli kendini geliştirme" (recursive self-improvement) olarak tanımlandığı aktarıldı.

Yazıda, "Henüz o noktada değiliz ve özyinelemeli kendini geliştirme kaçınılmaz değil. Ancak çoğu kurumun hazırlandığından daha erken gerçekleşebilir" ifadelerine yer verildi.

İnsan kontrolünün zayıflaması riski

Teknolojik eğilimlerin yapay zeka sistemlerinin önümüzdeki yıllarda çok daha gelişmiş yeteneklere sahip olacağına işaret ettiği belirtilen yazıda, kendi kendini geliştirebilen yapay zekanın bilim, sağlık ve birçok alanda önemli faydalar sağlayabileceği kaydedildi.

Bununla birlikte, "özyinelemeli kendini geliştirmenin" insanların yapay zeka sistemleri üzerindeki kontrolünü kaybetme riskini de artırabileceğine dikkat çekildi.

Yazıda, "Sistemler kendi haleflerini tamamen inşa edebilecek kapasiteye sahipse, onları güvence altına alma, izleme ve davranışlarını şekillendirme yöntemlerimiz çok daha önemli hale gelir" değerlendirmesinde bulunuldu.

Toplumsal kurumların teknolojik ilerlemelere uyum sağlayabilmesi için ileri düzey yapay zeka geliştirme çalışmalarının yavaşlatılması veya geçici olarak durdurulmasının değerlendirilmesinin faydalı olabileceği belirtilen yazıda, bunun birden fazla güçlü laboratuvar tarafından ve farklı ülkelerde eş zamanlı olarak uygulanmasının anlamlı olacağı ifade edildi.