Yapay zekada "varoluşsal tehdit" uyarısı

Geçtiğimiz günlerde müşteri desteği ve hukuki hizmetler gibi işlevlerin otomatikleştirilmesini sağlayan bir aracı tanıtmasıyla yazılım sektöründe satış dalgasını tetikleyen Anthropic ile ABD Savunma Bakanlığı Pentagon arasındaki sözleşme görüşmeleri askıya alındı.

Anthropic, geçen yıl Pentagon ile Claude Gov modellerinin ve Claude for Enterprise’ın prototipini içeren iki yıllık bir anlaşma imzalamıştı. Konuya yakın bir kaynaktan edinilen bilgiye göre Anthropic, Claude’un Amerikalıların toplu olarak gözetlenmesi veya insan müdahalesi olmadan kullanılabilecek silahların geliştirilmesi için kullanılmasını engellemek için önlemler almak istiyor.

Şirket, kendisini teknolojinin yol açabileceği felaketlerden kaçınmayı amaçlayan, daha sorumlu bir yapay zeka şirketi olarak konumlandırıyor ve kendi etik sınırları içinde kamudaki müşterilerine hizmet vermeyi hedefliyor. Claude Gov da gizli materyalleri ve istihbaratı işleme ve yorumlama ve siber güvenlik verilerini anlama konusunda gelişmiş yeteneklere sahip. Şirketin bir sözcüsü, “Anthropic, ABD ulusal güvenliğini desteklemek için öncü yapay zeka kullanma konusunda kararlı” dedi ve şirketin Pentagon ile “bu çalışmayı nasıl sürdürecekleri ve bu karmaşık sorunları nasıl çözecekleri konusunda iyi niyetle verimli görüşmeler” yaptığını belirtti.