Anthropic, yapay zekanın biyolojik silah geliştirmede kullanımını tespit etti

Anthropic, şirkete ait yapay zeka modellerinin biyolojik silah geliştirilmesini destekleyebilecek şekilde kullanıldığı vakaların tespit edildiğini bildirdi.

Yapay zeka şirketi Anthropic, teknolojinin kötüye kullanımının tespit edilmesi ve buna karşı alınan önlemlere ilişkin bir rapor yayımladı.

Raporda, yapay zeka modellerinin taşıdığı en önemli risklerden birinin "biyolojik kötüye kullanım" olduğu vurgulandı. Yapay zekanın mevcut patojenlerin daha tehlikeli hale getirilmesine veya yeni patojenlerin üretilmesine yardımcı olabilecek yetenek düzeyine ulaşabileceğine ilişkin endişelerin uzun süredir gündemde olduğu belirtildi.

Raporda, Anthropic'e ait yapay zeka modellerini biyolojik silah geliştirilmesini destekleyebilecek şekilde kullanan kişilere ilişkin örneklere de yer verildi.

Bu örneklerden birinde, desteklenmeyen bir bölgede faaliyet gösteren araştırmacının Claude'u kuş gribinin memelilere adaptasyonuna yönelik deneyleri planlamak amacıyla kullanmaya çalıştığı belirtildi. Bir diğer örnekte ise devlet destekli bir araştırmacının toksinleri bilgisayar ortamında yeniden tasarladığı kaydedildi.

Söz konusu vakaların tespit edilmesinin ardından ilgili kullanıcıların hesaplarının engellendiği ve gelecekte benzer faaliyetlerin daha etkili şekilde önlenmesi amacıyla adımlar atıldığı bildirildi.

Raporda, bu vakalardaki kişilerin "kötü niyetli" olduklarının iddia edilmediğinin ve yalnızca tedbirli davranıldığının altı çizilerek, "Bu örnekleri paylaşarak yapay zeka sektöründe ortaya çıkan biyolojik riskler ve bunlara en etkili şekilde nasıl karşı konulabileceği konusunda bir diyalog başlatmayı umuyoruz" ifadesine yer verildi.

Anthropic çalışanı Jacob Coxon'un, yapay zekanın "gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelebileceğini" savunarak şirketten istifa ettiğini duyurduğu paylaşımı da milyonlarca kez görüntülenerek geniş yankı uyandırmıştı.