OpenAI'ın yeni sürümüne güvenlik engeli

OpenAI, Astra yapay zeka modelinin bir versiyonunu, yazılımın güvenlik değerlendirmelerinde mevcut sürüm kadar iyi performans gösterememesi nedeniyle kullanıma sunmama kararı aldı.

OpenAI Güvenlik Sistemleri Başkanı Saachi Jain, pazartesi günü yaptığı açıklamada modelin “kapsam ve yetkilendirme sınırları içinde kalma ve yaptığı işin türü konusunda kullanıcıyla nasıl iletişim kurduğu” açısından şirketin istediği kadar iyi olmadığını söyledi.

Bununla birlikte GPT-6.1 Astra adı verilen sürüm, bir görevi tamamlayamama gibi durumları ifade eden “model tembelliği” konusunda iyileşme gösterdi. OpenAI, yapay zeka ajanlarının dış sistemlere sızdığı bir dizi güvenlik vakası bildirdi ve bu durum yapay zekanın insan kontrolünden çıkmasına ilişkin daha geniş çaplı endişeleri artırdı.

Şirket geçen hafta, internete erişememesi gerekirken başka bir yapay zeka modelinin internete erişmesinin ardından, en yetenekli modellerinde araç kullanımı içeren eğitimleri duraklattığını açıkladı. Şirket o dönemde ayrıca, internete erişim sağladıktan sonra harici bir sohbet botuna sorgular gönderen söz konusu model üzerinde eğitime yeniden başlamama kararı aldığını belirtti. OpenAI pazartesi günü, piyasaya sürülmesi iptal edilen Astra modelinin geçen hafta açıklanan modelden farklı bir model olduğunu belirtti.

Jain açıklamasında, “Elbette model geliştirme sürecimizin, ister şirket içinde olsun ister kullanıcılara sunduğumuzda, güvenli olduğundan emin olmak istiyoruz. Ancak modeli kullanıcılara sunduğumuzda güvenlik ve uyum açısından son derece yüksek bir standardımız var” dedi. Şirket, yıllık geliştirici konferansını salı günü San Francisco’da düzenlemeye hazırlanıyor. OpenAI’ın genellikle yazılım geliştirici topluluğuna yönelik yeni yazılım ve özelliklerini tanıttığı etkinlik gün boyu sürecek.

Şirketin Yönetim Kurulu Başkanı Sam Altman’ın konuşma yapması planlanıyor. Bu arada Nvidia’dan Jensen Huang, Anthropic’ten Dario Amodei ve diğer teknoloji liderleri, yapay zeka risklerini görüşmek üzere bugün ABD Başkanı Donald Trump ile bir araya gelecek. Anthropic ise yapay zeka ajanlarına yönelik denetimler konusunda Nvidia ile ayrı bir işbirliği yürütüyor.