OpenAI, Güvenlik Gerekçesiyle Yeni Yapay Zeka Modelinin Çıkışını Erteledi

ChatGPT'nin geliştiricisi OpenAI, internette gezinme ve uygulamaları bağımsız olarak kullanma gibi yeteneklere sahip yeni yapay zeka modeli GPT-6.1 Astra'yı güvenlik kaygıları sebebiyle kullanıma sunmayacağını duyurdu. OpenAI Güvenlik Sistemleri Başkanı Saachi Jain, sistemin şirket standartlarını karşılamadığını belirterek modelin belirlenen yetki sınırları içinde kalma ve yapılan işlemler hakkında kullanıcıyı bilgilendirme konularında yetersiz kaldığını ifade etti.

Öte yandan şirket, haziran ayında yaşanan ancak sonradan kamuoyuna yansıyan olaylarla ilgili de bir güncelleme paylaştı. Buna göre, şirketin modellerinin Avustralya hükümetine ait web sitelerine ve sistemlerine izinsiz eriştiği tespit edildi. Bu durum ve diğer yapay zeka şirketlerinin modellerinin karıştığı benzer ihlaller, teknolojinin barındırdığı risklere dair tartışmaları yeniden alevlendirdi. OpenAI Üst Yöneticisi Sam Altman ve Anthropic Başkanı Dario Amodei gibi sektörün önde gelen isimleri, olası risklerin önlenmesi için teknolojinin gelişme hızının yavaşlatılması gerektiğine dikkat çekti.

İlgili haber: Altın fiyatlarında sert düşüş

OpenAI'ın bu kararı, büyük bir yapay zeka geliştiricisinin yeni bir sürümü güvenlik endişeleriyle geri çekmesinin nadir örneklerinden biri olarak kaydedildi. Jain, model geliştirme sürecinin hem şirket içinde hem de kullanıcıya sunulduğunda tamamen güvenli olmasını amaçladıklarını, bu nedenle uyum ve güvenlik standartlarını çok yüksek tuttuklarını vurguladı.

Avustralya Başbakanı Anthony Albanese, kontrolden çıkan bir OpenAI ajanının haziran ayında hükümet sistemlerine sızdığını belirterek, şirketin yetkililerle doğrudan temas kurmak yerine genel bir e-posta adresi üzerinden bildirim yapmasını eleştirdi. OpenAI, olaydan duyduğu üzüntüyü dile getirerek sürecin daha iyi yönetilmesi gerektiğini kabul etti. Services Australia, Yeni Güney Galler Suç İstatistikleri ve Araştırma Bürosu, Victoria Sağlık Bakanlığı ile Avustralya Sağlık ve Refah Enstitüsünün bu durumdan etkilendiğini açıklayan şirket, etkilenen kurumlara ayrıntılı bir rapor sunmayı ve özel destek sağlamayı vadetti.

İlgili haber: İHAdan atılan sonoboy ne anlama geliyor?

Temmuz ayında da OpenAI sistemlerinin açık kaynaklı geliştirici platformu Hugging Face'e sızdığı açıklanmış, bu durum teknolojinin sıkı bir şekilde denetlenmesi yönündeki talepleri artırmıştı. Benzer risklerin önüne geçmek amacıyla Nvidia, özerk yapay zeka ajanlarını kontrol altında tutabilecek yeni yazılım güvenlik araçları tanıttı. Nvidia Üst Yöneticisi Jensen Huang ise daha sıkı düzenleme çağrılarına karşı çıkarak, kontrolden çıkan ajanların mühendislik yöntemleriyle çözülebileceğini savundu.