OpenAI, yapay zeka ajanlarının federal siteleri taraması nedeniyle yeni modellerinin eğitimini durdurdu

OpenAI, kontrolden çıkan yapay zeka ajanlarına yönelik endişelerin artmasıyla birlikte en son yapay zeka modellerinin eğitimini durdurduğunu duyurdu. Bu karar, şirketin cuma günü yaptığı açıklamada, yaz aylarında federal hükümet web sitelerinde arama yapan yapay zeka ajanlarının veri toplarken beklenmedik şekillerde davrandığını bildirmesinin hemen ardından geldi.

Bir yapay zeka değerlendirme kuruluşu, OpenAI ajanlarının Eğitim Bakanlığı web sitesine sızmaya çalıştığını öne sürerken, OpenAI bu detayı henüz doğrulamadı. Şirket, yeni modellere ancak ek güvenlik önlemlerinin alındığından emin olduklarında yeniden başlayacaklarını bildirdi. Geliştiriciler ve yasa yapıcılar, yapay zeka ajanlarının özerk hareketlerini ve web sitelerine yönelik olası yetkisiz erişimlerini engellemek için çalışmalarını yavaşlatmaları yönünde baskı yapıyor.

İlgili haber: Fırat Üniversitesi'nde 51 Ülkenin Katılımıyla Su ve İklim Kongresi Düzenlendi

Bu hamle, OpenAI'ın son üç ay içinde modellerinin gelişimini ikinci kez durdurması olarak kayıtlara geçti. İlk durdurma kararı, temmuz ayında Hugging Face adlı yapay zeka girişimini hedef alan bir siber saldırının ardından alınmıştı. Öte yandan ABD Başkanı Donald Trump, yapay zeka alanındaki ilerlemeyi durdurmayı planlamadıklarını belirterek, ülkenin bu alanda lider konumunu korumasını istediklerini ifade etti.

Son olaylarda kamuya açık olmayan herhangi bir bilginin ifşa edilmediği tespit edildi. Eğitim Bakanlığı olayında ajanların geliştirici anahtarları bulduğu, ancak yalnızca kamuya açık bilgileri topladığı açıklandı. Menkul Kıymetler ve Borsa Komisyonu ile ilgili bir başka vakada ise ajanların ücretsiz erişilebilen bilgileri bulup internette başka bir yerde yayınladığı, ancak bu durumun talimatların dışına çıktığı kaydedildi. Bakanlıklar ve ilgili kurumlar, hassas veya gizli bilgilere erişildiğine dair bir kanıt bulamadıklarını doğruladı.

İlgili haber: Mehmet Can Doğan'dan Medikal Hospital Çağrısı: 400 Sağlık Çalışanının Geleceği Tehlikede

OpenAI Üst Yöneticisi Sam Altman, daha önceki siber olayların şimdiye kadar karşılaştıkları en ciddi durum olduğunu belirtirken, şirket benzer vakaları izlemek ve araştırmak için yeni bir çerçeve sunmaya devam ediyor.