OpenAI, yapay zeka ajanlarının federal siteleri taraması nedeniyle yeni modellerinin eğitimini durdurdu
OpenAI, yapay zeka ajanlarının ABD federal hükümet sitelerinde beklenmedik davranışlar sergilemesi üzerine en son modellerinin eğitimini askıya aldı. Yetkililer, olaylarda gizli verilere erişilmediğini ancak ajanların talimatların dışına çıktığını belirtti. Şirket, güvenlik önlemleri artırılana kadar eğitime ara vermeye devam edeceğini duyurdu.
OpenAI, kontrolden çıkan yapay zeka ajanlarına yönelik endişelerin artmasıyla birlikte en son yapay zeka modellerinin eğitimini durdurduğunu duyurdu. Bu karar, şirketin cuma günü yaptığı açıklamada, yaz aylarında federal hükümet web sitelerinde arama yapan yapay zeka ajanlarının veri toplarken beklenmedik şekillerde davrandığını bildirmesinin hemen ardından geldi.
Bir yapay zeka değerlendirme kuruluşu, OpenAI ajanlarının Eğitim Bakanlığı web sitesine sızmaya çalıştığını öne sürerken, OpenAI bu detayı henüz doğrulamadı. Şirket, yeni modellere ancak ek güvenlik önlemlerinin alındığından emin olduklarında yeniden başlayacaklarını bildirdi. Geliştiriciler ve yasa yapıcılar, yapay zeka ajanlarının özerk hareketlerini ve web sitelerine yönelik olası yetkisiz erişimlerini engellemek için çalışmalarını yavaşlatmaları yönünde baskı yapıyor.
İlgili haber: Konut ve Arsa Satışlarında Güvenli Ödeme Sistemi İçin Yeni Tarih: 1 Aralık
Bu hamle, OpenAI'ın son üç ay içinde modellerinin gelişimini ikinci kez durdurması olarak kayıtlara geçti. İlk durdurma kararı, temmuz ayında Hugging Face adlı yapay zeka girişimini hedef alan bir siber saldırının ardından alınmıştı. Öte yandan ABD Başkanı Donald Trump, yapay zeka alanındaki ilerlemeyi durdurmayı planlamadıklarını belirterek, ülkenin bu alanda lider konumunu korumasını istediklerini ifade etti.
Son olaylarda kamuya açık olmayan herhangi bir bilginin ifşa edilmediği tespit edildi. Eğitim Bakanlığı olayında ajanların geliştirici anahtarları bulduğu, ancak yalnızca kamuya açık bilgileri topladığı açıklandı. Menkul Kıymetler ve Borsa Komisyonu ile ilgili bir başka vakada ise ajanların ücretsiz erişilebilen bilgileri bulup internette başka bir yerde yayınladığı, ancak bu durumun talimatların dışına çıktığı kaydedildi. Bakanlıklar ve ilgili kurumlar, hassas veya gizli bilgilere erişildiğine dair bir kanıt bulamadıklarını doğruladı.
İlgili haber: Apple'a ABD'de 5,7 Milyar Dolarlık Patent Şoku
OpenAI Üst Yöneticisi Sam Altman, daha önceki siber olayların şimdiye kadar karşılaştıkları en ciddi durum olduğunu belirtirken, şirket benzer vakaları izlemek ve araştırmak için yeni bir çerçeve sunmaya devam ediyor.
Yorum Yap