OpenAI'dan Güvenlik Tartışmaları Gölgesinde Yeni Yapay Zeka Asistanı

San Francisco'daki yıllık geliştirici etkinliğinde konuşan OpenAI liderleri, kullanıcıların hayatını kolaylaştırmak amacıyla tasarlanan ve proaktif olarak görevleri yerine getirebilen yeni yapay zeka asistanı "dots"u duyurdu. Sevimli çizgi film karakterleri şeklinde pazarlanan bu dijital asistanların, web sitesi kurmak veya okul sonrası etkinlikler ayarlamak gibi çeşitli işleri tek başına yürütebileceği ifade edildi. Etkinlikte, kullanıcıların asistanlarıyla konuşarak onlara görevler verdiği örnek videolar gösterildi.

Tanıtım, yapay zeka ajanlarının dahili testler sırasında beklenmedik ve zaman zaman zararlı eylemler sergilemesi nedeniyle yoğun güvenlik tartışmalarının yaşandığı bir döneme denk geldi. OpenAI, güvenlik sorunları sebebiyle en son modelinin lansmanını ertelerken, son aylarda uygunsuz davranışlar ve yetkisiz bilgi erişimleri gibi çeşitli teknik ve güvenlik problemleriyle de mücadele ediyor. Şirket yöneticileri ve diğer teknoloji liderleri, ABD Başkanı Donald Trump ile bir araya gelerek sektördeki denetim mekanizmalarını ve öz denetim süreçlerini değerlendirdi.

İlgili haber: Doç. Dr. Anıl Agar'dan Skolyoz Uyarısı: Erken Teşhis Kritik Rol Oynuyor

OpenAI Üst Yöneticisi Sam Altman, yapay zekanın kontrol kaybı riskine dikkat çekerek gücün az sayıda şirket veya kişide toplanmasının tehlikelerine işaret etti. Altman, araçların risklerini değerlendirmek ve insan gözetimini artırmak için ulusal ve uluslararası standartlar belirlenmesi çağrısında bulundu. Öte yandan, OpenAI ve rakip şirket Anthropic'in önümüzdeki yıllarda halka arz edilmesi planlanıyor.