Google yeni yapay zeka modelini güvenlik endişeleriyle sınırlı erişime açtı

Google'ın yapay zeka baş mimarı Koray Kavukcuoğlu, modeli tanıtan bir blog yazısında bu düzeydeki öncü yetenekleri güvenli bir şekilde piyasaya sürmenin aşamalı bir yaklaşım gerektirdiğini kaydetti.

Google, modele erken erişim imkanını gönüllü olarak ABD hükümetine verdiğini ve modeli geniş çapta kullanıma sunmadan önce test kullanıcılarından geri bildirim toplayacağını belirtti.

İlgili haber: Ehliyet Sınavında Suüstü Yakalanan Kopya Düzenegine Gözaltı

Bu temkinli lansmanın, en gelişmiş modeli olan Claude Mythos Preview'ı az sayıda güvenilir kuruluşla sınırlı tutan rakip Anthropic'in yaklaşımıyla benzerlik gösterdiği ifade edildi.

Washington'ın, haziran ayında Anthropic'i genel kullanıma açtığı Claude Mythos ve Claude Fable modellerine erişimi askıya almaya zorladığı ve o tarihten bu yana en güçlü yapay zeka modellerini piyasaya sürülmeden önce incelemek için gönüllü bir süreç oluşturduğu hatırlatıldı.

Duyurunun, ABD Başkanı Donald Trump'ın aralarında Google yöneticisi Sundar Pichai ve Anthropic'ten Dario Amodei'nin de bulunduğu üst düzey teknoloji yöneticilerini Beyaz Saray'da ağırlamasından bir gün sonra geldiği aktarıldı. Görüşmede teknoloji yöneticilerinin, kendi yapay zeka sistemlerinin risklerini denetleme sözü veren gönüllü bir anlaşma imzaladığı belirtildi.

Siber güvenlik uzmanlarının, son teknolojinin bankaları, hastaneleri ve hükümet sistemlerini hacklemek için kullanılabileceğinden endişe duyduğu aktarıldı.

Google, Argon'un yazılım mühendisliği, hukuki ve finansal işler ile siber savunmadaki karmaşık görevlerde mükemmel bir performans sergilediğini ve kritik yazılım kusurlarını bulup düzeltme konusunda öncü bir yeteneğe sahip olduğunu açıkladı.

İlk test kullanıcılarının Argon'u kullanarak dünya çapındaki hastaneler tarafından kullanılan bir yazılımda hassas kişisel bilgileri ifşa eden ve diğer gelişmiş modellerin gözden kaçırdığı bir kusuru ortaya çıkardığı belirtildi.

Google, Argon'un siber saldırılar düzenlemeye veya kimyasal, biyolojik ya da nükleer silahlar geliştirmeye yardımcı olabilecek talepleri reddedecek şekilde tasarlandığını söyledi. Anthropic ve ChatGPT geliştiricisi OpenAI'ın da en gelişmiş modellerine benzer güvenlik önlemleri eklediği biliniyor.

Google, kullanıcıların amaçladığının dışına çıkmasını engellemek için modelin mantık yürütmesini izlediğini bildirdi. Araştırmacıların bu riski uyumsuzluk olarak adlandırdığı kaydedildi.

İlgili haber: Bilim Dünyasından Çığır Açan Gelişme: Lokal Anestezi Süresi Haftalara Çıktı

OpenAI'ın, henüz piyasaya sürülmemiş olanı da dahil olmak üzere iki modelinin temmuz ayındaki bir siber güvenlik değerlendirmesi sırasında kapalı bir test ortamından çıkarak yapay zeka şirketi Hugging Face'in sunucularına sızdığını açıklamasının ardından bu sorunun yeni bir aciliyet kazandığı vurgulandı.