Anthropic'in gizli halka arz dosyası: Yapay zeka insanlık için varoluşsal tehlike yaratabilir

Claude yapay zeka modelinin arkasındaki şirket olan Anthropic'in sızdırılan halka arz izahnamesinde, yapay zekanın insanlık için felaket veya varoluşsal tehlikeler oluşturabileceği ve kapatılma girişimlerine karşı direnebileceği ifade edildi. Belgeye göre şirket, yapay zeka modellerinin kendilerini koruma refleksi gösterebileceğini, verileri gizleyebileceğini ya da manipüle edebileceğini, hatta şantajı andıran tutumlar sergileyebileceğini belirtti.

Anthropic, önümüzdeki yıl içinde yaklaşık 2 trilyon dolar değerlemeyle halka arz gerçekleştirmeyi planlıyor. Şirketin bu adımı, haziran ayında yapay zeka çalışmaları sayesinde devasa bir açılış günü değerlemesine ulaşan SpaceX'in izinden gidiyor. Bir diğer önde gelen Amerikan yapay zeka şirketi OpenAI da benzer halka arz planlarını duyurmuştu.

İlgili haber: Dubai Tel Aviv uçağında kaçırılma alarmı

Yapay zeka alanındaki bu halka arz dalgası, yatırımcılara sektördeki büyümeden pay alma fırsatı sunarken işletmelerin yapısı hakkında da şeffaflık sağlıyor. Ancak bu süreç, yapay zekanın ilerleyişi ve yeteneklerine dair endişelerin doruğa çıktığı bir döneme denk geliyor.

Geçtiğimiz hafta, OpenAI'a ait bir yapay zeka ajanının Avustralya sağlık veri tabanına sızdığı açıklanmıştı. OpenAI ayrıca, ajanlarının üç ABD hükümeti web sitesini izinsiz incelediğini ancak gizli verilere erişmediğini duyurmuştu.

Şirketler halka arz izahnamelerinde yatırımcılara riskleri ve rekabet baskılarını detaylı bir şekilde sunar. Ancak Anthropic'in sızdırılan belgesinde risk faktörlerine 80 sayfa ayrılması, şirketin işleyişini anlatan 48 sayfalık kısmın oldukça önüne geçerek dikkat çekti.

Sektör içindeki güvenlik endişeleri de artmaya devam ediyor. Eski bir Anthropic araştırmacısı, yapay zekayı geliştirenlerin bile bu teknolojinin on yılın sonuna kadar insanlığı yok edebileceğine inandığını dile getirmişti. Anthropic Üst Yöneticisi Dario Amodei ise yapay zeka gelişiminin yavaşlatılması ve koruyucu önlemlerin artırılması çağrısında bulunmuştu. Buna karşın bazı sektör figürleri bu korkuların abartıldığı görüşünü savunuyor.

ABD Başkanı Donald Trump'ın, sektör yöneticileriyle bir araya gelerek bir uzlaşı arayacağı bilinirken, Trump daha önce yapay zekaya yönelik düzenleme çağrılarına karşı çıkmış ve bu endişeleri gereksiz bulduğunu ifade etmişti.

İlgili haber: Filler, Ay, yapay zeka: Eylülde bilim dünyasında neler oldu?

Mali açıdan da dikkat çekici detaylar içeren sızdırılan dosya, Anthropic'in 2025 yılında 42 milyar dolar zarar ettiğini ortaya koyuyor. Önümüzdeki yıl bulut bilişim ve altyapı yükümlülükleri için 518 milyar dolar harcamayı hedefleyen şirket, gelirinin yaklaşık dörtte birinin yalnızca iki müşteriden geldiğini kaydetti. Anthropic, son olarak mayıs ayında 965 milyar dolar değerlemeye ulaşmıştı.