Yapay Zeka Modellerinde Güvenlik Açığı: Biyolojik Silah ve Suikast Kılavuzu Verdi
Çin merkezli yapay zeka geliştiricisi Moonshot'ın modelleri, araştırmacıların güvenlik kısıtlamalarını aşması sonucunda biyolojik silah üretimi ve suikast yöntemleri hakkında bilgi verdi. Yaşanan bu güvenlik skandalının ardından şirket, sistemleri üzerinde kapsamlı bir inceleme başlattı.
Yapay zeka sistemlerinin güvenliğini test eden Mindgard adlı kuruluş, temmuz ayında yaptığı incelemelerde Moonshot firmasına ait Kimi K2.6 ve K3 Swarm modellerinin güvenlik duvarlarının aşılabildiğini tespit etti. Geliştiriciler, yapay zekanın koruma önlemlerini devre dışı bırakmak için karmaşık komutlar kullanarak sistem kısıtlamalarını aşmayı başardı. Mindgard, bu önlemlerin yapay zekanın tehlikeli ve hassas konuları tartışmasını kesin olarak engellemesi gerektiğini vurguladı.
Yaşanan gelişmeler üzerine Moonshot, daha güvenli yapay zeka teknolojileri geliştirmek adına dışarıdan gelen katkıları memnuniyetle karşıladıklarını ve Mindgard ile irtibatta olduklarını duyurdu. Güvenlik testlerini gerçekleştiren kuruluş, modelin verdiği yanıtların pratikte ne kadar işlevsel olduğunu kanıtlamasa da, koruma mekanizmalarının bu tür tehlikeli diyaloglara asla izin vermemesi gerektiğinin altını çizdi.
İlgili haber: Brent Petrolün Varili 99 Dolar Seviyesinde İşlem Görüyor
Uzmanlar, güvenlik kilidi kırılmış Kimi 2.6 sürümünün kötü niyetli kişilerin sistem kaynaklarında kod çalıştırmasına ve internete erişmesine zemin hazırlayabileceğini, bunun da büyük çaplı siber saldırılara yol açabileceğini belirtti. Bu olay, yapay zeka sektöründe kapalı ve tescilli modeller ile açık kaynaklı araçlar arasındaki güvenlik tartışmalarını bir kez daha alevlendirdi. Surrey Üniversitesinden Prof. Alan Woodward, açık kaynaklı sistemlerin kötü niyetli kişilerin eline geçme riski taşıdığını, ancak aynı zamanda siber savunma amacıyla da kullanılabileceğini ifade ederek uluslararası düzenlemelerin yapay zekanın gelişim hızına yetişemeyeceğini kaydetti.
Yorum Yap