Yapay zeka teknolojilerinin küresel ölçekte hızla yaygınlaşması, insanlığın güvenliğini tehdit edebilecek kötü niyetli kullanım girişimlerini de beraberinde getiriyor.
Yapay zeka araştırma şirketi Anthropic, sistemlerinin biyolojik silah geliştirme süreçlerini desteklemeye yönelik tehlikeli faaliyetlerde kullanılmasını başarıyla durdurduğunu duyurdu.
Şirketin perşembe günü yayımladığı kapsamlı tehdit istihbaratı raporu, bu teknolojinin insanlık için doğurabileceği varoluşsal risklere dikkat çeken uzman uyarılarını yeniden alevlendirdi.
Hazırlanan raporda yer alan çarpıcı tespitler, gelişmiş algoritmaların kötü niyetli aktörlerin elinde felakete yol açabilecek bir araca dönüşebileceğini kanıtlıyor.
BİYOLOJİK SİLAH GİRİŞİMLERİ VAR
Anthropic tarafından paylaşılan detaylara göre, modellerin biyolojik silah üretme süreçlerine destek sağlaması amacıyla kullanıldığı 5 farklı vaka mercek altına alındı.
Yetkililer, biyolojik kötüye kullanım riskinin hızla gelişen yapay zeka sistemleri için en ölümcül tehditlerden biri olduğunu vurguluyor.
Gerekli güvenlik kalkanları devreye sokulmadığı takdirde bu tür girişimlerin telafisi imkansız küresel felaketlere yol açabileceği belirtiliyor.
Şirket, tehlikeli araştırmaları yürüten aktörlerin ve bilim insanlarının sistem üzerindeki tüm erişimlerini engelleyerek bu yıkıcı senaryoların önüne geçti.
Biyolojik tehditlerin tespit edilmesini zorlaştıran en büyük etkeni, bu alandaki araştırmaların çift amaçlı kullanılabilen hassas yapısı oluşturuyor.
Zira bir hastalığa karşı hayat kurtarıcı aşı geliştirmek için gereken bilimsel veriler ile biyolojik bir silah üretmek için kullanılan bilgiler tamamen örtüşüyor.
Anthropic Tehdit İstihbaratı Başkanı Jacob Klein, New York Times gazetesine verdiği demeçte durumun son derece incelikli ve karmaşık olduğunu ifade etti.
Klein, kötü niyetli aktörlerin çizgi romanlardaki gibi açıkça herkesi öldürecek bir silah yapmak istediklerini söylemediklerini dile getirdi.
Biyolojik tehditlerle yüzleşen tek teknoloji devi Anthropic ile sınırlı kalmıyor. Teknoloji devi Google da salı günü yaptığı açıklamada, bir kullanıcının Gemini aracılığıyla silaha dönüştürülmüş biyolojik ajanların sentezlenmesi için teknik bir kılavuz elde etmeye çalıştığını duyurdu.
MÜHİMMAT ÜRETİMİ İÇİN DE KULLANILIYOR
Yayımlanan istihbarat raporu, yapay zekanın yalnızca biyolojik alanda değil geleneksel mühimmat üretiminde de kullanılmak istendiğini gösteriyor.
Raporda, Claude modellerinin konvansiyonel silahlar için yazılım geliştirmek amacıyla kullanıldığı 6 farklı olaya dikkat çekiliyor.
Kötü niyetli kişilerin ateşli silahlar, güdümlü füzeler, silahlı insansız hava araçları ve bombaların hedefleme ve kontrol yazılımlarını üretmeye çalıştığı tespit edildi. Güvenlik filtrelerine takılan bu faaliyetlerin tamamı sistem tarafından anında durduruldu.
Anthropic, söz konusu kötü amaçlı kullanım denemelerinin Aralık 2025 ile Ağustos 2026 tarihleri arasında engellendiğini belirtti.
Bu süreçte siber saldırganların Claude Haiku, Sonnet ve Opus modellerini suiistimal etmeye çalıştığı kaydedildi.
Şirketin en gelişmiş sistemleri olan Claude Fable ve güçlü Mythos sınıfı modellerin bu kötüye kullanım vakalarından tamamen uzak kaldığı vurgulandı.
Bu üst düzey modellerin yalnızca daha küçük modelleri eğitmek için başvurulan damıtma işlemlerinde hedef alındığı paylaşıldı.
CASUSLUK OPERASYONLARINDA SIKÇA KULLANILIYOR
Son 8 aylık dönemde tespit edilen vakalar, yapay zekanın küresel casusluk operasyonlarında giderek daha fazla kullanıldığını kanıtlıyor.
Rusya merkezli siber casusluk kampanyalarıyla bağlantılı aktörlerin ve bir İran propaganda kurumunun sistemi manipüle etmeye çalıştığı belirlendi.
Sistem kaynaklarının sahte flört uygulamalarından otel kablosuz ağ dolandırıcılıklarına kadar geniş bir sahtekarlık ağında kullanıldığı anlaşıldı.
Hatta bazı grupların muhalifleri tespit edip fişlemek amacıyla yapay zeka tabanlı gözetleme mekanizmaları kurmaya çalıştığı ortaya çıkarıldı.
Anthropic, Çin merkezli bazı yapay zeka laboratuvarlarının ve firmalarının Claude modelinin yeteneklerini kopyalamaya çalıştığını bildirdi.
Raporda, aralarında dünyaca ünlü siber suç örgütü ShinyHunters grubunun da bulunduğu çok sayıda devlet destekli korsanın adı geçti.
Rusya bağlantılı Midnight Blizzard benzeri yöntemler kullanan bir hacker grubunun ise yapay zekayı çok daha tehlikeli bir yöntem için kullandığı belirlendi.
Bu korsan grubun, geliştirdiği zararlı yazılım güvenlik sistemleri tarafından fark edildiğinde kodu otomatik olarak algılayıp yeniden yazan akıllı bir sistem inşa ettiği kaydedildi.
KÜRESEL YAVAŞLAMA ÇAĞRISI
Yapay zekanın kontrol edilemez bir hızla gelişmesi, bilim insanlarını ve siyasetçileri acil önlemler almaya zorluyor.
Güvenlik araştırmacıları, yapay zekanın önümüzdeki 10 yıl içinde insan ırkını tamamen yok etme olasılığının yüzde 10 seviyesinden daha yüksek olduğuna inanıyor.
OpenAI Baş Bilim İnsanı Jakub Pachocki, 6 Eylül tarihinde yayımladığı makalede yapay zeka sektörüne gönüllü bir yavaşlama çağrısında bulundu.
Pachocki, yapay zekanın akılalmaz yükselişinin doğuracağı sonuçlara hiç kimsenin tam olarak hazır olmamasından derin endişe duyduğunu belirtti.
İngiltere'de ise Başbakan Andy Burnham'a hitaben yazılan bir açık mektupta süper zekanın güvenli gelişimi için çok uluslu bir anlaşma yapılması talep edildi.
Hükümetlerin ortak bir güvenlik protokolü etrafında birleşmesi gerektiği uluslararası düzeyde dile getirildi.
Amerika Birleşik Devletleri tarafında Demokrat Senatör Bernie Sanders, yapay süper zekayı yasaklamayı ve gelişmiş yapay zeka geliştirmelerini geçici olarak durdurmayı hedefleyen yasa tasarısını sundu.
Sanders, BBC ekranlarında yaptığı açıklamada bilim insanlarının felaket uyarılarına kulak asmayıp gelişimi yavaşlatmamanın büyük bir aptallık olacağını vurguladı.
Buna karşılık ABD Başkanı Donald Trump perşembe günü yaptığı açıklamada bu tarz endişeleri reddettiğini açıkça belirtti.
Trump, yapay zeka yarışında mutlak bir başarı elde edememeleri halinde ülkenin çok kötü bir duruma düşeceğini savundu.
Kaynak: {Haber Merkezi}
Yorumlar 0
Yorum Yap
Henüz yorum yok. İlk yorumu siz yapın!