Anthropic, ABD’nin yeni ihracat kontrol talimatı nedeniyle Claude Fable 5 ve Mythos 5 modellerini hizmet dışı bırakmak zorunda kaldı; bu durum, gelişmiş yapay zeka sistemlerinin hem savunma hem de saldırı amaçlı kullanılabileceği gerçeğini gözler önüne seriyor.
Şirket, Mythos 5’in yalnızca güvenlik uzmanlarının yazılım açıklarını tespit etmesine yardımcı olmakla kalmayıp aynı zamanda kötü niyetli aktörlerin bu açıklardan yararlanma yollarını da ortaya çıkarabildiğini belirtiyor. Bu çift yönlü risk, modelin lanse edildiği blog yazısında vurgulandı ve ilk aşamada yalnızca Project Glasswing adlı bir konsorsiyuma Mythos Preview versiyonu sunuldu. Claude Fable 5 ise genel kullanıma açıldı, ancak biyoloji ve siber güvenlik konularında yanıt verme yetkisi kısıtlandı.
Trump yönetimi, Fable 5’in koruma mekanizmalarının devre dışı bırakılarak Mythos 5’in tam yeteneklerine erişilebileceği gerekçesiyle iki modelin de kullanımını sınırlamaya karar verdi. Uzmanlar, bu düzenleyici çekişmenin gerçekte sadece iç kısıtlamaları geciktirdiğini ve önemsediği asıl gerçeğin, AI yeteneklerinin bir an önce birçok firma ve açık kaynak geliştiricisi tarafından da Mythos 5 düzeyine ulaşacağı yönünde birleşiyor.
Tarah Wheeler, TPO Group’un baş güvenlik sorumlusu, “Anthropic’in tek başına bir istisna olduğu düşüncesi son derece dar görüşlü; diğer şirketler de benzer ya da daha gelişmiş modeller üzerinde çalışıyor ve bu modelleri düzenleyici ortamı izleyerek stratejik olarak bekletiyor” diyerek uyarıda bulundu. Anthropic’in Frontier Red Team lideri Logan Graham ise, “Bu konu modelle ilgili değil; önümüzdeki 6‑24 ay içinde bu tür yeteneklerin yaygınlaşacağı bir dünyaya hazırlanmalıyız” şeklinde bir perspektif sundu.
OpenAI de Nisan ayında siber güvenliğe odaklı bir modelini özel olarak yayınlayarak benzer bir yol izledi. Araştırmacılar, mevcut AI çözümlerinin de zaten gelişmiş açıklık tarama ve exploit geliştirme görevleri için kullanılabildiğini, bu yüzden sadece yeni nesil modellerin değil, daha küçük ve açık kaynaklı sistemlerin de aynı tehdit potansiyeline sahip olabileceğini vurguluyor. Harvard ve Toronto’da araştırma yapan Bruce Schneier, “Bu tek bir model meselesi değil; teknoloji trendi küçük, ucuz açık kaynak modellerin bile doğru promptlarla Mythos/Fable seviyesine ulaşabilmesi” diyerek durumu özetliyor.
Uzmanlar, hükümetlerin odaklanması gereken konunun riskli bir teknolojiyi yasaklamak değil; riskleri azaltacak şeffaf ve demokratik politikalar geliştirmek olduğunu belirtiyor. Veracode kurucu ortağı Chris Wysopal, “Bir teknolojinin risk taşıdığını sormak yanıltıcı; asıl soru, uygulanan kısıtlamanın riski anlamlı biçimde azaltıp azaltmadığı” şeklinde bir yaklaşım önermekte.
Yorum Yap