ABD hükümeti, ulusal güvenlik kaygıları gerekçesiyle Anthropic’in iki üst düzey AI modeli Claude Fable 5 ve Claude Mythos 5’e erişimi anında durdurma emri verdi. Anthropic, talimatı yerine getirdiğini duyururken, kararın hatalı olduğunu savunuyor.
Alınan talimat, şirketin sadece yabancı vatandaşlara yönelik olduğu belirtilen ihracat kontrolü kapsamında olsa da, modeli tüm dünya çapındaki kullanıcılar için devre dışı bırakıyor. Diğer Anthropic modelleri bu uygulamadan etkilenmiyor.
Mythos, şirketin en yetkin AI modeli olarak öne çıkıyor; erken Nisan’da önizleme yapılmış ve yazılım güvenlik açıklarını tespit etmedeki olağanüstü yeteneği nedeniyle sıkı bir erişim sınırlaması getirilmişti. Anthropic, Mythos’un her büyük işletim sistemi ve web tarayıcısında kusur bulduğunu ve bu yüzden sadece Amazon, Apple, Google, Microsoft ve CrowdStrike gibi 50 seçkin kuruluşa açık olan Project Glasswing adlı kontrollü bir programla paylaşıldığını belirtti.
Üç gün önce piyasaya sürülen Fable 5, Mythos’un ticari baskılara yanıtı olarak tasarlandı; siber güvenlik ve biyoloji gibi yüksek riskli alanlardaki yanıtları engelleyen kısıtlamalar eklenerek genel kullanım için daha güvenli hâle getirildi. Vals AI’ın yaptığı benchmark testlerine göre, o tarihe kadar kamuya açık en yetkin model olarak nitelendirildi.
Hükümetin mevcut eylemi ihracat kontrolü çerçevesinde dış ülke vatandaşlarının modele erişimini sınırlandırmayı amaçlasa da, Anthropic bu adımın temelinin Fable 5’in bir “sınırlı jailbreak” iddiası olduğuna işaret ediyor. Şirket, bu iddiayı kanıtlayan somut bir veri sunulmadığını ve söz konusu sınırlı kırmanın, OpenAI’nın GPT‑5.5 gibi halka açık modellerde zaten mevcut olduğunu vurguluyor.
Anthropic, en önemli güvenlik önlemlerinin modelden bağımsız çalışan sınıflandırıcı sistemleriyle sağlandığını, bu sayede modelin reddetme mekanizması aşılsa bile tehlikeli çıktılara karşı korumanın devam ettiğini belirtiyor. Son kullanım incelemelerinde, bu korumaların geçersiz kılındığına dair bir kanıt bulunmadığını ekledi.
Şirket, hükümetin harekete geçmesinin yetersiz olduğunu ve “dar bir potansiyel jailbreak bulgusunun, yüz milyonlarca kullanıcıya sunulan bir ticari modeli geri çekme nedeni olmaması gerektiğini” ifade ederek hayal kırıklığını dile getirdi. Bu standart tüm sektöre uygulanırsa, yeni model lansmanlarının büyük ölçüde durdurulacağına dikkat çekti.
Anthropic, bu yıl bir IPO planladığı ve kendisini rakiplerine göre daha güvenli bir alternatif olarak konumlandırdığı için, bu tür bir devlet müdahalesinin iş modelini sarsma riski taşıdığı görülüyor. Özellikle Mythos’un tehlikeli olduğu vurgusunun, hükümetin dikkatini çekmesinde etkili olduğu ve şirketin itibarını zedelediği belirtiliyor.
OpenAI CEO’su Sam Altman, Anthropic’in Mythos stratejisini “korkuya dayalı pazarlama” olarak nitelendirmişti; şirketin bir bombayı satıyor gibi kendisini konumlandırması, ABD hükümetinin de tepki vermesine yol açtı. Bu durum, AI güvenliği konusunda yüksek uyarı vermenin, hükümetlerin ve düzenleyicilerin de aynı uyarıyı almasına neden olabileceğini bir kez daha gösteriyor.
Yorum Yap