ABD yönetimi, Anthropic’in en yeni yapay zeka modeli Claude Fable 5 üzerine uyguladığı ihracat kontrollerini kaldırmadan görüşmeleri tamamladı; bu durum şirketin gelişmiş güvenlik özelliklerine erişim konusundaki endişeleri gün yüzüne çıkarıyor.
İçişleri Bakanlığı, Claude Fable 5’in bazı koruma katmanlarını devre dışı bırakarak kullanıcıların Mythos modelinin daha güçlü siber güvenlik yeteneklerine ulaşabileceğini öne sürüyor. Anthropic ise bu iddiaların abartıldığını savunarak, görüşmelerin yapıldığı Ticaret Bakanlığı’ndaki çalışma grubunda konuyu tekrar gündeme getirdi. Toplantılara Ticaret Bakanı Howard Lutnick, CAISI araştırmacıları ve Ulusal Siber Direktörlük temsilcileri katıldı; Anthropic’in kurucu ortağı Tom Brown ve dış ilişkiler sorumlusu Sarah Heck ise şirketi temsil etti.
Anthropic’in sınırları aşan test ekibi lideri Logan Graham ve kıdemli güvenlik araştırmacısı Nicholas Carlini, Washington’da yüz yüze görüşmeler için bir araya geldi. Şirket yetkilileri, sorunun hızla çözüme kavuşturulması için ortak bir çaba içinde olduklarını belirtti. Beyaz Saray sözcüsü ise yorum yapmayı reddetti.
Ticaret Bakanlığı, Claude Fable 5’in tekrar tüketiciye açılabilmesi için Anthropic’in jailbreak (koruma atlatma) sorunlarını tamamen çözmesi gerektiğini belirtti. Bu gelişmeler, Anthropic’in Pentagon ile hâlihazırda yürüttüğü model kullanımına dair uzun süren bir tartışmanın ortasında gerçekleşiyor.
Geçen hafta, Amazon CEO’su Andy Jassy, modeldeki olası zafiyetleri doğrudan Hazine Bakanı Scott Bessent’e iletti; bu iletişim, hükümetin güvenlik birimlerini harekete geçirdi. NSA, Fable 5’in koruma katmanlarının tamamen kaldırılabileceği yönünde bir rapor sundu ve bu da modeli kısıtlama kararını tetikledi. Amazon, bulut hizmeti sağlayıcısı olarak hükümetin güvenlik danışmanlığını sık sık aldığını, ancak detayları kamuoyuyla paylaşmadığını vurguladı.
Anthropic, blog yazısında yönetimin risk değerlendirmesinin abartılı olduğunu iddia ederken, bazı siber güvenlik araştırmacıları da bu görüşü destekledi. Açık bir mektupta, Mythos seviyesindeki modellerin zaten geniş bir güvenlik topluluğu tarafından denetlendiği, kısıtlamanın savunuculara zarar verdiği ve Amerika’nın yapay zeka liderliğini riske attığı savunuldu.
Jailbreak, modelin koruma katmanlarını belirli komutlarla atlatmayı içeriyor; Claude Fable 5, Mythos’un bazı biyoloji, kimya ve siber güvenlik kısıtlamalarıyla sınırlı bir versiyonuydu. Anthropic, bu sınırlamaların genel halka sunulabilecek seviyede olduğunu belirtti. Amazon’un raporunu inceleyen araştırmacılar, tespit edilen sorunların korumaları tamamen geçersiz kılmadığını, dolayısıyla modelin tam bir jailbreak’e maruz kalmadığını öne sürdü.
Yatırımcılar, yaşanan bu gerilimin şirketin geleceğini nasıl etkileyeceğini değerlendiriyor. Bazıları, ABD’nin Anthropic’i hedef alırken benzer bir model sunan rakiplerin aynı tepkiyi almadığını belirtiyor. Bu da ileride diğer yapay zeka laboratuvarlarının, Mythos düzeyinde modelleri piyasaya sürerken ihracat kontrollerine ve erken erişim zorunluluğuna uyum sağlaması gerektiği sorusunu doğuruyor. Kanada merkezli Cohere CEO’su Aidan Gomez, hükümetin bu adımları atmaya istekli olduğunu ve şirketlerin gerçekçi bir yaklaşım sergilemesi gerektiğini vurguladı.
Yorum Yap