Anthropic, bu hafta başlatmış olduğu iki AI modelini, Claude Fable 5 ve Mythos 5’i, ABD hükümetinin ulusal güvenlik gerekçesiyle verdiği ihracat kontrol talimatına uyum sağlamak amacıyla kapattı.
Şirket, talimatın “ABD içinde ya da dışında bulunan herhangi bir yabancı uyruklu kişi, hatta Anthropic çalışanları dahil” erişimini durdurmasını istediğini belirtti; bu yüzden tüm müşterilerin erişimini engelleyerek uyumu sağladı. Geçtiğimiz yıl Trump yönetiminin Savunma Bakanlığı, Anthropic’i “tedarik zinciri riski” olarak nitelendirmişti; bu sınıflandırma, devlet kurumları ve müteahhitlerinin şirketin teknolojisini kullanmasını engelledi ve Anthropic, bu karara karşı dava açtı.
Claude Fable 5, şirketin Mythos AI modelinin bir türevi olup siber güvenlik, biyoloji ve kimya konularında yanıt vermesini engelleyen koruma katmanları taşıyordu. Model, özellikle kötü niyetli aktörlerin güçlü hack araçları geliştirmesini önlemek amacıyla, firmalara siber savunma yetenekleri sunmak için Nisan ayında sınırlı bir ön sürümle kullanılmaya başlandı. Ancak Anthropic, modeli yayınlamadan önce ABD hükümetiyle ortak çalıştığını ve güvenlik önlemlerini titizlikle test ettiğini vurguladı.
Şirket, 17:21 ET’de aldığını belirttiği hükümet mektubunda, güvenlik kaygısının detaylarını paylaşmadığını ancak “Fable 5’i aşma ya da jailbreak etme” bir yöntemin fark edildiğini ifade etti. İncelenen bu teknik, daha önce bilinen küçük güvenlik açıklarını tespit ediyordu; ancak benzer açıklar, halka açık diğer modeller tarafından da aynı şekilde bulunabiliyor, bu da yöntemin sınırlı bir tehdit oluşturduğunu gösteriyor.
Anthropic, blog yazısında, Claude Fable 5’in kötüye kullanım riskini azaltmak için kapsamlı korumalar geliştirdiğini ve hükümetin ortaya koyduğu jailbreak’in dar bir kapsamda, modelden belirli bir kod tabanını okuyup hataları düzeltmesini istemekle sınırlı olduğunu savundu. Şirket, bu tekniğin saldırganı başka bir AI modeliyle eşdeğer bir seviyeye taşıyacağını düşünmedi.
Beyaz Saray ve Ticaret Bakanlığı sözcüleri WIRED’in yorum talebine henüz yanıt vermedi. Anthropic CEO’su Dario Amodei, haftanın başında yayımladığı bir politika makalesinde, tehlikeli AI modellerinin yayınını engelleyecek adil, yapılandırılmış ve şeffaf bir devlet sürecini desteklediklerini belirtti; ancak şirketin yaşadığı bu müdahale, bu ilkelere uygun olmadığını öne sürdü.
Yorum Yap