Anthropic, kısa bir süre içinde Claude Fable 5 ve Mythos 5 modellerine erişimi tamamen durdurdu; bu, ABD hükümetinin ulusal güvenlik gerekçesiyle verdiği bir ihracat direktifinin sonucudur.
Şirket, talimatın sadece yabancı uyruklu kişilere, hem ABD içinde hem de dışında, model erişimini engellemek için verildiğini açıkladı. Diğer Claude sürümleri hâlâ kullanılabilir durumda. Anthropic, yönetime verilen raporda “dar kapsamlı bir jailbreak” iddiasının bulunduğunu, ancak bu iddianın hâlen tartışmalı ve sınırlı bir teknik olduğunu belirtti.
Yapılan testlerde, Fable 5 ve Mythos 5’in belirli bir kod tabanını okuyup hataları düzeltmesini sağlayan bir yöntemle modele sınırlı bir geçiş (jailbreak) yapılabildiği öne sürüldü. Anthropic bu teknikle ilgili bir rapor gördüğünü, ancak bunun henüz evrensel bir güvenlik açığı oluşturmadığını vurguladı. Şirket, mevcut savunma mekanizmalarının benzer basit açıklıklara karşı diğer açık kaynak modellerde de aynı şekilde savunmasız olduğunu dile getirdi.
İddialar, White House AI danışmanı David Sacks ve Amazon CEO’su Andy Jassy’ın konuyu WH’ye taşımasıyla ortaya çıktı. Amazon, bulduğu güvenlik açığını Ticaret Bakanlığı’na iletmiş, bakanlık da Anthropic’e model’i 90 dakikalık bir süre içinde devre dışı bırakması talimatını vermiş. Bu süreçte, Anthropic’in teknik ekibi Washington’da doğrudan yetkililerle görüşmeler yaptı.
Anthropic, direktife itiraz etti; hükümetin güvenli olmayan dağıtımları engelleme hakkının şeffaf, adil ve teknik temellere dayanması gerektiğini savunuyor. Ancak, talimatın içeriği ve dayanakları hakkında detay vermediği için şirket, “dar kapsamlı bir potansiyel jailbreak” bulgusu üzerinden hareket eden bir karar alındığını belirtiyor.
Bu gelişme, yapay zeka modellerinin sınırlandırılması ve ulusal güvenlik politikalarının teknoloji şirketleri üzerindeki etkisinin ne kadar ani olabileceğini gösteriyor. Anthropic’in ileriki adımları, benzer taleplerin diğer AI sağlayıcılarına nasıl yansıyacağı konusunda bir öncül oluşturacak.
Yorum Yap