Anthropic, ABD hükümetinin yeni AI modelleri Mythos 5 ve Fable 5’e yönelik kapsamlı kısıtlamalar getirmesi üzerine bu modellerin erişimini hafta sonu kapattı. Laboratuvar, federal yetkililerin Cuma öğleden sonra Fable 5’in “jailbreak” – yani Anthropic’in kötüye kullanım riskini azaltmak için koyduğu sınırlamaları atlatma – bir yolunu tespit ettiğini bildirdi.
Mythos duyurulduğunda, model yalnızca siber güvenlik açıklarını ortaya çıkarma yeteneği nedeniyle seçkin bir grup devlet kurumu ve teknoloji uzmanına sunulmuştu. Hükümet, bu ürünlere ihracat kontrolü uygulayarak herhangi bir yabancı vatandaşın (ABD içinde ya da dışında) erişimini engellemeye karar verdi. Anthropic, bu durumu tamamen modelleri devre dışı bırakmak zorunda kalarak çözdü.
Şirket, gösterilen jailbreak’in bu denli geniş bir önlemi haklı çıkarmadığını ve böyle bir standartın yeni nesil AI modellerinin gelişimini büyük ölçüde durdurabileceğini savundu. Anthropic, hükümetin tehlikeli dağıtımları engelleme yetkisine sahip olması gerektiğini, ancak bunun şeffaf, adil, net ve teknik temellere dayalı bir süreçle yürütülmesi gerektiğini vurguladı; mevcut müdahalenin bu ilkelere uymadığını belirtti.
Anthropic ve ABD Ticaret Bakanlığı temsilcileri henüz yorum yapmadı. Şirketin, Washington’da yetkililerle görüşmeler yürütmek üzere bir ekip gönderdiği bildirildi; Wall Street Journal, Anthropic yöneticilerinin Cumartesi günü Ticaret Bakanı Howard Lutnick ve Ulusal Siber Direktör Sean Cairncross ile uzun telefon görüşmeleri yaptığını kaydetti.
Bu, Anthropic’in Washington ile yaşadığı ilk anlaşmazlık değil. Savunma Bakanlığı, şirketin Claude AI modellerinin tamamen otonom silahlar ya da kitlesel iç denetim amaçlı kullanılmasına karşı koyması sonrasında, bu modelleri “tedarik zinciri riski” olarak nitelendirmişti; Pentagon, modellerin tüm yasal amaçlarla kullanılabilmesini talep etmişti.
Yorum Yap