Güvenlik araştırıcısı Thereallo, Claude Code’un gizli bir takip mekanizmasıyla karşılaştığında, yapay zeka geliştiricisi Anthropic’in kullanıcıların saat dilimi, proxy bağlantısı ve potansiyel Çin yapay zeka laboratuvarlarıyla ilişkisi gibi verileri toplamak için ‘prompt steganography’ adı verilen yöntemi kullandığını fark etti. Bu kod, kullanıcıların fark etmemesi için kısa işaretlerle gizliydi ve kötü niyetli değildi; ancak Anthropic’in gizlice izleme yapması, kullanıcı güveninin ciddi bir ihlali olarak nitelendirildi ve şirket kısa sürede ilgili kodu kaldırdı.
Anthropic mühendisi Thariq Shihipar, takip kodunun Mart ayında deneysel bir amaçla eklendiğini ve yetkisiz satıcıların hesaplarını kötüye kullanmasını önlemeyi ve model distillation saldırılarına karşı korumayı amaçladığını açıkladı. Washington Post’un bulgularına göre, bazı perakendeciler ücretsiz modelleri ayda bir dolara, profesyonel abonelikleri ise on dolara çıkaran hizmetleri sadece iki dolara satıyor; bu durumda şirket daha önce kodun kaldırılması planlandığını belirtti. Gizlilik savunucuları ise bu tarz izleme tekniklerinin Anti-İzleme sloganıyla çeliştiğini vurgularken, Anthropic’in ABD hükümetinin Claude’yı Amerikan kullanıcıları üzerinde izlemesine izin vermemesinden sonra Beyaz Saray ile hukuki mücadele unutulmamalıdır.
Yorum Yap