Yapay zeka dünyasının dev isimleri, kötü niyetli kişilerin AI teknolojilerini kullanarak biyolojik silahlar geliştirmesini engellemek amacıyla ABD Kongresi’ne yeni yasalar çıkarma çağrısında bulundu. OpenAI CEO’su Sam Altman, Google DeepMind’dan Demis Hassabis, Anthropic’ten Dario Amodei ve Microsoft AI’dan Mustafa Suleyman’ın imzaları arasında olduğu açık mektup, sentetik DNA ve RNA satışı yapan şirketlerin müşteri ve sipariş denetimlerini sıkılaştırmasını talep ediyor.
Institute for Progress ve Foundation for American Innovation tarafından organize edilen mektupta, AI gelişim hızının, biyolojik silah üretimine engel olan geleneksel bilgi bariyerlerini ortadan kaldırma riski vurgulanıyor. Geçmişte DNA sentezi karmaşık ve pahalı bir süreçken, günümüzde ticari sentezleyiciler aracılığıyla özel gen dizilimleri kolayca “yazdırılabiliyor”. Ancak, tüm sağlayıcıların müşteri doğrulama veya sipariş edilen gen dizilimlerini denetleme konusunda aynı titizliğe sahip olmadığı belirtiliyor.
Uzmanlar, LLM (Large Language Models) teknolojisindeki ilerlemelerin, tehlikeli toksinlerin ve patojenlerin tasarımını mümkün kıldığını savunuyor. Stanford Üniversitesi’nden biyogüvenlik uzmanı David Relman, AI araçlarının kullanıcıların denetimden kaçmak için hangi sağlayıcılara yöneleceğini belirlemede veya siparişleri nasıl modifiye ederek filtreleri aşabileceklerini anlamada kullanılabileceği konusunda uyarıyor.
Mektuba Twist Bioscience ve Ansa Biotechnologies gibi sektör liderleri de destek veriyor. Mevcut durumda birçok şirket gönüllü olarak tarama yazılımları kullansa da, Microsoft araştırmacıları tarafından yayınlanan bir çalışma, AI tabanlı protein tasarım araçlarının mevcut denetim yazılımlarını atlatabilen tehlikeli gen dizilimleri üretebildiğini ortaya koydu.
Güvenlik uzmanları, sadece satış noktasındaki denetimlerin yeterli olmadığını, AI laboratuvarlarının da kendi modelleri üzerinde sıkı filtreleme mekanizmaları kurması gerektiğini savunuyor. Safe AI Fund ortağı Geoff Ralston, bir modelden son derece tehlikeli bir işlem için yardım istemenin neredeyse imkansız hale getirilmesi gerektiğini belirtirken, biyogüvenlik için çok katmanlı bir kontrol mekanizmasının şart olduğu vurgulanıyor.
Yorum Yap