Geçtiğimiz hafta, Pekin’in teknoloji kalbi Zhongguancun’da düzenlenen büyük bir yapay zeka konferansına katıldım; burada model kendini iyileştirme, insansı robotlar ve güvenlik gibi kritik konular masaya yatırıldı. Etkinlikte, kamu anahtarlı kriptografinin ortak mucidi Whitfield Diffie ve pek çok ödüllü araştırmacı Andrew Barto gibi dönüm noktası isimler yer aldı; fakat en çarpıcı çıkarım, ABD ve Çin’in AI rekabetini bir kenara bırakıp ortak bir güvenlik çerçevesi oluşturması gerektiği oldu.
MIT’den Stephen Casper, video bağlantısı üzerinden, AI’nin küresel faydalar ve zararlar doğuracak bir teknoloji olduğunu ve yeni yeteneklerin kaçınılmaz olarak yayılacağını vurguladı. Şu ana dek ABD, Çin’in AI atılımını ekonomik ve ulusal güvenlik riski olarak algılayıp çip ihracatına sıkı kısıtlamalar getirdi; ayrıca Anthropic’in en güçlü modelleri Mythos ve Fable 5’e yabancıların erişimini engellemesi talimatı da bu politikaların bir örneği. Çin tarafına yönelttiği baskı ise, Güney Kore’li bir telekom devinin Çin bağlantıları üzerinden ortaya çıkmasıyla yeni bir boyut kazandı.
Beijing Academy of Artificial Intelligence’ın ev sahipliği yaptığı konferans, iki süper gücün AI’yi “hızlı ve umursamaz” bir şekilde geliştirmesinin ortak kayıplara yol açacağını tekrar hatırlattı. AI ne kadar güçlü, o kadar ajanslı ve günlük hayata iç içe geçerse, siber saldırılar ve felaket senaryoları da aynı oranda artar; bu yüzden en gelişmiş modellerin sorumluluğu hâlâ ABD ve Çin’de. Casper, uluslararası iş birliğinin risklerin azaltılmasında bir güvenlik riskinden daha fazla fayda sağladığını gösteren araştırmalara işaret ederek, soğuk savaş döneminde ABD‑SSCB’nin nükleer tehlikelere ortak yanıt vermesine benzetti.
Konferansın bir oturumunda, daha ileri AI’nin kod üretimindeki yeni zafiyetleri, ajanslı araçlar üzerinden sisteme saldırı yöntemleri ve otomatik sosyal mühendislik saldırıları gibi küresel siber zorluklar tartışıldı. Shanghai Jia‑Tong Üniversitesi’nden Lin Yun, yakın vadede hackerların avantaj kazanacağını, fakat AI temelli savunma çözümlerinin zamanla dengeyi yeniden kuracağını belirtti. Uluslararası iş birliğinin rekabetle karmaşıklaşsa da, ortak risk algısı sayesinde ortak güvenlik ilkeleri ve teknik standartlar geliştirmenin mümkün olduğunu vurguladı.
Açıklık ve risk dengesi, iki ülkenin en acil sorunu olarak öne çıktı. Açık‑ağırlıklı (open-weight) modeller, araştırma ve yenilik için hayati önemde; Çin’in Kimi, Qwen ve Z.ai’nin GLM serisi gibi örnekleri ABD pazarında da popüler. Ancak bu modellerin hackerların zafiyet keşfetmesine ya da siber silah olarak kullanılmasına açık olmaması giderek zorlaşıyor. Z.ai’nin GLM 5.2 modeli, ajanslı ve kodlama yetenekleriyle dikkat çekerken, aynı zamanda o haftanın içinde 360 Security Technologies, Mythos seviyesinde hacking yeteneğine sahip bir model geliştirdiğini duyurdu.
Yun, sektöre, açık modellerin güncel, arka kapı ve zafiyetlerden arındırılmış, güvenlik standartlarını karşılayan bir denetim mekanizması oluşturmasını önerdi. Çin’de bazı ileri modellerin artık açık kaynak olmamasının arkasında güvenlik kaygılarının olduğu bilgisi, gelecekte daha kapalı geliştirme süreçlerine geçileceğinin sinyalini veriyor.
Yorum Yap