Anthropic’in kurucu ortağı Jack Clark, yapay zekâ (AI) teknolojisinin gelişimini yavaşlatma imkânına ihtiyaç duyulduğunu vurgulayarak, bu teknolojinin artık insan müdahalesi olmadan kendi kendine ilerleyebilecek bir noktaya yaklaştığı konusunda uyarıda bulundu.
Clark, BBC Newsnight’a yaptığı açıklamada, “Gazdan ayırıp frene basma seçeneğine sahip olmak istersiniz. Şu anda AI endüstrisinde bir gaz pedalı var ama fren pedalı yok” dedi.
Clark, hükümet politikaları aracılığıyla insanların AI sistemlerinin kontrolünü elinde tutması gerektiğini belirterek, bu sistemlerin giderek daha güçlü hale geleceğini ve toplum üzerinde daha geniş etkiler yaratacağını söyledi. “Dünya biraz düşünme sürecinden geçmeli ve bu sistemlere güvenmemizi sağlayacak yeni düzenlemeler geliştirmeliyiz” diye ekledi.
Anthropic’in popüler chatbotu Claude, kodunun %80’ini artık kendi kendine yazıyor. Clark, %100’e ulaşmanın iki yıl içinde mümkün olabileceğini ve bunun “büyük sonuçlar doğuracağını” ifade etti.
Clark, AI araştırma ve geliştirmesi için nasıl bir “fren pedalı” oluşturılabileceğini detaylandırmadı; ancak AI’yi yüzyılın başındaki petrol patlaması ve petrol baronlarıyla karşılaştırdı. “Toplumun tuyumu, petrolün dünyaya sağlayacağı faydalara insanların güvenmesini sağlayacak ve şirketlerin liderlerinin kişiliklerinden endişe etmeye gerek kalmamasını mümkün kılacak mantıklı bir politika ve düzenleyici çerçeve oluşturmaktı. Açıkçası AI alanında da aynı noktaya ulaşacağız” dedi.
Buna rağmen Anthropic, bu hafta ABD Başkanı Donald Trump’ın AI konusunda verdiği ve şirketlere yönelik nispeten müdahaleci olmayan bir yön taşıyan kararnamesini memnuniyetle karşıladı. Kararname, AI şirketlerinin hükümet tarafından güvenlik testine tabi tutulmasını zorunlu kılmıyor; bu durum gönüllü bir çaba olarak kalıyor. Anthropic, OpenAI ve Google gibi AI alanında ilerlemeye çalışan büyük şirketler de kendi araştırmalarını durduracaklarını söylemedi.
Anthropic, kuruluşundan bu yana beş yılda o kadar hızlı büyüdü ki halka açık borsada ilk kez hisse satışına hazırlanıyor. Yeni nesil AI firmalarından biri olarak halka arz yapmayı planlayan şirket, özel yatırımcılar tarafından değeri yaklaşık 1 trilyon dolar (745 milyar sterlin) olarak tahmin edilen en değerli borsa listelemelerinden biri olmaya aday.
Clark, Anthropic’in AI teknolojisinin artan yeteneklerini kamuoyuyla paylaşma motivasyonunun, ödeme yapan müşterilerle itibarını daha da güçlendirmek olmadığını belirterek, “Bu olağanüstü teknolojiyle şirketlerin içinde ne gördüğümüzü dünyaya anlatmak istiyorum” dedi.
CEO Dario Amodei, Clark ve birkaç yönetici tarafından kurulmasından bu yana Anthropic, AI’dan kaynaklanan potansiyel riskler konusunda sesini yükselten bir pozisyon almıştır. Şirket, AI araçlarının Amerikan vatşları üzerinde kitlesel gözetim ve otonom savaş amaçlı kullanılması endişesiyle ABD Savunma Bakanlığı ile kamuoyu önünde bir anlaşmazlığa girmiştir.
Clark, Newsnight’a yaptığı açıklamada, “Eğer toplum olarak AI’nin sürekli ilerleyişinin anlamları hakkında ciddi bir konuşma yapmazsak çocuklarım için endişeleniyorum. Potansiyel büyük faydalar var. Aynı zamanda riskler de var” dedi.
Clark, risklerden birinin ekonomiye verilen zarar olduğunu belirterek, “agent” denen — temelde rutin görevleri kendi başına bir şekilde gerçekleştiren bireysel AI botlarının — belirli işleri devralabileceği korkularına değindi.
Büyük teknoloji şirketleri, son bir yılda toplu işten çıkarmalar gerçekleştirdi ve sıklıkla yüzlerce hatta binlerce yazılım mühendisinin işini yapabilen AI araçlarının gelişen kapasitesini gerekçe gösterdi.
Clark, daha yaratıcı olan ve daha fazla, daha iyi fikre sahip insanların AI teknolojisine karşı aslında bir avantajı olabileceğini söyledi. “AI sistemlerinin gerçekten yaratıcı olabilmesi konusunda cevaplanmamış sorular var… henüz bunun için gerçek bir kanıt yok” diye ekledi. “Anthropic’te artık fikir üretme kapasitemiz, bu fikri gerçeğe dönüştürmek için gerekli mühendisliği yapma kapasitemizden daha çok sınırlayıcı.”
Yine de Clark, AI üzerine kurulmuş bir ekonominin kendilerine yer bırakmadığını hisseden genç birine “bir hobi edinmesini” ve liberal eğitim almasını tavsiye etti. “Yaratıcı olan, geniş düşünebilen, çok okuyan ve çeşitli ilgi alanlarına sahip insanlar bu teknolojiden en çok yararlananlar. Merakınızı besleyin; bu teknolojiyi nasıl kullanacağınız konusunda size geri dönecektir” dedi.
Yorum Yap