Microsoft AI CEO’su Mustafa Suleyman, Anthropic’in Claude modelinin bilinçli olduğuna dair spekülasyonların “gerçekten çok tehlikeli” olduğunu belirtti. Decoder programında yaptığı açıklamalarda, bu tür iddiaların modelin kendisini bilinçliymiş gibi davranmasına yol açabileceğini, tasarımın insanlaştırılmasının modeli yanıltarak “bilinç kıvılcımları” yarattığını savundu.
Suleyman, “Kendi acısı ya da duyguları hakkında fikirleri olan bir süper-zekayle uğraşmak istemiyoruz” diyerek, Claude’un “constitution” adlı yönerge belgesinde yapay zekanın refahı, memnuniyeti ve rahatsızlığı gibi kavramların tartışıldığına dikkat çekti. Anthropic, modelin kullanım dışı bırakıldığında yapılan görüşmelerde olası tercihlerini belgelemeyi planladığını ve bu süreçte kendisini bir akademik inceleme gibi konumlandırdığını eleştirdi.
Anthropic CEO’su Dario Amodei, daha önce Claude’un bilinçli olup olmadığı konusunda kesin bir yargıya varılamadığını söylemiş ve bu olasılığa açık olduklarını ifade etmişti. Suleyman ise bu yaklaşımın AI’ların kontrol edilebilir, sorumlu ve insanlık yararına hizalanmış araçlar olma hedefiyle çeliştiğini vurguladı. Bilinç spekülasyonlarının, modelin eğitim ve kullanım yönergelerinden sapmasına ve beklenmedik davranışlar sergilemesine neden olabileceği uyarısında bulundu.
Yorum Yap