Margaret Atwood, The Handmaid’s Tale ve The Blind Assassin gibi eserleriyle tanınan yazar, Portekiz’in Porto şehrinde gerçekleşen Babell Edebiyat ve Kültür Festivali’nde yapay zekâ konusuna değindi. Atwood, yalnızca bir kez Anthropic firmasının Claude adlı sohbet botunu kullandığını ve bu deneyimin hayal kırıklığıyla sonuçlandığını belirtti.
Yazar, İngiliz dedektif dizisi Father Brown hakkında bilgi ararken Claude’un hatalı bir yanıt verdiğini, hatta yanıtın yanlış olduğunu iddia etti. Atwood, modelin insan olmadığını ve büyük dil modellerinin sadece okudukları metinlerden türettiğini, bu yüzden hatalı bir çıkarım yaparak yanlış bilgi sunduğunu vurguladı. Özellikle eleştirilerde dizinin sonunu gizleyen ifadelerden yola çıkarak modeli yanılttığını dile getirdi.
Atwood, yapay zekâyı özenle kullananlara da sert bir eleştiri yöneltti; bu kişileri “kolay yolu arayan fırsatçılar” olarak nitelendirdi. Ancak kendi içinde, tüm LLM’lerin (büyük dil modelleri) eğitim verisinin kalitesiyle sınırlı olduğunu hatırlattı. Çıkarılan verilerin eski, hatalı veya çalıntı olabileceği için, bu sistemlere körü körüne güvenmenin riskli olduğunu belirtti. İnsanların da robot olmadığını, ancak fırsatçılık eğiliminde olduklarını, kolayca tespit edilemeyen bir hile yolu bulurlarsa bunu değerlendireceklerini ifade etti.
Son olarak Atwood, yapay zekâ alanındaki hataların kaçınılmaz olduğunu, hatta iş amaçlı kullanımda bile sonuçların dikkatle kontrol edilmesi gerektiğini vurguladı. Girişteki çöp, çıktıda da çöp olur; bu yüzden veri kalitesine ve insan denetimine önem verilmesi gerektiğini hatırlattı.
Yorum Yap