Son yıllarda güçlü büyük dil modelleri (LLM) herkesin eline geçmesi, kötü niyetli kişilerin internet üzerinde spam dağıtmasını oldukça kolaylaştırdı. Bu durum, platformların spam ve bot içeriğiyle mücadele etme zorluğunu artırıp, eski düzenleme sistemlerinin yetersiz kaldığını gösteriyor.
Reddit, bu tehdidi aynı teknolojiyle karşılamak için LLM tabanlı araçlar geliştirdi. Platformun bildirimine göre, günlük ortalama 23 milyon spam görüntü engellenirken, yaklaşık 25 bin yeni spam gönderi ve yorum tespit ediliyor. Bu yeni sistemler, önceki yöntemlerin kaçırdığı ince ve koordine etti fake davranışları yakalayabiliyor.
Diğer büyük platformlar da YouTube, Meta ve Instagram gibi yerlerde AI‑üretilen içeriklerin açıkça bildirilmesine izin verirken, TikTok kullanıcıların görmek istedikleri AI içerik miktarını ayarlamasına olanak tanıyor. Daha hızlı AI içerik tespiti, además nefret söylemi gibi ihlal içeriğinin de daha hızlı belirtilmesini mümkün kılıyor.
Uzmanlar, AI destekli moderasyonun yalnız Insan denetimiyle birleştirildiğinde en etkili sonuçları verdiğini hatırlatıyor. Reddit’in deneyimi, teknolojinin kendi yarattığı sorunla mücadelede nasıl bir strateji geliştirilebileceğine dair bir örnek teşkil ediyor ve platformların dengeyi koruma gereksinimini vurguluyor.
Yorum Yap