Geçtiğimiz hafta Amazon MGM Studios’ta düzenlenen ve tamamen AI ile film yapımcılığına odaklanan AI on the Lot konferansı, yaklaşık 2.500 katılımcıyı bir araya getirdi. Sektörün geleceğine dair yoğun bir heyecan hakim olsa da, insan yaratıcılığı, kimlik ve etik etkiler gibi kritik konular panel tartışmalarının merkezinde yer almıyordu. Bu boşluğu doldurmak adına, Loti AI’ın CEO’su Luke Arrigoni ile derinlemesine bir görüşme gerçekleştirdim.
Loti AI, interneti tarayarak ünlülerin veya sıradan insanların deepfake içeriklerini tespit eden ve bunları kaldıran bir şirket. Temelde deepfake; bir kişinin yüzü, sesi veya tüm fiziksel görünümünün izinsiz kullanılarak oluşturulan dijital bir sahtecilik türü. SAG-AFTRA sendikasının 2024’teki grevinde de görüldüğü üzere, generative AI’ın sanatçıların kimliklerini rızasız kullanma tehdidi, sektör için varoluşsal bir kaygı olmaya devam ediyor.
Arrigoni, şirketinin çalışma prensibini iki ana başlık altında açıklıyor. İlk olarak ‘savunma’ tarafında, tüm interneti tarayıp yüz ve ses tanıma teknolojileriyle izinsiz içerikleri bulup siliyorlar. İkinci olarak ise ‘saldırı’ tarafında, generative AI şirketleri için bir denetim mekanizması kuruyorlar. Bir şirket bir sanatçıyı generate etmek istediğinde, Loti AI üzerinden izin ve fiyatlandırma kontrolü yapılıyor; böylece yaratıcılar kendi dijital kimlikleri üzerinde kontrol sahibi oluyor.
Arrigoni, bu süreci ‘ateşe ateşle karşılık vermek’ olarak tanımlıyor. AI modellerini ve yüz tanıma sistemlerini kullanarak, içeriklerin onaylanıp onaylanmayacağına karar veren bir güvenlik ray sistemi görevi görüyorlar. Bu sayede generative AI platformlarının hem yasalara uyumlu kalmasını hem de güvenli bir pazar oluşturmasını sağlıyorlar.
Röportajın en çarpıcı noktalarından biri, AI’ın yaratıcılık üzerindeki etkisiydi. Arrigoni’ye göre AI, elindeki devasa veri setlerinin ortalamasını aldığı için ancak ‘ortalama üstü’ içerikler üretebilir. Ancak Christopher Nolan veya Jordan Peele gibi özgün estetiğe sahip sanatçıların yerini doldurması mümkün değil; çünkü AI’ın %99’luk dilimdeki dâhice yaratıcılığa ulaşacak bir mekanizması yok.
Geleceğe dair öngörüleri ise hem korkutucu hem de düşündürücü. Arrigoni, önümüzdeki bir iki yıl içinde sahte ve gerçek içerikleri birbirinden ayırmanın imkansız hale geleceğini öngörüyor. Bu durumun ancak eğitim yoluyla ve kritik düşünme becerilerinin erken yaşlardan itibaren geliştirilmesiyle aşılabileceğini belirtiyor. Teknoloji dünyasının, insanlığı ve güvenlik önlemlerini göz ardı edecek şekilde sürekli optimizasyon yapma eğiliminden endişe etse de, bu sorunları çözmek için araçları doğru şekilde kullanma konusunda iyimser olduğunu ekliyor.
Yorum Yap