Artık teknolojiyle etkileşimde bulunurken generatif AI’dan tamamen kaçmak mümkün değil, ama Apple bu konuda biraz daha azını sunuyor. Bu, tamamen tercihle gerçekleşen bir durum değil. iPhone üreticisi, 2024’te ilk kez vaat ettiği AI destekli Siri’yi birden fazla kez geciktirdi, ancak Google ile yapılan bir anlaşma sayesinde ikonik asistan bu yıl içinde Gemini ile birleşecek.
Worldwide Developers Conference yaklaşırken Apple, büyük AI zekâsını bir akıllı telefonun sınırlı işlem ortamına getirmeye çalışıyor. Ancak Apple hayranları sonuca pek memnun kalmayabilir. Apple, AI’yı yerel olarak çalıştırmanın gizlilik değerini uzun süredir vurgulasa da, yeni bir rapor iPhone’un Gemini dönüşümünün bulutta Google ve Nvidia’ya oldukça bağımlı olacağını gösteriyor. The Information, Apple’ın Gemini destekli Siri’sinin hem cihaz üzerinde hem de bulutta çalışacağını, gizlilik odaklı yerel AI tercihlerinin tersine döndüğünü bildiriyor.
Her yeni çip duyurusunda, silikonun AI için nasıl optimize edildiğinden bahsediyoruz—Apple bile Neural Engine yükseltmelerine odaklanıyor. Büyük AI modellerinin akıllı telefonlarda çalıştırılabileceği izlenimi verse de durum genellikle öyle değil. Çoğu telefonun GPU’ları, AI odaklı NPU’lardan daha fazla token işleyebiliyor, ancak Neural Engine gibi bileşenler bağlamsal ve verimli AI işlemine yönelik tasarlanmış. Telefonlar daha hızlı AI işlemeye sahip olsa da, devasa modelleri bellekte tutacak RAM’e sahip değiller. En büyük AI modelleri bile hâlâ orta ölçekli asistanlar ve bu, yerel AI’yı oldukça zorlaştırıyor.
Telefonlarda çalışan AI modelleri fiziksel olarak daha küçük, genellikle birkaç milyar parametreye sahip. Google’ın en yeni Gemini modelleri ise trilyonlarca parametre içeriyor, The Information bu farkı vurguluyor. Cihaz içindeki AI modelleri ayrıca “quantize” edilerek daha düşük hassasiyette çalıştırılıyor; bu hız kazandırsa da token üretimindeki doğruluğu etkiliyor. Sonuç olarak, bulut tabanlı modellere göre daha az akıllı hissedilen AI’lar ortaya çıkıyor; hatta büyük bulut modelleri bazen oldukça basit yanıtlar verebiliyor.
Google, Gemini’nin mobil cihazlar için optimize edilmiş sürümlerine Gemini Nano adını veriyor. Bu sürümler Magic Cue ve ses özetleme gibi bağlamsal özellikleri desteklemek için tasarlanmış. Siri ise konuşma temelli bir asistan; yani sen ona konuşuyorsun ve çeşitli görevler yapmasını bekliyorsun. Bu farklı deneyim, farklı bir model türü gerektiriyor. Android’de ise Google, bu tür bir yerel işleme pek uğraşmıyor; Gemini ile konuşmak her zaman doğrudan buluta yönlendiriliyor.
Yorum Yap