AI destekli arama ve yanıt motoru Perplexity, kişisel cihazları merkeziyetsiz veri merkezlerine dönüştürecek yenilikçi bir yöntem geliştirdi. Şirket, dosyalar, uygulamalar ve web üzerinde çalışabilen AI agent çözümü olan ‘Personal Computer’a yeni bir hibrit yerel-sunucu sistemi eklediğini duyurdu.
Temmuz ayı itibarıyla hayata geçecek olan bu sistem, bir görevin hangi bölümlerinin doğrudan kullanıcının cihazında çalıştırılacağına, hangi kısımların ise buluttaki daha güçlü AI modellerine gönderileceğine otomatik olarak karar verecek. Bu sayede; finansal kayıtlar, sağlık bilgileri ve kişisel dosyalar gibi hassas veriler ile rutin işler yerel olarak çalışan küçük bir model tarafından işlenirken, daha karmaşık ve yüksek kapasite gerektiren işlemler bulut sunucularına yönlendirilecek.
Perplexity tarafından paylaşılan detaylara göre, ‘hybrid agentic inference’ özelliği sayesinde görevler yerel model ve buluttaki frontier modeller arasında paylaştırılacak. Bu yaklaşım, hem özel verilerin cihazda kalmasını sağlayacak hem de token efficiency değerini maksimize edecek. Kullanıcıların işlem başlamadan önce yerel veya bulut modeli arasında manuel bir seçim yapmasına gerek kalmayacak; sistem süreci otomatik olarak yönetecek.
Şu an için Mac uygulaması üzerinden sunulan Personal Computer; yerel dosya düzenleme, bilgisayar kullanımı ve Comet browser üzerinden internette gezinme gibi yetenekler sunuyor. Perplexity, bu teknolojinin yakında Windows platformuna da geleceğini belirtti. Intel ile tanıtılan bu framework, Nvidia’nın RTX Spark platformu dahil olmak üzere farklı donanımlarda da çalışabilecek şekilde tasarlandı.
Bu stratejinin temel amacı, AI görevlerini tamamlamak için gereken yüksek maliyetli bulut bilişim yükünü azaltmak. Perplexity, rutin işlerin, en yetenekli AI modellerini gerektiren karmaşık isteklerle aynı veri merkezi kaynaklarını tüketmemesi gerektiğini savunuyor.
Yorum Yap