OpenAI, Broadcom ile yürüttüğü ortaklık kapsamında, özel olarak tasarlanmış ilk çıkarım işlemcisi Jalapeño’yı tanıttı. Şirket, model geliştirme sürecinde kendi AI sistemlerini kullandığını ve ilk testlerde mevcut en iyi çözümlere kıyasla watt başına performansta belirgin bir üstünlük sağlandığını belirtti.
Jalapeño, yalnızca çıkarım (inference) aşamasına odaklanarak, hazır yapay zeka modellerinin kullanıcı taleplerine anında yanıt vermesini hızlandırmayı hedefliyor. Açıklamada, gerçek zamanlı kodlama modellerinin çalıştırıldığı ortamda işletim maliyetinin düşük tutulduğu vurgulandı; ön eğitim gibi ağırlık gerektiren işlemlerin hâlâ Nvidia donanımına bağımlı kalabileceği, ancak çıkarım maliyetindeki her tasarrufun şirketin kârlılığına büyük katkı sağlayacağı ifade edildi.
OpenAI Başkanı Greg Brockman, podcast’inde şirketin iş yüklerini derinlemesine anladığını ve eksik kalan performans alanlarını tespit ederek bu boşlukları dolduracak donanım geliştirmeye yöneldiğini anlattı. Google ve Amazon gibi rakiplerin de benzer amaçlarla AI hızlandırıcıları ürettiği göz önüne alındığında, OpenAI’nin bu adımı Nvidia’ya olan bağımlılığı azaltma stratejisinin bir parçası olarak değerlendiriliyor.
Şirket, sadece öncü modeller geliştirmek ya da bu modeller üzerine ürünler inşa etmekle kalmayıp, altyapı katmanında da kapsamlı bir kontrol sağlamak istediğini vurguladı. Çip mimarisi, çekirdek kodları, bellek ve ağ sistemleri, zamanlama ve dağıtım mekanizmaları ile son kullanıcı deneyimi aynı hedefe—daha hızlı, daha güvenilir ve daha uygun maliyetli AI hizmetleri—odaklanarak bütünleşik bir şekilde optimize edilecek.
Yorum Yap