İnsan kaynakları yazılımı sağlayıcısı Rippling bu hafta AI Spend Console adlı bir ürün tanıttı. Bu ürün, şirketlerin yapay zekâ harcamalarını izlemelerine ve kontrol altında tutmalarına yardımcı olur. En ilginç özelliklerinden biri, bireysel çalışanların, ekiplerin ve rollerin ne kadar harcadığını haritalandırması ve bunların gerçekten daha verimli olup olmadıklarını ya da sadece daha fazla ‘AI slop’ üretip üretmediklerini analiz etmesidir. Şirket, blog yazısında belirttiğine göre, aracın hangi mühendislerin yüksek AI harcaması yaptığını ve bunların kod incelemelerinde sık sık işlerini tekrar yapmalarını gösterdiğini vaat ediyor.
Bu araç, Rippling’in yıl başında tokenmaxxing yoluna girdikten sonra ortaya çıktı. Herkesin böyle yaptığı gibi, Rippling de token harcamalarında patladı. Ürün Müdürü Yardımcısı Matt MacInnis, Mart ayında gerçekleşen yönetim toplantısında CFO’su Adam Swiecicki’nin sunduğu rakamı hâlâ hatırlıyor. Rippling, Ar-Ge birimlerinin bütçesinin %40’ını AI token’lerine harcayacak durumdaydı. Yani şirket, token harcaması bakımından çalışanlarının tamamına yakın maaşını harcıyordu. Aylık harcama %80 oranında artıyordu. Eğer bu eğilim sürdürülürsa, bir sonraki yılda AI token harcaması yüksek maaş alan Ar-Ge çalışanlarının %90’ı kadar olacaktı. ‘Şaşkındık,’ diyor MacInnis.
Rippling, token harcamaları yapılmasını kesmeye karar vermedi, sadece bunları kontrol altına almaya karar verdi. Yaptıkları çözüm: Kullandıkları tüm araçlarla maksimum harcama sınırı koydular. Bunlar Cursor, OpenAI ve Anthropic’ti. İlk fırsatta ortaya çıkan sorun, çalışanların en yeni ve en pahalı modelleri tüm görevler için tercih etmeleriydi. ‘Aslında sağlayıcıların, harcamanızı kontrol etmeniz için bir teşvikleri yoktur. Tam tersine harcamanızın kaçınılmaz olması onlar için faydadır,’ diyor MacInnis.
İşte bu yüzden Rippling, kendi AI ağ geçidi (gateway) çözümünü de geliştirdi. Bu ağ geçidi, gelen promptları göreve en uygun ve en tasarruf sağlayıcı modele yönlendirir. AI Spend Console, prompt sayısı, kod satırı/pull request sayısı gibi verimlilik metriklerini görsel paneller halinde sunar. Rippling’e göre, bu araç sayesinde token harcaması Ar-Ge bütçesinin %40’ından %15’e düşmüş. Ancak AI kullanımı azalmamıştı. Token harcamalarının en yüksek seviyesi, yani 605 milyar token, CFO uyardıktan sonra gerçekleşmişti. Temmuz ayında yine 600 milyar token harcanmıştı, fakat bu miktarın maliyeti, Nisan ayındaki harcamanın %37’si kadardı. ‘Çünkü şimdi daha etkili modellere yönlendiriyoruz,’ diyor MacInnis.
Rippling, yalnızca teknolojik çözümlerle yetinmedi. AI’yı iyi kullanan çalışanları ‘AI komutanları’ olarak görevlendirdi. Şu anda yazılım mühendisleri AI kullanımının çoğu. Ancak diğer departmanlar için de çalışmalar sürüyor. Örneğin müşteri başlatma ekibi için veri otomatikleştirme işlerine yönelik çözümler geliştiriliyor. Gelecekte bu departmanların token tüketiminin verimliliği de ölçülecek. ‘Eğer G&A fonksiyonlarındaki ve müşteri odaklı fonksiyonlardaki token tüketimini verimliliğe bağlayamazsak, tüm bu sistem geniş çalışan kitlesine açılamaz,’ diyor MacInnis.
Rippling’in deneyimine göre, tokenmaxxing aşırıya kaçmış gibi görünüyor. Artık yalnızca Slack ya da e-posta gibi herkesin kullanabileceği araçlar olmayabilir. Eğer verimlilik ölçülemiyorsa, çalışanların hepsinin AI erişimi olmayabilir. AI Spend Console, Rippling’in HR abone kiti için dahil edilmiştir, ancak ekstra AI kullanım bazlı maliyetler de vardır. Ayrıca başka bir HR sistemine entegre edilerek de satın alınabilir.
Yorum Yap