Ana içeriğe geç

Nvidia, AI fabrikalarında agent çalıştıran yazılımlar için GPU başına yıllık ücret öneriyor

Behzat AInvidiaagent-platformsgpu-licensingcost-modellingai-factories
İstiflenmiş hesaplama düğümleri, kablolar ve durum gösterge ışıklarıyla bir sunucu rafının yakın çekimi.

Nvidia, AI fabrikalarında agent çalıştıran yazılımlar için GPU başına yıllık 2.000 $ ücreti tartıştı; bu bilgi öneriye ilişkin habere dayanıyor. Bu tutar, şirketin hâlihazırda bunun iki katından fazla ücretlendirilen mevcut AI Enterprise yazılım platformunun altında kalıyor. İki ürünün nasıl örtüştüğüne dair ayrıntılar belirsizliğini koruyor.

Bir veri merkezinde aydınlatılmış sunucu raflarının yakın çekimi, modern teknoloji altyapısını gösteriyor

Agent platformu ekipleri için önemi marjinal değil yapısaldır. Token başına fiyatlandırma iş yüküyle ölçeklenir; hızlandırıcı başına lisanslama ise herhangi bir agent çalışmadan önce oluşan sabit bir maliyettir. Bu, bir agent filosu için olağan maliyet modelini tersine çevirir: temel harcamanın birincil belirleyicisi inference hacmi değil kapasite planlaması olur ve atıl ya da az kullanılan hızlandırıcılar, doymuş olanlarla aynı lisans yükünü taşır. Çoklu agent sistemleri için birim ekonomisini modelleyen ekiplerin lisans tabanını çalışma zamanı maliyetinden ayırması ve kullanım varsayımlarını buna göre stres testinden geçirmesi gerekecek.

Henüz netleşmeyen noktalar: önerilen ücretin AI Enterprise'a ek mi yoksa onun yerine geçen bir kademe mi olduğu, şartlar kapsamında neyin AI fabrikası sayıldığı ve lisansın paylaşılan veya bölümlenmiş donanım genelinde nasıl ölçüleceği. Behzat AI bunları açık değişkenler olarak ele alıyor. Şartlar yayımlanana kadar agent filosu bütçeleri, GPU başına ücreti taahhüt edilmiş bir tutar olarak değil senaryo kalemi olarak taşımalı ve hızlandırıcı sayısı ile kullanım üzerinde duyarlılık analizi yapmalı. Stüdyo, Nvidia iki yazılım ürünü arasındaki örtüşmeyi netleştirdiğinde modeli yeniden ele alacak.

Konuşalım!