پرش به محتوای اصلی

Revolut با مدل‌های open-weight خودمیزبان، کاهش ۹۰ درصدی هزینه کدنویسی را گزارش کرد

Behzat AIopen-weight-modelscoding-agentsinference-costself-hostingllm-evaluation
نمای نزدیک از یک رک سرور با واحدهای محاسباتی انباشته، کابل‌کشی و چراغ‌های وضعیت در یک مرکز داده.

Revolut گزارش می‌دهد که خودمیزبانی مدل‌های open-weight هزینه‌های کدنویسی آن را ۹۰ درصد کاهش داده است. این کار بر مدل‌های GLM open-weight تکیه دارد نه بر یک API میزبانی‌شده اختصاصی، و بدین ترتیب اقتصاد agentهای کدنویسی را بر زیرساختی قرار می‌دهد که اپراتور بر آن کنترل دارد. این افشا یک داده‌نقطه مشخص برای تیم‌هایی است که در حال سنجش این هستند که inference کجا اجرا شود، نه صرفاً کدام مدل در یک بنچمارک بالاترین امتیاز را می‌گیرد.

نمای نزدیک از رک‌های سرور روشن در یک مرکز داده، نمایش‌دهنده زیرساخت فناوری مدرن

برای سیستم‌های agent این تمایز معماری‌محور است. یک agent کدنویسی در هر وظیفه فراخوانی‌های زیادی صادر می‌کند، بنابراین قیمت‌گذاری به‌ازای هر token در تلاش‌های مجدد، حلقه‌های tool call و مراحل تأیید انباشته می‌شود. خودمیزبانی این پروفایل را به سمت ظرفیت ثابت و بهره‌برداری سوق می‌دهد و هزینه یک مرحله ناموفق یا تکراری را به موضوع زمان‌بندی محلی تبدیل می‌کند نه هزینه اندازه‌گیری‌شده. این مبادله به سمت عملیات منتقل می‌شود: برنامه‌ریزی throughput، به‌روزرسانی مدل و چارچوب evaluation که تأیید می‌کند یک checkpoint خودمیزبان همچنان استاندارد وظیفه را برآورده می‌کند.

این افشا هم‌زمان با انتشار open مدل LongCat-2.5 از Meituan منتشر می‌شود که هدف آن کدنویسی agentic است. دو نشانه در یک بازه زمانی یک جهت را نشان می‌دهند: open weights به‌طور خاص برای agentهای کدنویسی جایگاه‌یابی می‌شوند، نه به‌عنوان جایگزین‌های عمومی چت. آنچه از پوشش ارائه‌شده روشن نیست، دامنه دقیق رقم ۹۰ درصد، ردپای سخت‌افزاری و نحوه سنجش کیفیت در مقایسه با راه‌اندازی پیشین است. این جزئیات تعیین می‌کند که آیا نتیجه به سایر سازمان‌های مهندسی قابل انتقال است یا نه.

برداشت استودیو: جایگاه مدل را به‌عنوان یک تصمیم در معماری هزینه در نظر بگیرید و هر اقدام خودمیزبانی را با مجموعه evaluation همراه کنید که بتواند رگرسیون‌ها را پیش از رسیدن به agentهای production شناسایی کند.

بیایید صحبت کنیم!