پرش به محتوای اصلی

Mistral وزن‌های مدل Large 4 با یک تریلیون پارامتر را برای کدنویسی عاملی منتشر کرد

Behzat AIopen-weight-modelsagentic-codingself-hostingdata-residencymistral
نمای نزدیک از یک رک سرور با کابل‌کشی و چراغ‌های نشانگر در راهروی یک مرکز داده

Mistral وزن‌های Mistral Large 4، مدلی با یک تریلیون پارامتر، را برای دانلود رایگان منتشر کرده است. این شرکت آن را بهترین مدل باز برای کدنویسی عاملی و دفاع سایبری معرفی می‌کند. پوشش خبری این انتشار را حول استقرار درون‌سازمانی و کنترل حاکمیتی برای سازمان‌ها قالب‌بندی می‌کند، و Mistral ادعا می‌کند که در رقابت مدل‌های باز از مدل‌های چینی با وزن باز جلو می‌زند.

نمای نزدیک از رک‌های سرور روشن در یک مرکز داده، نمایش زیرساخت فناوری مدرن

برای استقرار عامل‌ها، اهمیت موضوع تنها مقیاس نیست، بلکه حقوق است. مدلی در مقیاس مرزهای دانش که می‌توان آن را دانلود و به‌صورت شخصی میزبانی کرد، محاسبات مربوط به محل استقرار را تغییر می‌دهد: inference می‌تواند درون محیط خود مشتری اجرا شود نه پشت یک API، که این امر گزینه‌های اقامت داده، مسیرهای خروجی و مرز آنچه از دارایی سازمان خارج می‌شود را تغییر می‌دهد. سیستم‌های عاملی که با داده‌های تحت نظارت یا ابزارهای داخلی سروکار دارند، اغلب کمتر توسط توانایی مدل و بیشتر توسط محل مجاز اجرای مدل محدود می‌شوند. یک گزینه با وزن باز در این تعداد پارامتر، مجموعه استقرارهایی را که می‌توان حول میزبانی محلی طراحی کرد گسترش می‌دهد.

پرسش‌های عملی با این انتشار روشن نمی‌شوند. پوشش خبری فراتر از دانلود رایگان، شرایط مجوز، قالب وزن‌ها، پشتیبانی از quantisation، طول context یا ردپای سخت‌افزاری برای مدلی با این اندازه را ذکر نمی‌کند. ادعاهای پیشرو بودن در کدنویسی عاملی و دفاع سایبری، موضع‌گیری فروشنده است و نه نتایج تأییدشده مستقل. استودیو این انتشار را به‌عنوان تغییری در گزینه‌های استقرار برای ارزیابی می‌بیند: میزبانی شخصی مدلی در این مقیاس مستلزم زیرساخت inference قابل‌توجهی است، و مشخصات هزینه و latency باید در برابر جایگزین‌های میزبانی‌شده سنجیده شود پیش از هر تصمیم معماری.

بیایید صحبت کنیم!