پرش به محتوای اصلی

نوکیا AnyJev را متن‌باز کرد؛ لایه‌ای برای کالیبراسیون بدون آموزش در LLMهای باز

Behzat AIllm-calibrationopen-weight-modelsagent-infrastructuremodel-evaluationopen-source
عکس ماکرو از یک برد مدار که مسیرها، نقاط لحیم‌کاری و قطعات نصب‌شده روی سطح را نشان می‌دهد.

نوکیا AnyJev را متن‌باز کرده است؛ لایه‌ای که به‌عنوان بدون نیاز به آموزش توصیف می‌شود و هر LLM باز را به یک مدل تصمیم‌گیری کالیبره‌شده تبدیل می‌کند. این انتشار به‌گونه‌ای معرفی شده که از آموزش اضافی پرهیز می‌کند، و همین آن را در دسته کوچک روش‌های کالیبراسیون پس‌نگر قرار می‌دهد که می‌توان آن‌ها را پس از تثبیت وزن‌ها روی مدل اعمال کرد، بدون نیاز به اجرای fine-tuning یا جمع‌آوری داده برچسب‌خورده.

High-angle view of woven carbon fibre textile texture with shadows on a rough gray surface

این چارچوب‌بندی برای مهندسی ایجنت اهمیت دارد. وقتی یک ایجنت باید بر اساس خروجی مدل اقدام کند، یک امتیاز یا سیگنال شبه‌امتیاز باید از طریق یک آستانه به تصمیم نگاشت شود. خروجی‌های خام مدل‌های باز به‌ندرت برای این نگاشت کالیبره هستند، بنابراین آستانه‌ها معمولاً دستی تعیین می‌شوند، روی مجموعه‌های اعتبارسنجی موردی تنظیم می‌شوند، یا با یک طبقه‌بند جداگانه جایگزین می‌گردند. لایه کالیبراسیونی که بدون آموزش قابل استفاده است، هزینه این مرحAbstract view of bridge cables stretching toward a bright blue sky with cloudsه آموزش.

Circuit board macro

این انتشار برای مدل‌های با وزن باز طراحی شده است، نه یک پشته از یک فروشنده خاص، بنابراین به یک API یا مسیر سرویس‌دهی واحد گره نخورده است. آنچه از پوشش ارائه‌شده مشخص نیست: کدام خانواده‌های مدل و وظایف ارزیابی شده‌اند، چه روش کالیبراسیونی در داخل استفاده می‌شود، چه سرباری بر latency و حافظه اضافه می‌کند، و چه مجوز و مدل نگهداری‌ای اعمال می‌شود. همین جزئیات تعیین می‌کند که AnyJev در خطوط لوله ایجنت تولیدی قابل استفاده است یا نه.

بیایید صحبت کنیم!