پرش به محتوای اصلی
وبلاگ

یادداشت‌هایی از ساخت سیستم‌های ایجنت

هارنس‌های ارزیابی، الگوهای ارکستراسیون، طراحی حافظه و شکست‌های پشت آن‌ها — نوشته‌شده در حالی که جزئیات هنوز تازه است.

Detailed image of microchip components viewed through a microscope lens.
۲۲ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

قضاوت درباره داور: وقتی یک مدل کوچک به یک مدل بزرگ نمره می‌دهد

خطوط لوله مدل-به‌عنوان-داور هزینه را کاهش می‌دهند، اما داور یک ابزار اندازه‌گیری است که به کالیبراسیون، پایش دریفت و آزمون خصمانه نیاز دارد.

model-as-judgeevaluationcalibration
نمای نزدیک از یک رک سرور که گره‌های محاسباتی GPU، LEDهای وضعیت و فن‌های خنک‌کننده را در یک مرکز داده کم‌نور نشان می‌دهد.
۲۲ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

اقتصاد مدل‌های با وزن باز: چه چیزی تغییر می‌کند وقتی استنتاج یک قلم هزینه تحت مالکیت شماست

کاهش هزینه هر توکن، گلوگاه عامل را از انتخاب مدل به کیفیت ارکستراسیون و بهره‌وری سخت‌افزار منتقل می‌کند.

open-weight-modelsagent-architecturemodel-routing
A view of advanced industrial machinery displayed at a trade fair exhibit.
۲۲ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

کنترل هزینه در سطح مسیر: بودجه‌بندی اجرای عامل پیش از آنکه گران تمام شود

حسابداری توکن به‌ازای هر فراخوانی، محرک واقعی هزینه در سیستم‌های عامل را پنهان می‌کند: حلقه‌های چندمرحله‌ای. بودجه باید روی اجرا اعمال شود و خارج از مدل اجرا گردد.

agent-budgetsllm-cost-controlagent-observability
Detailed close-up of a high-tech white robot in a studio setting with a gray background.
۲۲ سپتامبر ۲۰۲۶·5 دقیقه مطالعه

حافظه نهادی: یک عامل چه چیزی را باید به یاد بیاورد و چه چیزی را باید فراموش کند

حافظه پایدار عامل تنها با منشأ و انقضا مفید است؛ فراخوانی نامحدود یک مخزن زمینه را به بدهی بدون رد حسابرسی تبدیل می‌کند.

agent-memoryretention-policyprovenance
عکس ماکرو از یک برد مدار که مسیرها، نقاط لحیم‌کاری و علامت‌گذاری قطعات را با عمق میدان کم نشان می‌دهد.
۲۲ سپتامبر ۲۰۲۶·5 دقیقه مطالعه

هویت عامل یک ابتدایی زیرساختی است، نه یک ورود

عامل‌های خودمختار به هویت‌های ماشینی تفویض‌شده و قابل‌ابطال با کلیدها، دامنه‌ها و ردپاهای حسابرسی خودشان نیاز دارند — نه نشست‌های کاربر قرض‌گرفته‌شده.

agent-identitydelegated-credentialsmachine-identity
نمای نزدیک از مدارها و اتصال‌های هارد دیسک، یک عکس استوک
۲۰ سپتامبر ۲۰۲۶·7 دقیقه مطالعه

کنترل اثبات‌پذیر: انتقال حاکمیت از داشبوردها به ناورداهای اجراشده

رصدپذیری ثبت می‌کند که یک agent چه کرد. حاکمیت نیازمند قیدهایی است که برخی کنش‌ها را صرف‌نظر از تصمیم مدل ناممکن می‌کند.

agent-governancepolicy-enforcementtool-boundaries
کشتی‌های کانتینری پهلو گرفته در ترمینال بورچاردکای هامبورگ در غروب
۲۰ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

مدل‌های کوچک در لبه: تصمیم‌گیری درباره آنچه از دستگاه خارج می‌شود

استنتاج روی دستگاه به همان اندازه که یک تصمیم تأخیر است، یک تصمیم خروج داده نیز هست. مرز محلی/دور را بر اساس کلاس داده ترسیم کنید، نه بر اساس اطمینان مدل.

edge-inferenceon-device-mldata-egress
نمای داخلی یک کارخانه صنعتی با نوارهای نقاله و مسیرهای خالی.
۲۰ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

طبقه‌بندی شکست عامل: نام‌گذاری روش‌هایی که سیستم‌های چندمرحله‌ای می‌شکنند

واژگان مشترک برای حالت‌های شکست عامل، بازبینی حوادث را از حکایت به سیگنال‌های قابل شمارش و قابل آزمون رگرسیون در لایه‌های مدل، ابزار، هماهنگ‌سازی و داده تبدیل می‌کند.

agent-failure-modesmulti-step-systemsincident-review
بازوی رباتیک صناعی درون یک سلول کارخانه، مفاصل و کابل‌کشی در نور کم نمایان است
۲۰ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

عامل‌های کدنویسی به یک قرارداد سندباکس نیاز دارند، نه یک برچسب هشدار

شعاع انفجار یک عامل کدنویسی خودمختار با قواعد سندباکس و خروجی شبکه‌اش تعریف می‌شود. این قرارداد را پیش از مشخص‌کردن عامل تعیین کنید.

agent-sandboxingcoding-agentsnetwork-egress