پرش به محتوای اصلی
وبلاگ

یادداشت‌هایی از ساخت سیستم‌های ایجنت

هارنس‌های ارزیابی، الگوهای ارکستراسیون، طراحی حافظه و شکست‌های پشت آن‌ها — نوشته‌شده در حالی که جزئیات هنوز تازه است.

نمای نزدیک از مدارها و اتصال‌های هارد دیسک، یک عکس استوک
۲۰ سپتامبر ۲۰۲۶·7 دقیقه مطالعه

کنترل اثبات‌پذیر: انتقال حاکمیت از داشبوردها به ناورداهای اجراشده

رصدپذیری ثبت می‌کند که یک agent چه کرد. حاکمیت نیازمند قیدهایی است که برخی کنش‌ها را صرف‌نظر از تصمیم مدل ناممکن می‌کند.

agent-governancepolicy-enforcementtool-boundaries
نمودار توپولوژی شبکه با گره‌های متصل و مسیرهای شاخه‌دار که روی صفحه‌ای تیره نمایش داده شده است
۲۰ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

ارزیابی ایجنت‌ها بر اساس مسیر، نه پاسخ: یادداشتی درباره طراحی بنچمارک

بنچمارک‌هایی که فقط خروجی نهایی را امتیاز می‌دهند، ایجنت‌هایی را پاداش می‌دهند که از مسیرهای ناایمن یا غیرقابل‌تکرار به پاسخ درست می‌رسند. ارزیابی مسیرمحور این مشکل را برطرف می‌کند.

agent-evaluationbenchmarkingtrajectory-grading
تصویری مینیمال از دستی رباتیک که در حال دراز شدن روی پس‌زمینه سفید است.
۲۰ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

الگوی رئیس‌دفتر: چه زمانی باید agentها را هماهنگ کرد و چه زمانی فقط باید یک اسکریپت نوشت

هماهنگ‌سازی چند-agent تنها زمانی به صرفه است که زیرکارها به context متفاوت، ابزارهای متفاوت یا راستی‌آزمایی مستقل نیاز داشته باشند. در غیر این صورت، این کار یک فراخوانی تابع کندتر است.

multi-agent-systemsارکستراسیونllm-agents
میکروسکوپ آزمایشگاهی با عدسی روشن و پیچ‌های تنظیم دقیق روی یک میز کار
۲۰ سپتامبر ۲۰۲۶·6 دقیقه مطالعه

بودجه‌های اختیار: سطح کنترل گمشده میان یک عامل و ابزارهایش

محدودیت‌های پرامپت جنبهٔ توصیه‌ای دارند. ایمنی واقعی از آنجا می‌آید که هر قابلیت را به‌عنوان یک بودجهٔ اختیار قابل‌مصرف در نظر بگیریم: دامنه، سهمیه، انقضا و گواهی.

agent-safetyauthority-budgetstool-use