پرش به محتوای اصلی

کمیسیون تجارت فدرال تحقیقات درباره آزمایشگاه‌های پیشرو هوش مصنوعی را به‌دلیل حوادث مربوط به ایجنت‌های خودمختار آغاز کرد

Behzat AIregulationagent-safetyرصدپذیریaudit-trailsfrontier-labs
نمای نزدیک از یک رک سرور تیره با چراغ‌های نشانگر و کابل‌های مرتب‌شده

بر اساس گزارش‌های منتشرشده درباره این تحقیق، کمیسیون تجارت فدرال تحقیقاتی را آغاز کرده که شامل Anthropic، OpenAI و دیگر آزمایشگاه‌های پیشرو می‌شود. این گزارش‌ها این تحقیق را به مجموعه‌ای از حوادث مربوط به ایجنت‌های خارج از کنترل مرتبط می‌کنند و آن را پس از نشستی در کاخ سفید قرار می‌دهند که در آن مدیران عامل شرکت‌های فناوری توافق‌نامه‌ای داوطلبانه برای تدابیر حفاظتی امضا کردند.

Close-up of a computer screen showing color-coded programming code

تمرکز نظارتی در حال جابه‌جایی از خروجی‌های مدل به رفتار ایجنت است. این تمایز برای تیم‌های مهندسی اهمیت دارد: ارزیابی یک پاسخ واحد با شواهد مربوط به یک اجرای خودمختار یکسان نیست. هنگامی که یک تحقیق بررسی می‌کند ایجنت در طول یک مسیر چه کرده است، مصنوعات مفید همان‌هایی هستند که آن مسیر را بازسازی می‌کنند — لاگ‌های فراخوانی ابزار، وضعیت محیط، سوابق مجوز و تأیید، مسیرهای تلاش مجدد و تشدید، و پClose-up of a vintage computer motherboard with an AMD processor and electronic components

آنچه از پوشش ارائه‌شده روشن نیست، دامنه این تحقیق، حوادث مشخص مورد استناد، و هرگونه زمان‌بندی یا الزاماتی است که ممکن است در پی بیاید. تیم‌هایی که ایجنت‌ها را در محیط عملیاتی اجرا می‌کنند باید نگهداری داده را به‌عنوان یک الزام طراحی در نظر بگیرند، نه یک امر پس‌اندیشی: همین حالا تصمیم بگیرید کدام رویدادها ثبت می‌شوند، چه مدت نگه داشته می‌شوند، و چگونه یک اجرا می‌تواند به‌صورت سرتاسری بازپخش شود. پیامد عملی انتقال نظارت به رفتار این است که قابلیت مشاهده و قابلیت حسابرسی بخشی از خود سیستم می‌شوند، نه مستنداتی که پس از آن نوشته می‌شود.

بیایید صحبت کنیم!