Goodfire آنچه را که «از درون به بیرون» مینامد معرفی کرده است؛ رویکردی برای شناسایی ایجنتهای سرکش هوش مصنوعی که به گفته این شرکت با کسری از هزینه روشهای موجود کار میکند، بر اساس گزارش TechCrunch. این معرفی هدفش تیمهایی است که ایجنتهای مستقرشده را اجرا میکنند، جایی که نظارت باید پس از انتشار ادامه یابد و نه اینکه در مرحله ارزیابی متوقف شود.

تمایز فنی در این است که مانیتور از کجا میخواند. مانیتورینگ فقط خروجی آنچه را که ایجنت منتشر میکند بررسی میکند و از همان سطح، قصد را استنتاج میکند. مانیتورینگ «از درون به بیرون» در عوض وضعیت داخلی ایجنت را در حین اجرا بررسی میکند. برای پشتههای ایجنت، این هم پوشش و هم هزینه را جابهجا میکند: سیگنالهای داخلی ممکن است واگرایی را زودتر آشکار کنند، در حالی که پروفایل هزینه بازرسی پیوسته تغییر می
Goodfire هزینه شناسایی را بهعنوان محدودیت اصلی مانیتورینگ پیوسته ایجنت معرفی میکند. همین چارچوببندی، ادعای محتوایی قابل بررسی است. پوشش خبری مشخص نمیکند کدام سیگنالهای داخلی خوانده میشوند، آستانههای شناسایی چگونه تنظیم میشوند، مانیتورها چه تأخیری اضافه میکنند، یا نرخ مثبت کاذب در مقایسه با خطوط پایه فقط خروجی چگونه است. هیچ ارزیابی مستقل یا رقم بنچمارکی ارائه نشده است. تا زمانی که این جزئیات در دسترس نباشند، پرسش عملی برای تیمها این است که آیا مانیتورینگ وضعیت داخلی هزینه کل نظارت پایدار را کاهش میدهد بدون آنکه حالتهای شکست جدیدی در خود لایه مانیتورینگ وارد کند.
