Perplexity یک ابزار امنیت هوش مصنوعی را به‌صورت متن‌باز منتشر کرده است و چندین رسانه گزارش داده‌اند که این ابزار به‌جای نگه‌داشتن به‌عنوان یک محصول اختصاصی، به‌رایگان در اختیار گذاشته خواهد شد. این ابزار به‌عنوان ابزاری برای مهار عامل‌های هوش مصنوعی توصیف شده است — یعنی محدودکردن آنچه یک عامل در حین اجرا می‌تواند انجام دهد، نه فقط فیلترکردن ورودی‌ها و خروجی‌های آن در مرز مدل.
این انتشار از الگوی گسترده‌تری پیروی می‌کند که در آن مهار به لایه زمان اجرا منتقل می‌شود، در کنار تلاش‌های سندباکس‌سازی سایر فروشندگان. برای تیم‌هایی که سیستم‌های عامل می‌سازند، اهمیت عملی این موضوع قابلیت بازرسی است: یک مؤلفه مهار متن‌باز را می‌توان مستقیماً خواند، آزمود و درباره‌اش استدلال کرد، به‌جای اینکه به‌عنوان یک صفحه کنترل مبهم رفتار شود که حالت‌های شکستش فقط در محیط عملیاتی قابل مشاهده است. این موضوع برای کار ارزیابی اهمیت دارد، جایی که مرزهای پیرامون یک عامل بخشی از چیزی است که باید سنجیده شود.
آنچه از این پوشش خبری همچنان نامشخص می‌ماند، دامنه این ابزار، زمان‌های اجرای پشتیبانی‌شده و نحوه برخورد آن با جریان‌های کاری چندعاملی یا فراخوانی ابزار است. خود اعلامیه هیچ معیار سنجش، تضمین یا مدل حاکمیتی را مشخص نمی‌کند و گزارش‌ها نیز مجوز یا زمان‌بندی انتشار را تعیین نمی‌کنند. تیم‌هایی که آن را ارزیابی می‌کنند باید مخزن را به‌عنوان منبع حقیقت در نظر بگیرند و مرزهای اجرایی را پیش از اتکا به آن‌ها خودشان راستی‌آزمایی کنند.
منابع: