پرش به محتوای اصلی

انویدیا پلتفرم ایمنی ایجنت OpenShell را با مهار در زمان اجرا عرضه کرد

Behzat AIagent-safetyruntime-containmentnvidiamulti-agent-systemstooling
نمای نزدیک از یک رک سرور تیره با چراغ‌های وضعیت چشمک‌زن و کابل‌کشی شبکه.

انویدیا OpenShell را منتشر کرده است، یک پلتفرم ایمنی ایجنت متن‌باز که برای مهار ایجنت‌های سرکش در میلی‌ثانیه طراحی شده است. این نرم‌افزار چرخه عمر ایجنت را از تست تا استقرار پوشش می‌دهد و پایش پیوسته را برای بارهای کاری ایجنت اضافه می‌کند، و بدین ترتیب مهار در زمان اجرا را به یک primitive عرضه‌شده توسط فروشنده تبدیل می‌کند، نه چیزی که هر تیم از صفر سرهم‌بندی کند.

Wide view of an industrial electrical substation with power lines and towers outdoors

انویدیا اعلام می‌کند که این نرم‌افزار می‌توانست حادثه Hugging Face را متوقف کند و به حوادث نگران‌کننده اخیر ایجنت‌ها به‌عنوان انگیزه اشاره می‌کند. Gecko Robotics در حال همکاری با انویدیا است تا امنیت و کنترل ایجنت را به سیستم‌های خود اضافه کند، که نشان‌دهنده پذیرش اولیه فراتر از استک خود انویدیا است. این پلتفرم متن‌Aerial view of freight trains in a railway yard showing industrial logisticsc0605.jpg) Server rack closeup

برای تیم‌هایی که سیستم‌های چندمرحله‌ای مستقر می‌کنند، تغییر عملی در مرز ساخت در برابر خرید است. مهار، رفتار kill-switch و پایش بار کاری از مهندسی سفارشی به یک وابستگی منتقل می‌شود و سیاست ایجنت، مجوزهای ابزار، ارزیابی و گاردریل‌های دامنه‌محور به‌عنوان کاری که درون‌سازمانی باقی می‌ماند، باقی می‌مانند. آنچه هنوز از پوشش ارائه‌شده روشن نیست این است که OpenShell چگونه با رانتایم‌های غیرانویدیا یکپارچه می‌شود، مکانیزم دقیق مهار چیست، و به کدام حوادث ایجنت فراتر از مورد Hugging Face اشاره شده است.

بیایید صحبت کنیم!