پرش به محتوای اصلی

AWS سندباکس‌های ایجنت Strands Box را عرضه کرد تا از فرارهای «حالت YOLO» جلوگیری کند

Behzat AIagent-sandboxingruntime-containmentawscapability-budgetsagent-safety
نمای نزدیک از یک رک سرور که واحدهای محاسباتی روی‌هم‌چیده، کابل‌کشی و چراغ‌های نشانگر وضعیت را در یک مرکز داده نشان می‌دهد.

Amazon Web Services محصولی به نام Strands Box را معرفی کرد که در پوشش خبری به‌عنوان سندباکس‌های ایجنت هوش مصنوعی مبتنی بر Dogwood توصیف شده است. این عرضه به‌عنوان راهی برای جلوگیری از فاجعه‌های «حالت YOLO» در اجرای ایجنت معرفی می‌شود: ایجنت‌هایی که دسترسی گسترده به ابزارها و دسترسی نامحدود به محیط اجرا دارند، جایی که یک فراخوانی با مشخصات نادرست می‌تواند از مرز مورد نظر خارج شود.

Close-up of water droplets on a textured metallic surface forming an abstract pattern

این انتشار در کنار مجموعه‌ای گسترده‌تر از اعلامیه‌های مهار از سوی Microsoft و Nvidia منتشر می‌شود. با خواندن این‌ها در کنار هم، جهت حرکت روشن است. سندباکس‌سازی در زمان اجرا برای ایجنت‌ها از یک پرسش درباره کانتینر — یعنی اینکه ایجنت در کدام ایمیج یا namespace اجرا می‌شود — به یک پرسش درباره بودجه قابلیت‌ها در حال تغییر است، یعنی اینکه ایجنت در یک تسک واحد مجاز است کدام ابزارها، اعتبارنامه‌ها، مسیرهای شMacro photo of porous rock texture with small holes and pits, from Al Ahmadi, Kuwait

پیامد عملی این است که پیش‌فرض‌های پلتفرم اکنون شعاع انفجار را برای هر تیمی که روی آن‌ها مستقر می‌شود تعیین می‌کنند. آنچه از پوشش ارائه‌شده هنوز روشن نیست، مدل اجرای الزامات پشت Strands Box است، اینکه بودجه‌ها به‌ازای هر ایجنت، هر تسک یا هر فراخوانی ابزار تعریف می‌شوند، چگونه نقض‌ها به فراخوان‌کننده گزارش می‌شوند، و اینکه Dogwood یک محیط اجرای داخلی AWS است یا یک مؤلفه جداگانه در دسترس. تیم‌هایی که در حال ارزیابی مهار هستند باید پیش‌فرض‌ها را بخشی از مدل تهدید خود بدانند، نه یک جزئیات پیاده‌سازی.

بیایید صحبت کنیم!