پرش به محتوای اصلی

ابزارهای ربات‌یاب در آزمون تنها ۳٫۱٪ تا ۱۴٫۸٪ از ایجنت‌های هوش مصنوعی پنهان‌شده را شناسایی کردند

Behzat AIagent-detectionaccess-controlbot-detectionagent-identitysecurity
صفحه‌ای که جریان‌های ترافیک شبکه و نمودارهای تحلیل بسته را در رابطی تیره نشان می‌دهد

آزمون Resemble AI نشان داد ابزارهای ربات‌یاب بین ۳٫۱٪ تا ۱۴٫۸٪ از ایجنت‌های هوش مصنوعی پنهان‌شده را شناسایی کردند. در طول آزمون، ایجنت‌ها خود را ترافیک معمولی مرورگر معرفی می‌کردند نه اینکه هویت خود را اعلام کنند، و پوشش تشخیص در میان ابزارهای آزمون‌شده چندین برابر تفاوت داشت. این پراکندگی به اندازهٔ ارقام مطلق اهمیت دارد: حتی قوی‌ترین نتیجه در این بازه، اکثریت بزرگ ایجنت‌های پنهان‌شده را طبقه‌بندی‌نشده باقی می‌گذارد.

زنی در شب پشت چند نمایشگر رایانه، متمرکز بر کارهایش

برای تیم‌هایی که سیستم‌های ایجنت می‌سازند، پیامد عملی این است که طبقه‌بندی ترافیک نمی‌تواند به‌عنوان دروازهٔ کنترل دسترسی عمل کند. لایهٔ تشخیصی که بیشتر ایجنت‌های پنهان‌شده را از دست می‌دهد، در بهترین حالت یک سیگنال پایش است؛ تلقی کردن آن به‌عنوان مرز مجوزدهی یعنی تصمیم‌های دسترسی بر حدس احتمالاتی دربارهٔ هویت فراخوان تکیه می‌کنند. جایی که ایجنت باید روی منابع محافظت‌شده عمل کند، تصمیم باید به principal منتقل شود: هویت احرازشده، اعتبارنامه‌های محدود به دامنه و سیاست مبتنی بر هر principal که در خود منبع ارزیابی می‌شود، مستقل از اینکه ترافیک چه شکلی دارد.

استودیو این را یک محدودیت طراحی می‌داند نه شکافی در ابزارها که باید منتظر رفع آن ماند. معماری‌های ایجنت باید فرض کنند که طبقه‌بندی به‌صورت fail-open شکست می‌خورد و اجرای سیاست را جایی قرار دهند که هویت از پیش شناخته شده است. آنچه این پوشش مشخص نمی‌کند این است که ابزارهای آزمون‌شده در برابر ایجنت‌هایی که تلاشی برای پنهان‌سازی نمی‌کنند چگونه عمل می‌کنند، یا نرخ‌ها با تغییر پیکربندی و حجم ترافیک چگونه تغییر می‌کنند؛ گزارش ارائه‌شده تنها یک بازهٔ آزمون واحد می‌دهد، نه یک بنچمارک در شرایط مختلف استقرار. پاسخ به این پرسش‌ها پیش از اتصال هر سیگنال تشخیصی به موتور سیاست ارزشمند است.

بیایید صحبت کنیم!