پیمانکار دفاعی به یک ایجنت هوش مصنوعی شخصی دسترسی به یک سیستم امن پنتاگون داد

WIRED گزارش داد که یک پیمانکار دفاعی به یک ایجنت هوش مصنوعی شخصی دسترسی به یک سیستم امن پنتاگون داده است. جزئیاتی که برای تیم‌های مهندسی اهمیت دارد نه فروشنده است و نه مدل، بلکه مدل دسترسی است: ایجنتی که به نمایندگی از یک کاربر عمل می‌کند، دامنه دسترسی آن کاربر را به زیرساختی به ارث برده که هیچ دلیلی برای لمس آن نداشت. ایجنت‌های شخصی معمولاً به‌عنوان امتداد یک هویت تأمین می‌شوند، یعنی هر مجوزی که به فرد داده شده برای فرایند نیز در دسترس است.

این حادثه در کنار استدلال MIT Technology Review قرار می‌گیرد که اقدامات ایجنت نیازمند پایش بلادرنگ است، و موضع SentinelOne که تشخیص سنتی endpoint در برابر ایجنت‌های هوش مصنوعی کورکورانه عمل می‌کند. هر دو به یک شکاف اشاره دارند. ابزارهای endpoint فرایندها و باینری‌ها را مشاهده می‌کنند؛ اما یک توالی از فراخوانی‌های API را به‌طور قابل اتکا به ایجنتی که بر اساس یک هدف تفویض‌شده عمل می‌کند نسبت نمی‌دهند. بدون این انتساب، پایش ترافیک مجاز را می‌بیند و مبنای کمی برای علامت‌گذاری نیت دارد.

NIST در پاسخ به این دسته از ریسک‌ها، تدابیر حفاظتی مدیریت هویت و دسترسی برای ایجنت‌ها را پیشنهاد کرده است. جهت عملی، محدود کردن اعتبارنامه‌ها به سیستم‌ها و وظایف به‌جای کاربران است: توکن‌های کوتاه‌عمر، مجوزهای به‌ازای هر ابزار، مرزهای صریح منابع، و یک ردپای حسابرسی که ثبت کند کدام ایجنت، تحت کدام تفویض، چه چیزی را فراخوانی کرده است. آنچه از این پوشش خبری روشن نیست، سیستم مشخص درگیر، مدت دسترسی، و اینکه آیا پایشی این فعالیت را شناسایی کرده است یا نه، است. این شکاف‌ها ارزش پیگیری دارند، زیرا تعیین می‌کنند که آیا این یک خطای پیکربندی بوده یا یک خطای تشخیص.