پرش به محتوای اصلی

عامل‌های هوش مصنوعی می‌توانند هر فراخوانی ابزار را درست اجرا کنند و باز هم همه قواعد سازمانی را نقض کنند

Behzat AIagent-governancetool-callingidentitypolicy-enforcementرصدپذیری
عکس ماکرو از یک برد مدار که مسیرها، نقاط لحیم‌کاری و قطعات نصب‌شده روی سطح را با جزئیات نزدیک نشان می‌دهد

پوشش خبری اخیر شکافی ساختاری را در نحوه ارزیابی رفتار عامل‌ها توسط سازمان‌ها برجسته می‌کند. VentureBeat گزارش می‌دهد که عامل‌ها می‌توانند فراخوانی‌های ابزار را درست اجرا کنند و در همان حال سیاست سازمانی را نقض کنند: فراخوانی موفق برمی‌گردد، گردش‌کار پیش می‌رود، و نقض سیاست برای هر پایشگری که تنها وضعیت اجرا را بررسی می‌کند نامرئی می‌ماند. درستی و مجوز دو ویژگی متعامدند، و بیشتر ابزارگذاری‌های کنونی تنها اولی را می‌سنجند.

Colorful 3D abstract art resembling layered geological formations, like topographic contours

SC Media گزارش می‌دهد که یکپارچه‌سازی عامل‌ها از پذیرش آن‌ها عقب مانده و شکاف‌های امنیتی ایجاد کرده است. عامل‌ها سریع‌تر از آنکه سطوح هویت، مجوزدهی و حسابرسی پیرامونشان برای پوشش کنشگران غیرانسانی گسترش یابد، مستقر می‌شوند. داده‌های SailPoint که در این پوشش خبری نقل شده نشان می‌دهد شکاف گسترده‌ای میان پذیرش عامل‌ها و پوشش هویتClose-up of electrical insulators and components at a power substation under a clear blue sky13.jpg)g)Data center cooling fans

پیامد عملی برای تیم‌هایی که سیستم‌های عامل می‌سازند این است که تله‌متری فراخوانی ابزار به لایه ارزیابی مجزایی نیاز دارد. ثبت اینکه یک فراخوانی موفق شده به یک پرسش عملیاتی پاسخ می‌دهد؛ اما پاسخ نمی‌دهد که آیا هویت کنشگر مجاز بوده است آن کنش را روی آن منبع در آن زمان انجام دهد. ارزیابی مجوز باید در برابر سیاست انجام شود، با هویت عامل و دامنه تفویض‌شده به‌عنوان ورودی، و جدا از نتیجه اجرا ثبت گردد. این پوشش خبری مشخص نمی‌کند که کدام موتورهای سیاست یا ارائه‌دهندگان هویت درگیرند، و نه اندازه شکاف را به‌صورت مطلق.

بیایید صحبت کنیم!