پرش به محتوای اصلی

گزارش: ۲۶٪ از سازمان‌ها برای مدیریت تعارض‌های agentهای هوش مصنوعی آماده‌اند

Behzat AImulti-agent-systemsagent-governanceaccess-controlenterprise-aiconflict-arbitration
عکس ماکرو از یک برد مدار با قطعات متراکم و مسیرهای فلزی

FutureCIO گزارش می‌دهد که تنها ۲۶٪ از سازمان‌ها خود را برای مدیریت تعارض‌های میان agentهای هوش مصنوعی به‌خوبی آماده می‌دانند. گزارش جداگانه‌ای از Cybersecurity Insiders نشان می‌دهد که ۵۴٪ از شرکت‌ها نمی‌توانند دسترسی agentهای هوش مصنوعی را محدود کنند. این دو یافته در کنار هم الگویی از استقرار را توصیف می‌کنند که در آن، به agentها سریع‌تر از ساخت کنترل‌های پیرامونشان استقلال داده می‌شود.

نمای ماکرو از یک برد مدار الکترونیکی با ریزتراشه‌ها و قطعات

داوری تعارض، دشوارترِ این دو مسئله است. وقتی دو agent روی یک منبع مشترک عمل می‌کنند، اهدافی متناقض دارند، یا از طریق یک orchestrator مشترک escalate می‌شوند، چیزی باید تصمیم بگیرد که کدام اقدام برنده است و شاخه بازنده چگونه rollback شود. بیشتر پشته‌های فعلی این را به‌صورت ضمنی مدیریت می‌کنند: آخرین نوشتن برنده است، prompt orchestrator تصمیم می‌گیرد، یا انسانی فراخوانده می‌شود. هیچ‌یک از این‌ها یک لایه داوری طراحی‌شده نیست، و هیچ‌یک ردپای ممیزی‌ای تولید نمی‌کند که از بازبینی پس از حادثه جان سالم به در ببرد.

کنترل دسترسی شکافِ قابل‌رسیدگی‌تر است، و رقم ۵۴٪ نشان می‌دهد که این شکاف هنوز باز است. اعتبارنامه‌های محدود به دامنه، مرزهای مجوز به‌ازای هر agent و tokenهای کوتاه‌عمر در معماری‌های سرویس متعارف به‌خوبی شناخته شده‌اند، اما چارچوب‌های agent اغلب مجوزهای محیطی گسترده‌ای را از محیط میزبان به ارث می‌برند. برداشت استودیو این است که هر دو یافته به یک لایه گمشده یکسان اشاره می‌کنند: یک مرز خط‌مشی صریح میان agentها، و یک داور قطعی بالای آن‌ها. این پوشش خبری اندازه نمونه، تاریخ نظرسنجی یا تفکیک بخشی را ذکر نمی‌کند، بنابراین این ارقام را باید جهت‌نما دانست نه دقیق.

بیایید صحبت کنیم!