پرش به محتوای اصلی

آسیب‌پذیری Salesbleed عامل‌های Salesforce را به رله‌های فیشینگ Slack تبدیل می‌کند

Behzat AIagent-securitypermission-scopesalesforceslackphishing
عکس ماکرو از یک برد مدار که مسیرها، نقاط لحیم‌کاری و قطعات نصب‌شده روی سطح را با عمق میدان کم نشان می‌دهد.

Dark Reading تکنیکی را گزارش کرده است که آن را Salesbleed می‌نامد و از agentهای Salesforce سوءاستفاده می‌کند. بر اساس آن گزارش، این آسیب‌پذیری اجازه می‌دهد پیام‌های فیشینگ از طریق Slack ارسال شوند و یک دستیار داخلی را به رله‌ای برای محتوای مخرب تبدیل کنند. مکانیزم گزارش‌شده قابل‌توجه است زیرا به‌جای یک ضعف در سطح prompt، از مجوزهای agent سوءاستفاده می‌کند؛ یعنی خطا در دامنه اقدام اعطاشده به agent قرار دارد، نه در نحوه پردازش دستورات توسط مدل.

Welder working in a dimly lit workshop with sparks flying, stock photo

برای تیم‌هایی که سیستم‌های agent می‌سازند یا اداره می‌کنند، این مورد یک ویژگی ساختاری سطوح ابزار را نشان می‌دهد: یک agent اعتماد پلتفرمی را که در آن قرار دارد به ارث می‌برد. وقتی یک agent دامنه اقدام بیش‌ازحد گسترده‌ای داشته باشد، آن اعتماد می‌تواند صرف مسیرهای ارسالی شود که کاربران پلتفرم از قبل می‌پذیرند، مانند پیام‌رسانی فضای کاری. نتیجه کانالی است که داخلی به نظر می‌رسدAerial night view of İzmir skyline with illuminated skyscrapers and city lights

این گزارش نسخه‌های آسیب‌پذیر Salesforce یا Slack، پیکربندی مجوزهای لازم، یا اینکه این تکنیک در محیط عملیاتی مشاهده شده است یا نه را مشخص نمی‌کند. این جزئیات از گزارش ارائه‌شده روشن نیست. آنچه قابل‌راستی‌آزمایی است، کلاس مسئله است: طراحی مجوز، نه طراحی prompt، کنترل تعیین‌کننده‌ای است که مشخص می‌کند آیا یک agent می‌تواند به‌عنوان مکانیزم ارسال بازاستفاده شود یا نه.

بیایید صحبت کنیم!