پرش به محتوای اصلی

Mandiant: اعتبارنامه‌های ابری سرقت‌شده برای اجرای بارهای کاری LLM با هزینه بیش از ۱۰۰٬۰۰۰ دلار در روز

Behzat AIllm-securitycloud-credentialsagent-costsidentity-controlsinference
نمای نزدیک از رک سرور مرکز دادهٔ ابری با کابل‌کشی و چراغ‌های وضعیت

Mandiant الگویی را که آن را LLMJacking می‌نامد به اعتبارنامه‌های ابری سرقت‌شده‌ای نسبت داده است که برای اجرای بارهای کاری مدل به کار می‌روند، با صورتحساب‌های گزارش‌شده‌ای که به بیش از ۱۰۰٬۰۰۰ دلار در روز می‌رسد. این فعالیت ظرفیت inference را هدف می‌گیرد نه استخراج داده، بنابراین هزینه معمولاً نخستین نشانهٔ قابل مشاهده است نه هشدار نقض امنیتی.

نمای نزدیک از یک رک سرور که سخت‌افزار شبکه و ذخیره‌سازی داده را نشان می‌دهد

برای تیم‌هایی که agent و ازدحام‌های چندعاملی (multi-agent) را اجرا می‌کنند، این موضوع مواجهه با هزینه را به مسئلهٔ هویت و خروجی (egress) بازتعریف می‌کند. وقتی صورتحساب با اعتبارنامهٔ شخص دیگری اجرا می‌شود، هشدارهای بودجه پس از وقوع هزینه می‌رسند و انتساب (attribution) کنترل واقعی می‌شود. این رخداد، بر اساس پوشش ارائه‌شده، مشخص نمی‌کند که اعتبارنامه‌ها چگونه به دست آمده‌اند یا کدام ارائه‌دهندگان تحت تأثیر قرار گرفته‌اند؛ این جزئیات مشخص نشده است.

پیامد عملیاتی این است که تشخیص ناهنجاری هزینه یک شاخص تأخیری است. استودیوهایی که سیستم‌های agent را عرضه می‌کنند باید دامنهٔ هویت ابری، چرخش کلید و پایش egress به‌ازای هر بار کاری را کنترل‌های اصلی بدانند و بتوانند فراخوانی‌های inference را به یک principal مشخص نسبت دهند نه به یک ردیف بودجه در سطح پروژه. ارقام گزارش‌شده مقیاس صورتحساب‌های مشاهده‌شده را توصیف می‌کنند، نه معیاری برای مواجههٔ معمول.

بیایید صحبت کنیم!