پرش به محتوای اصلی

LLMjacking با کلیدهای استنتاج سرقت‌شده، ۱ میلیون دلار هزینه ابری هوش مصنوعی ایجاد می‌کند

Behzat AIllmjackingcredential-theftinference-securitycloud-costagent-ops
نمای نزدیک از یک رک سرور با کابل‌های شبکه، LEDهای وضعیت و پنل‌های فلزی شاسی.

بر اساس پوششی که استودیو بررسی کرده است، گوگل گزارش داده حملات LLMjacking به ۱ میلیون دلار هزینه ابری هوش مصنوعی رسیده‌اند. گزارش جداگانه‌ای که در همان پوشش نقل شده، صورتحساب‌هایی تا ۱۰۰٬۰۰۰ دلار در روز را توصیف می‌کند. این حملات بر دسترسی سرقت‌شده هوش مصنوعی سازمانی اجرا می‌شوند، نه بر مدل‌های به‌خطرافتاده؛ بنابراین ریسک در مدیریت اعتبارنامه و حاکمیت endpoint قرار دارد، نه در وزن‌های مدل.

نمای نزدیک از رک‌های سرور روشن در یک مرکز داده، نمایش زیرساخت فناوری مدرن

برای تیم‌هایی که سیستم‌های agent را اداره می‌کنند، این تمایز اهمیت دارد. کلید استنتاج یک دارایی شبکه‌ای و اندازه‌گیری‌شده است: به محض نشت، مهاجم سهمیه، محدودیت‌های نرخ و مسیر خروج داده سازمان را به ارث می‌برد و حادثه ابتدا به‌صورت ناهنجاری در صورتحساب ظاهر می‌شود، نه به‌عنوان هشدار نقض امنیت. بنابراین تشخیص به خطوط پایه هزینه به‌ازای هر کلید، آستانه‌های ناهنجاری در حجم token و توانایی لغو و چرخش اعتبارنامه‌ها بدون استقرار مجدد agentها وابسته است. پوشش مشخص نمی‌کند کدام ارائه‌دهندگان یا انواع کلید درگیر بوده‌اند، هزینه‌ها در چه بازه زمانی انباشته شده‌اند، یا اعتبارنامه‌ها چگونه به دست آمده‌اند؛ این جزئیات از نکات ارائه‌شده روشن نیست.

واکنش عملی این است که اعتبارنامه‌های استنتاج را مانند secretهای production با عمر کوتاه، سهمیه‌های محدود و مسیرهای حسابرسی مستقل behand کرد و تله‌متری هزینه را به همان مسیر هشداردهی لاگ‌های دسترسی متصل کرد. کار evaluation استودیو پیش‌تر هزینه و خروج داده را در کنار کیفیت وظیفه به‌عنوان سیگنال‌های درجه‌یک در نظر می‌گیرد، زیرا agentی که قابل اندازه‌گیری نباشد، قابل دفاع نیست.

بیایید صحبت کنیم!