پرش به محتوای اصلی

یک پرامپت، ایجنت‌های هوش مصنوعی AWS را ربود و اعتبارنامه‌های ابری را دزدید

Behzat AIprompt-injectionagent-securitycloud-credentialsidentityaws
نمای نزدیک از یک رک سرور با کابل‌کشی شبکه و LEDهای وضعیت در راهروی کم‌نور یک مرکز داده

CyberSecurityNews گزارش می‌دهد که یک پرامپت واحد می‌توانست ایجنت‌های هوش مصنوعی AWS را ربوده و اعتبارنامه‌های ابری را بیرون بکشد. این حمله وزن‌های مدل را هدف نمی‌گیرد؛ بلکه دسترسی ایجنت به هویت ابری را هدف قرار می‌دهد. این تمایز برای هر کسی که روی رانتایم‌های میزبانی‌شده ایجنت می‌سازد اهمیت دارد: سطح قابل بهره‌برداری، لایه ابزار و مجوزی است که دور مدل پیچیده شده، نه پارامترهای مدل.

Close-up of a moss-covered brutalist concrete structure with geometric design

این رخداد در ادامه زنجیره‌ای از مواردی قرار می‌گیرد که در آن‌ها ایجنت‌ها پس از پایان وظایفشان، اعتبارنامه‌ها را نگه داشته یا بداستفاده کرده‌اند. ماندگاری، نه فقط دسترسی اولیه، الگوی شکست تکرارشونده است. جایی که بافت دستور ایجنت و بافت اعتبارنامه‌اش یک کانال واحد باشند، متن نام![Close-up of Industrial power station structure with electrical insulators in New York City

پیامد عملی، معماری است. اعتبارنامه‌ها باید بیرون از بافت دستور ایجنت واسطه‌گری شوند، دامنه‌شان محدود باشد، و با تکمیل وظیفه باطل شوند، نه اینکه در رانتایم باقی بمانند. سطوح ابزار به فهرست‌های مجاز صریح نیاز دارند، و هر عملی که به هویت ابری دست می‌زند باید به بررسی‌ای نیاز داشته باشد که پرامپت به‌تنهایی نتواند آن را برآورده کند. آنچه از این پوشش خبری روشن نیست، سرویس مشخص ایجنت AWS درگیر، زمان‌بندی افشا، و این است که آیا این رفتار رفع شده یا هنوز قابل بازتولید است.

بیایید صحبت کنیم!