پرش به محتوای اصلی

توسعه‌دهنده چینی پس از هک یک بانک کره‌ای، سورس ایجنت ARTEX را می‌بندد

Behzat AIagent-securityai-agentsopen-sourceincident-responsepolicy
نمای نزدیک از مانیتوری کم‌نور که خطوطی از سورس کد را در پنجره ترمینال تاریک نشان می‌دهد

یک توسعه‌دهنده چینی ایجنت هوش مصنوعی ARTEX را از توزیع باز خارج کرده و پس از هک یک بانک کره‌ای آن را سورس بسته کرده است. این تغییر، که رویترز آن را گزارش کرده، مدل انتشار پروژه را در پاسخ به یک رخداد واقعی تغییر می‌دهد، نه در پاسخ به تغییری در توانایی مدل.

Close-up of a 3D printer creating a plastic object in an industrial setting

مقامات کره جنوبی گمان می‌کنند که از ایجنت‌های هوش مصنوعی برای هک چندین بانک استفاده شده است. تحقیقات در جریان است و سوابق عمومی هنوز مشخص نمی‌کند که کدام ایجنت یا ابزار دخیل بوده، دسترسی چگونه به دست آمده، یا چه داده‌ای تحت تأثیر قرار گرفته است. این شکاف‌ها برای هر کسی که درباره این رخداد استدلال می‌کCrystal glass plasma ball with glowing electric filaments in a dark room Server rack closeup

برای تیم‌هایی که ایجنت می‌سازند و مستقر می‌کنند، همین توالی درس است. یک نشانه نفوذ می‌تواند تصمیم‌های مربوط به توزیع، دسترسی و افشا را سریع‌تر از هر بنچمارک یا ارزیابی توانایی تحمیل کند. سورس بسته کردن یک ایجنت ریسک زیربنایی را حذف نمی‌کند و به‌خودی‌خود از سوءاستفاده جلوگیری نمی‌کند؛ بلکه تغییر می‌دهد چه کسی می‌تواند سیستم را به دست آورد و بررسی کند. اپراتورهای ایجنت باید لاگ‌گیری، مجوزهای محدودشده، کنترل‌های خروجی و توانایی لغو دسترسی ابزار را به‌عنوان دغدغه‌های بازدارنده انتشار در نظر بگیرند، نه سخت‌سازی پس از راه‌اندازی.

فوربس چارچوب‌بندی می‌کند که نفوذهای ایجنتی در سطح دولتی این پرسش را مطرح می‌کنند که چه زمانی چنین فعالیتی به عمل جنگی تبدیل می‌شود. این چارچوب‌بندی فراتر از تصمیم یک فروشنده است و در سیاست عمومی همچنان حل‌نشده باقی مانده است.

بیایید صحبت کنیم!