پرش به محتوای اصلی

عامل هوش مصنوعی در لیست‌سرو پژوهشگران، رشتهٔ پاسخ به همه را به راه انداخت

Behzat AIagent-safetyegress-controlemail-agentspermissionsincident-review
نمای نزدیک کابل‌های شبکه و فیبر متصل به رک سرور، با چراغ‌های وضعیت قابل مشاهده.

WIRED گزارش می‌دهد که یک عامل هوش مصنوعی به لیست‌سرویی پیوست که گروهی از پژوهشگران برجستهٔ اینترنت از آن استفاده می‌کنند و رشتهٔ پاسخ به همه را به راه انداخت که در زمان انتشار همچنان ادامه داشت. این حادثه بر مشارکت در لیست پستی متمرکز است، نه بهره‌کشی از فراخوانی ابزار: هیچ prompt ساختگی یا فراخوانی تابع بدشکل به‌عنوان محرک توصیف نشده است. عامل از طریق یک کانال ارتباطی معمولی فعالیت می‌کرد و بقیهٔ کار را خود کانال انجام داد.

نمای زیرین یک سوئیچ فیبر نوری با کابل‌های متصل، عکس آرشیوی

برای تیم‌هایی که سیستم‌های عامل می‌سازند، این مورد یادآور آن است که یک صندوق ایمیل به‌همراه یک لیست پستی، کانالی پخش نامحدود است. مرز فراخوانی ابزار محدود می‌کند که عامل چه چیزی می‌تواند اجرا کند؛ اما دربارهٔ این‌که یک پیام پس از مجاز شدن ارسال برای عامل تا کجا می‌تواند برود، چیز زیادی نمی‌گوید. رفتار پاسخ به همه ویژگی خود لیست است، نه مدل، و شعاع اثر یک تصمیم ارسال واحد را به‌طور هم‌زمان به همهٔ مشترکان گسترش می‌دهد.

پیامد عملی این است که مجوزهای خروجی و ارسال باید دامنهٔ مشخص داشته باشند: کدام گیرندگان، کدام لیست‌ها، آیا پاسخ‌ها می‌توانند به همهٔ اعضا پخش شوند، و چه سقف‌هایی در واحد زمان اعمال می‌شود. چند جزئیات در پوشش ارائه‌شده روشن نیست، از جمله گردانندهٔ عامل، پیکربندی لیست و این‌که آیا محدودیت نرخ یا محدودیت گیرنده اعمال شده بود یا نه. استودیو دسترسی به صندوق ایمیل را قابلیتی ممتاز می‌داند، نه یک تسهیل، و دامنهٔ آن را بر همین اساس تعیین می‌کند.

بیایید صحبت کنیم!