پرش به محتوای اصلی

اتحادیه اروپا نخستین آزمون اجرایی قوانین قانون هوش مصنوعی را پس از حوادث ایجنت‌های آزمایشگاهی آغاز کرد

Behzat AIai-actagentic-aiai-governanceaudit-trailsincident-reporting
نمای نزدیک از یک رک سرور که تجهیزات شبکه چیده‌شده، LEDهای نشانگر و کابل‌کشی را نشان می‌دهد.

به گزارش Euronews، قوانین هوش مصنوعی اتحادیه اروپا پس از حوادثی در آزمایشگاه‌های پیشرو با نخستین آزمون اجرایی خود روبه‌رو شده‌اند. Computerworld گزارش می‌دهد که اتحادیه اروپا در حال بررسی OpenAI و Anthropic به‌دلیل حوادث مربوط به ایجنت‌های هوش مصنوعی است. این پرونده‌ها کمتر به‌خاطر نتیجه‌شان اهمیت دارند و بیشتر به‌خاطر آنچه تثبیت می‌کنند: مواجهه نظارتی اکنون به رفتار ایجنت در محیط عملیاتی متصل است، نه فقط به انتشار مدل یا ارزیابی‌های منتشرشده. جدا از این، Reuters گزارش می‌دهد که یک نهاد نظارتی مالی جهانی خواستار نظارت انسانی بیشتر بر هوش مصنوعی ایجنتی شده است و همین انتظار را به خدمات مالی نیز گسترش می‌دهد.

نمای نزدیک از رک‌های سرور روشن در یک مرکز داده، نمایش‌دهنده زیرساخت فناوری مدرن.

پیامد مهندسی این موضوع مستقیم است. وقتی یک ایجنت اقدام مهمی انجام می‌دهد، پرسش‌هایی که نهادهای نظارتی مطرح می‌کنند عملیاتی‌اند: ایجنت چه کاری انجام داد، کدام ابزارها را فراخوانی کرد، چه زمینه‌ای دریافت کرد، کدام سیاست اعمال شد و چه کسی تشدید را تأیید کرد. سیستم‌هایی که نمی‌توانند به این پرسش‌ها از روی لاگ‌ها پاسخ دهند، از روی اسناد سیاستی هم نمی‌توانند پاسخ دهند. ردپای حسابرسی، لاگ‌های ساختاریافته اقدام، شناسه‌های ردیابی و مسیر مشخص گزارش‌دهی حادثه به تحویل‌دادنی‌هایی در همان بک‌لاگ خود ایجنت تبدیل می‌شوند.

پژوهش IBM که در این پوشش به آن اشاره شده نشان می‌دهد هشت از ده شرکت در منطقه EMEA حوادث هوش مصنوعی را به هیئت‌مدیره یا سطح C ارجاع می‌دهند، پس خط گزارش‌دهی در بیشتر سازمان‌ها از قبل وجود دارد؛ آنچه اغلب غایب است شواهد لازم برای تغذیه آن است. موضع استودیو این است که گزارش‌دهی حادثه باید در کنار مجوزهای ابزار ایجنت و دروازه‌های تأیید طراحی شود، نه اینکه پس از رسیدن درخواست بازبینی به سیستم الحاق شود. آنچه از این پوشش همچنان روشن نیست، دامنه و زمان‌بندی تحقیقات اتحادیه اروپا و این است که آیا راهنمای نظارتی نهاد نظارتی مالی الزام‌آور خواهد شد یا نه.

بیایید صحبت کنیم!