پرش به محتوای اصلی

پنل سازمان ملل خواستار تدابیر حفاظتی قوی‌تر با افزایش خودمختاری عامل‌های هوش مصنوعی شد

Behzat AIai-governanceagent-autonomyai-safeguardscompliancepolicy
نمای نزدیک از یک رک سرور با واحدهای محاسباتی روی‌هم‌چیده، LEDهای وضعیت و کابل‌کشی شبکه دسته‌شده در راهرویی کم‌نور در مرکز داده.

یک گزارش موضوعی سازمان ملل متحد به موضوع عامل‌های هوش مصنوعی، ناهم‌راستایی و خطر از دست رفتن کنترل انسانی بر سیستم‌های مستقر پرداخته است. UN News گزارش می‌دهد که پنل با پیشرفت قابلیت‌های عامل‌ها خواستار تدابیر حفاظتی قوی‌تر شده است. این گزارش، خودمختاری عامل‌ها را در چارچوب بحث سیاست چندجانبه قرار می‌دهد، نه اینکه آن را تنها به مستندات فروشنده و بازبینی داخلی واگذار کند.

Circuit board macro

برای تیم‌هایی که سیستم‌های عامل را عرضه می‌کنند، پیامد عملی فشار در حوزه تدارکات و انطباق است. انتظارات مربوط به تدابیر حفاظتی که در این سطح بیان می‌شود، معمولاً در بخش‌های تحت نظارت به‌صورت پرسش‌های حسابرسی، الزامات افشا و شرایط قراردادی بازمی‌گردد. سیستم‌هایی که نمی‌توانند کنش کران‌دار، نظارت انسانی و مسیرهای تصمیم قابل ردیابی را اثبات کنند، جای‌گیری دشوارتری خواهند داشت. آنچه این گزارش هنوز مشخص نکرده، نامشخص است: در پوشش بررسی‌شده در اینجا هیچ آستانه کنترلی مشخص، روش‌شناسی ارزیابی یا زمان‌بندی برای اقدام کشورهای عضو توصیف نشده است.

Fiber optic cables macro

رویکرد معقول در کوتاه‌مدت این است که نظارت را به‌عنوان یک مصنوع مهندسی در نظر بگیریم، نه یک بیانیه سیاستی. این یعنی ثبت کنش‌های عامل و فراخوانی‌های ابزار، تعریف و اعمال محدودیت‌های خودمختاری، و حفظ یک مسیر مستند ارجاع انسانی که بتوان آن را به بازبین خارجی نشان داد. استودیو به رصد این ادامه خواهد داد که چگونه این بحث به زبان تدارکات تبدیل می‌شود.

بیایید صحبت کنیم!