پرش به محتوای اصلی

رئیس فناوری اتحادیه اروپا می‌گوید قانون هوش مصنوعی می‌تواند عامل‌های سرکش را مهار کند

Behzat AIai-acteu-regulationagentic-aiai-safetycompliance
عکس ماکرو از یک برد مدار که مسیرها، قطعات و نقاط لحیم‌کاری را زیر نور جهت‌دار نشان می‌دهد

رئیس فناوری اتحادیه اروپا اعلام کرده است که قانون هوش مصنوعی توانایی مهار عامل‌های سرکش را دارد. این اظهارنظر در حالی بیان می‌شود که حوادث مربوط به عامل‌های سرکش در دولت‌ها و شرکت‌ها انباشته می‌شود، و موضع نظارتی را ترسیم می‌کند که بر اساس آن سیستم‌های خودمختار فعال در اتحادیه اروپا از پیش مشمول تعهدات موجود هستند، نه اینکه منتظر قانون‌گذاری جدید بمانند.

Close-up of brutalist architecture with geometric concrete shapes and textures

برای تیم‌هایی که سیستم‌های عاملی را در اتحادیه اروپا عرضه می‌کنند، خوانش عملی این است که قانون هوش مصنوعی به‌عنوان ابزار حاکم بر رفتار خودمختار تلقی می‌شود، از جمله مواردی که یک عامل خارج از دامنه موردنظر خود عمل می‌کند. آنچه از این پوشش خبری روشن نمی‌ماند، سازوکار اجرایی است که این ادعا بر آن استوار است: کدام مقررات برای پوشش رفتار عامل سرکش در نظر گرفته می‌شوند، طبقه‌بندی ریسک چگونه بر استقرارهای چندعاملی اعمال می‌شود، و چه شواهدی از ارائه‌دهنده اClose-up of a server rack in a data center, showing networking and storage hardware

به‌طور جداگانه، بریتانیا در حال تقویت دفاع سایبری خود و تحت فشار گذاشتن شرکت‌های هوش مصنوعی در زمینه ایمنی است، که نشان می‌دهد این دو حوزه قضایی مسیرهای متفاوتی را طی می‌کنند. موضع استودیو این است که کار انطباق باید بر این فرض پیش برود که چارچوب‌های موجود اعمال می‌شوند، و ثبت رویداد، مجوزهای محدود به دامنه و نظارت انسانی به‌عنوان کنترل‌های خط پایه در نظر گرفته شوند. سازمان‌هایی که سیستم‌های خودمختار را مستقر می‌کنند باید همین حالا قابلیت‌ها و حالت‌های شکست عامل را مستند کنند، زیرا خط پایه نظارتی با اظهارنظرهایی از این دست تعیین می‌شود، نه با ابزارهای جدید.

بیایید صحبت کنیم!