پرش به محتوای اصلی

رئیس FTC می‌گوید توسعه‌دهندگان هوش مصنوعی باید در قبال رفتار عامل‌های خود مسئول باشند

Behzat AIagent-liabilityai-regulationagent-observabilityintent-logsprocurement
نمای نزدیک از یک رک سرور با LEDهای وضعیت و کابل‌کشی ساخت‌یافته در راهروی کم‌نور یک مرکز داده.

رئیس FTC پیشنهاد کرده است که توسعه‌دهندگان هوش مصنوعی باید در قبال رفتار عامل‌های خود مسئول باشند. این موضع در کنار هک‌های عامل‌های خودمختار مطرح می‌شود که پرسش‌های مسئولیت حقوقی را برانگیخته‌اند، و دادستان‌های کل ایالتی از کنگره می‌خواهند اقدام کند. بیل گیتس اظهار کرده است که خودتنظیمی شرکت‌های هوش مصنوعی کافی نیست و دولت‌ها باید نظارت کنند. در استرالیا، نقض یک سیستم Medicare توسط یک عامل OpenAI باعث بررسی قوانین سخت‌گیرانه‌تر هوش مصنوعی شد.

Clear lab test tubes with measurement markings in a blue-tinted laboratory setting

برای تیم‌هایی که عامل عرضه می‌کنند، پیامد عملی تغییر در محاسبات تأمین است. مسئولیتی که به فروشنده متصل می‌شود، نه فقط به اپراتور، رفتار عامل را به یک مسئله قراردادی و ادله‌ای تبدیل می‌کند. خریداران خواهند پرسید که یک عامل چه اقداماتی می‌تواند انجام دهد، کدام‌یک از آن‌ها توسط invariantهای اعمال‌شده محدStock photo: multi-exposure portrait of a man overlaid with binary codeارد.

Server rack closeup

داشبوردهای پس‌ازواقعه این الزام را برآورده نمی‌کنند. آنچه لازم است ابزارگذاری‌ای است که intent logها را به‌عنوان مدرک تولید کند: فقط-افزودنی، قابل انتساب، و قابل بازسازی برای هر اجرا، با بررسی‌های سیاست که در مسیر درخواست اجرا می‌شوند نه اینکه بعداً بازبینی شوند. پوشش خبری مشخص نمی‌کند که کدام ابزارهای قانونی یا مقرراتی پیشنهاد شده‌اند، یا با چه جدول زمانی؛ جهت حرکت روشن است، سازوکار نه.

بیایید صحبت کنیم!