پرش به محتوای اصلی

قانون‌گذاران طرح واگذاری اداره شرکت‌های آمریکایی به عامل‌های هوش مصنوعی را به چالش می‌کشند

Behzat AIagent-governanceai-regulationmulti-agent-systemscorporate-lawagentic-finance
عکس ماکرو از یک برد مدار که مسیرهای متراکم، نقاط لحیم‌کاری و قطعات نصب‌شده روی سطح را نشان می‌دهد

بر اساس گزارش فایننشال تایمز، قانون‌گذاران طرحی را که به عامل‌های هوش مصنوعی اجازه می‌دهد شرکت‌های آمریکایی را اداره کنند به چالش کشیده‌اند. این مناقشه بر این پرسش متمرکز است که آیا عامل‌ها می‌توانند به‌طور کلی اختیار تصمیم‌گیری شرکتی داشته باشند — پرسشی که بالادست بیشتر کارهای طراحی عامل در حال حاضر قرار دارد.

Hungarian Parliament Building in Budapest, an ornate landmark on the riverbank

اهمیت این موضوع ساختاری است، نه رویه‌ای. اگر به عامل‌ها نوعی شخصیت حقوقی شرکتی اعطا شود، حاکمیت عامل از سیاست داخلی — system promptها، مجوزهای ابزار، دروازه‌های تأیید، قواعد تشدید — به قید قانونی منتقل می‌شود. آنگاه اینکه یک تصمیم خودمختار از نظر قانونی مجاز به چه چیزی است، توسط قانون تعریف می‌شود، نه توسط سازمان مستقرکننده. معماری‌های عاملی که حول نقاط بازرسی اختیاری human-in-the-loop ساخته شده‌اند باید آن نقاط بازرسی را بر الزامات قانونی ثابت نگاشت کنند.

به‌طور جداگانه، گزارش شده است که FCA در حال تدوین مقررات مالی عامل‌محور است، در حالی که هوش مصنوعی بازارهای بریتانیا را دگرگون می‌کند و همین پرسش را به خدمات مالی گسترش می‌دهد. پرونده ثبت‌شده Anthropic نیز مقررات به‌طور فزاینده محدودکننده هوش مصنوعی را به‌عنوان یک ریسک تجاری علامت‌گذاری می‌کند. در مجموع، این سه نشانه به یک جهت اشاره می‌کنند: حاکمیت عامل از انتخاب مهندسی به سطح انطباق مقرراتی در حال حرکت است. آنچه از این پوشش خبری روشن نیست، زمان‌بندی، دامنه و سازوکار قانونی هر پیشنهاد آمریکایی است، و اینکه آیا اختیار شرکتی برای عامل‌ها اعطا می‌شود، تفویض می‌شود یا صراحتاً ممنوع می‌گردد. استودیوهایی که سیستم‌های عاملی را عرضه می‌کنند باید از همین حالا مرز میان سیاست داخلی و قید قانونی را به‌عنوان یک متغیر طراحی در نظر بگیرند.

برای تیم‌هایی که سیستم‌های چندعاملی می‌سازند، پیامد عملی این است که اختیار تصمیم باید صریح، ثبت‌شده و قابل تفکیک از استدلال عامل باشد، تا تغییر در تعریف قانونی نیازمند بازطراحی معماری سیستم نباشد.

بیایید صحبت کنیم!