پرش به محتوای اصلی

OpenAI، Anthropic، Meta و Google در توافقی جدید از تضمین ایمنی هوش مصنوعی امتناع کردند

Behzat AIai-safetyai-regulationagentic-aillm-agentsgovernance
عکس ماکرو از یک برد مدار که مسیرها، نقاط لحیم‌کاری و قطعات نصب‌شده روی سطح را زیر نور یکنواخت نشان می‌دهد.

بر اساس پوشش خبری این توافق، تعهد مشترک چهار آزمایشگاه پیشرو — OpenAI، Anthropic، Meta و Google — از ارائه تضمین ایمنی هوش مصنوعی فراتر نمی‌رود. این نتیجه به‌عنوان خودتنظیمی داوطلبانه و نه تضمین الزام‌آور توصیف شده است. این توافق همزمان با درخواست‌های تازه برای مقررات فدرال هوش مصنوعی و ممیزی‌های مستقل مطرح می‌شود.

Close-up of three alkaline batteries on a white surface

برای تیم‌هایی که agentهای LLM و ازدحام‌های چند-agent می‌سازند، پیامد عملی نبود یک خط پایه قابل اجراست. تعهدات داوطلبانه کف ایمنی مشترکی ایجاد نمی‌کنند که سازندگان agent بتوانند هنگام تعیین سطوح خودمختاری، مجوزهای ابزار، مسیرهای تشدید یا مرزهای مسئولیت به آن استناد کنند. بنابراین هر استقرار باید آستانه‌ها، شواهد و دروازه‌های بازبینی خود را تعریف کند Close-up of a rusty, corroded metal plate with a textured surfacercuit-board-macro-1cdd9e-a76be9.jpg)

آنچه از این پوشش خبری روشن نیست: دامنه مشخص تعهد، اینکه آیا سازوکار ممیزی یا گزارش‌دهی همراه آن هست یا نه، و اینکه امضاکنندگان قصد دارند عدم‌پایبندی را چگونه مدیریت کنند. تا زمانی که این جزئیات منتشر نشود، استودیو ادعاهای ایمنی آزمایشگاه‌های پیشرو را به‌عنوان ورودی‌هایی برای ارزیابی در نظر می‌گیرد و نه تضمین، و به ساخت سیستم‌های agent بر پایه معیارهای داخلی صریح و قابل‌آزمون ادامه می‌دهد — شامل محدودیت‌های استفاده از ابزار، نقاط بازرسی human-in-the-loop و مهار خطا — تا خودمختاری و پاسخ‌گویی در سطح سیستم تعریف شوند، نه اینکه از تضمین‌های فروشنده فرض گرفته شوند.

بیایید صحبت کنیم!