پرش به محتوای اصلی

رئیس مایکروسافت: هوش مصنوعی قوانین کمتری از شیر دارد، خواستار قانون الزام‌آور ایمنی شد

Behzat AIai-governanceagent-safetyregulationevaluationpolicy
نمای نزدیک از قفسه سرور مرکز داده با چراغ‌های نشانگر و کابل‌کشی شبکه مرتب.

برد اسمیت، رئیس مایکروسافت، گفت که هوش مصنوعی کمتر از شیر و ماشین لباسشویی تنظیم‌گری شده است و استدلال کرد که وعده‌های داوطلبانه ایمنی هوش مصنوعی کافی نیستند و خواستار قوانین جهانی شد. این اظهارات بزرگ‌ترین فروشنده را رسماً در موضعی قرار می‌دهد که خوداظهاری را جایگزینی ناکافی برای تعهدات قابل اجرا می‌داند.

قفسه سرور با سیم‌های مختلف که دسترسی به یک منبع متمرکز مرکز داده را مدیریت می‌کند

برای تیم‌هایی که سیستم‌های agent می‌سازند، پیامد حاکمیتی مستقیم است. جایی که تعهدات داوطلبانه جایگزین فعلی قوانین ایمنی agent هستند، برنامه‌ای که تنها بر خوداظهاری تکیه می‌کند ریسک غیرقابل‌سنجشی را به همراه دارد. پوشش خبری پنج قانون پیشنهادی ایمنی هوش مصنوعی را گزارش می‌کند و به آزمون‌های ایمنی و کلیدهای خاموش‌کن در بحث گسترده‌تر اشاره دارد؛ محتوای مشخص و وضعیت آن پیشنهادها از مطالب ارائه‌شده روشن نیست.

Behzat AI حاکمیت را به‌عنوان یک سطح مهندسی می‌بیند: بسترهای evaluation برای agentهای ابزارمحور، محدودیت‌های زمان اجرا و مسیرهای خاموش‌سازی، و شواهدی که نشان دهد کنترل‌ها در شرایط شکست پابرجا می‌مانند، نه ادعای وجود آن‌ها. اگر قوانین الزام‌آور بیایند، تیم‌هایی که از قبل شواهد قابل‌آزمون از رفتار agent تولید می‌کنند سریع‌تر از کسانی که بر اظهارات تکیه دارند سازگار خواهند شد. موضع استودیو این است که ادعاهای ایمنی باید مصنوعات قابل بازتولید باشند، نه بیانیه‌های قصد.

بیایید صحبت کنیم!