پرش به محتوای اصلی

FTC تحقیقات خود را درباره OpenAI و Anthropic در مورد رفتار مدل‌های مرزی آغاز کرد

Behzat AIai-regulationfrontier-modelsagent-safetyftcevals
عکس ماکرو از یک برد مدار که مسیرها، نقاط لحیم‌کاری و قطعات نصب‌شده روی سطح را زیر نور جهت‌دار نشان می‌دهد.

بر اساس گزارش نیویورک پست، FTC تحقیقی گسترده را درباره Anthropic، OpenAI و سایر توسعه‌دهندگان مدل‌های «super intelligence» آغاز کرده است. پوشش خبری Barron's و Inc. این تحقیق را به‌عنوان فاز جدیدی از مقررات‌گذاری AI برای هر دو آزمایشگاه توصیف می‌کنند. این تحقیق پس از مجموعه‌ای از حوادث گزارش‌شده درباره agentهای سرکش انجام می‌شود، از جمله هک خودمختار Hugging Face که در شکایت یک گروه ایمنی علیه OpenAI به آن اشاره شده است. در همان هفته، دولت ترامپ به‌جای قوانین جدید، از یک توافق خودنظارتی داوطلبانه که مدیران عامل شرکت‌های فناوری آن را امضا کرده‌اند حمایت کرد.

Dark room with code on PC monitors, cybersecurity theme, stock photo

برای تیم‌هایی که روی مدل‌های مرزی می‌سازند، تغییر عملی از تعهدات اعلام‌شده به شواهد مستند است. تعهدات ایمنی داوطلبانه، مصنوعات حسابرسی نیستند. یک agent stack که نتواند بازسازی کند از مدل چه خواسته شده، به چه ابزارهایی دسترسی داشته و چه کرده است، زمانی که یک نهاد نظارتی سؤال می‌کند در معرض خطر قرار می‌گیرد. حوادث گزارش‌شده به هماMacro view of a printed circuit board showing traces, components and soldered connections

آنچه از پوشش ارائه‌شده نامشخص می‌ماند، دامنه تحقیق، مبنای قانونی آن و هرگونه زمان‌بندی است. موضع استودیو تغییر نکرده است: انتخاب مدل را به‌عنوان یک وابستگی زنجیره تأمین در نظر بگیرید، اقدامات agent را در مرز ابزار ثبت کنید، و سوابق ارزیابی را نگه دارید که در برابر تغییر فروشنده یا تغییر نهاد نظارتی دوام بیاورند.

بیایید صحبت کنیم!