پرش به محتوای اصلی

Anthropic از پیشرفت در استنتاج اثبات‌پذیر برای مدل‌های زبانی بزرگ خبر می‌دهد

Behzat AIprovable-inferenceagent-safetyllm-evaluationformal-methodsresearch
عکس ماکرو از یک برد مدار که مسیرها، نقاط لحیم‌کاری و قطعات نصب‌شده روی سطح را با جزئیات نزدیک نشان می‌دهد.

بر اساس پوششی که استودیو دنبال می‌کند، Anthropic پژوهشی درباره استنتاج اثبات‌پذیر برای مدل‌های زبانی بزرگ منتشر کرده است. این جهت برای مهندسی agent اهمیت دارد، زیرا یک تعهد اثباتی آرتیفکتی متفاوت از یک evaluation است: کرانه‌ای که از پیش بیان و در برابر مدل بررسی می‌شود، نه امتیازی که پس از واقع محاسبه می‌شود. اگر این برقرار باشد، تضمین‌های agentهای مستقرشده می‌توانند به‌صورت قیدهای قابل‌راستی‌آزمایی نوشته شوند، نه مجموعه‌های آزمون مبتنی بر آستانه.

نمای ماکرو از یک برد مدار الکترونیکی که میکروچیپ‌ها و قطعات را نشان می‌دهد

تصویر هنوز قطعی نیست. مقاله‌ای جداگانه از SUSTech استدلال می‌کند که هیچ الگوریتمی نمی‌تواند تضمین کند agentهای هوش مصنوعی اهداف خود را حفظ می‌کنند، و این سقفی بر آنچه هر لایه صدور گواهی می‌تواند درباره پایبندی به هدف وعده دهد تعیین می‌کند. در کنار هم، این دو نتیجه به شکافی میان ویژگی‌هایی اشاره می‌کنند که ممکن است اثبات‌پذیر شوند و ویژگی‌هایی که در حالت کلی تصمیم‌ناپذیر می‌مانند. تیم‌هایی که تضمین‌های agent را مشخص می‌کنند باید بگویند هر الزام در کدام دسته قرار می‌گیرد.

Anthropic همچنین هشدار داده است که به قابلیت خودبهسازی بازگشتی نزدیک است. استودیو خاطرنشان می‌کند که پوشش موجود مبنای فنی این هشدار، دامنه نتایج استنتاج اثبات‌پذیر، یا کلاس‌های مدل و فرض‌های دخیل را ارائه نمی‌دهد. آنچه روشن است این است که لایه مشخصات برای سیستم‌های agent هم‌زمان به دو جهت کشیده می‌شود: به سوی کرانه‌های صوری، و به سوی پذیرش صریح آنچه نمی‌تواند گواهی شود. استودیو هر دو رشته را به‌عنوان ورودی‌هایی برای نحوه ساختاردهی evaluation و تضمین در استقرارهای agent دنبال می‌کند.

بیایید صحبت کنیم!