پرش به محتوای اصلی

Anthropic سیستم FlashProve را برای تأیید هویت و خروجی مدل عرضه می‌کند

Behzat AImodel-verificationprovenanceagent-stacksopen-sourceattestation
عکس ماکرو از یک تراشه رمزنگاری روی یک برد مدار با مسیرهای فلزی ظریف و نشانه‌های حکاکی‌شده.

بر اساس پوشش خبری این اعلام، Anthropic در حال کار روی FlashProve است، یک سیستم متن‌باز که هدف آن تأیید خروجی مدل‌های هوش مصنوعی است. همان پوشش خبری گزارش می‌دهد که Anthropic پیشرفت‌هایی در زمینه استنتاج اثبات‌پذیر برای مدل‌های زبانی بزرگ منتشر کرده است. این دو در کنار هم به یک لایه تأیید اشاره دارند که میان مدل و سیستم‌های مصرف‌کننده خروجی آن قرار می‌گیرد.

نمای نزدیک از بیت‌کوین‌های طلایی که روی صفحه‌کلید لپ‌تاپ قرار گرفته‌اند، یک عکس استوک درباره ارز دیجیتال

برای تیم‌هایی که استک‌های agent اجرا می‌کنند، یک primitive تأیید، پرسش‌هایی را که می‌توان در زمان خرید و در زمان اجرا مطرح کرد تغییر می‌دهد. ادعاهای مربوط به provenance به چیزی تبدیل می‌شود که خریدار می‌تواند آن را بیازماید نه اینکه بر اساس مستندات بپذیرد، و attestation می‌تواند از کاغذبازی زمان استقرار به بررسی هر خروجی درون یک pipeline منتقل شود. این موضوع بیشترین اهمیت را جایی دارد که agentها ابزارها را فراخوانی می‌کنند، زنجیره‌ای across مدل‌ها عمل می‌کنند، یا نتایج را به سیستم‌های پایین‌دستی می‌سپارند که نمی‌توانند مستقیماً مدل را بررسی کنند.

پوشش خبری ارائه‌شده تاریخ انتشار، خانواده‌های مدل پشتیبانی‌شده، روش تأیید، ویژگی‌های عملکردی، یا شرایط مجوز فراتر از توصیف متن‌باز را بیان نمی‌کند. همچنین روشن نیست که FlashProve هویت مدل را تأیید می‌کند، یکپارچگی خروجی را، یا هر دو را، و چگونه با استک‌های موجود attestation و logging یکپارچه می‌شود. این جزئیات تعیین می‌کند که آیا این primitive به‌عنوان یک کنترل زمان اجرا قابل استفاده است یا فقط به‌عنوان یک کمک حسابرسی.

استودیو مشخصات و پیاده‌سازی مرجع را به‌محض انتشار دنبال خواهد کرد، با توجه ویژه به اینکه چگونه نتایج تأیید را می‌توان در pipelineهای چند-agent ثبت و دوباره بررسی کرد.

بیایید صحبت کنیم!