بر اساس پوشش خبری این اعلام، Anthropic در حال کار روی FlashProve است، یک سیستم متنباز که هدف آن تأیید خروجی مدلهای هوش مصنوعی است. همان پوشش خبری گزارش میدهد که Anthropic پیشرفتهایی در زمینه استنتاج اثباتپذیر برای مدلهای زبانی بزرگ منتشر کرده است. این دو در کنار هم به یک لایه تأیید اشاره دارند که میان مدل و سیستمهای مصرفکننده خروجی آن قرار میگیرد.

برای تیمهایی که استکهای agent اجرا میکنند، یک primitive تأیید، پرسشهایی را که میتوان در زمان خرید و در زمان اجرا مطرح کرد تغییر میدهد. ادعاهای مربوط به provenance به چیزی تبدیل میشود که خریدار میتواند آن را بیازماید نه اینکه بر اساس مستندات بپذیرد، و attestation میتواند از کاغذبازی زمان استقرار به بررسی هر خروجی درون یک pipeline منتقل شود. این موضوع بیشترین اهمیت را جایی دارد که agentها ابزارها را فراخوانی میکنند، زنجیرهای across مدلها عمل میکنند، یا نتایج را به سیستمهای پاییندستی میسپارند که نمیتوانند مستقیماً مدل را بررسی کنند.
پوشش خبری ارائهشده تاریخ انتشار، خانوادههای مدل پشتیبانیشده، روش تأیید، ویژگیهای عملکردی، یا شرایط مجوز فراتر از توصیف متنباز را بیان نمیکند. همچنین روشن نیست که FlashProve هویت مدل را تأیید میکند، یکپارچگی خروجی را، یا هر دو را، و چگونه با استکهای موجود attestation و logging یکپارچه میشود. این جزئیات تعیین میکند که آیا این primitive بهعنوان یک کنترل زمان اجرا قابل استفاده است یا فقط بهعنوان یک کمک حسابرسی.
استودیو مشخصات و پیادهسازی مرجع را بهمحض انتشار دنبال خواهد کرد، با توجه ویژه به اینکه چگونه نتایج تأیید را میتوان در pipelineهای چند-agent ثبت و دوباره بررسی کرد.
