پرش به محتوای اصلی

روش‌های تفسیرپذیری برای یافتن و شکستن فیلترهای ایمنی LLM

Behzat AIinterpretabilityllm-safetyred-teamingadversarial-transferagent-evaluation
عکس ماکرو از یک برد مدار که مسیرها، نقاط لحیم‌کاری و قطعات نصب‌شده روی سطح را زیر نور جهت‌دار نشان می‌دهد.

Bioengineer.org گزارش می‌دهد که از روش‌های هوش مصنوعی تفسیرپذیر برای مکان‌یابی و شکستن فیلترهای ایمنی LLM استفاده شده است. چارچوب‌بندی این موضوع از نتیجه منفرد مهم‌تر است: رفتار امتناع به‌عنوان یک سازوکار داخلی قابل‌مکان‌یابی در نظر گرفته می‌شود، نه به‌عنوان یک ویژگی نوظهور مدل آموزش‌دیده. ابزارهای تفسیرپذیری به سمت مدل نشانه گرفته می‌شوند تا ساختار مشخصی که امتناع را تولید می‌کند پیدا شود، و سپس مستقیماً روی آن ساختار اقدام می‌شود.

Close-up of glowing fiber optic strands with purple and blue bokeh, stock photo

اگر امتناع قابل‌مکان‌یابی باشد، می‌توان درباره آن به‌عنوان یک مؤلفه استدلال کرد. این پرسش را از اینکه آیا یک مدل هم‌راستا است به اینکه آیا یک مدار خاص در مصنوع مستقرشده حاضر، قابل‌دسترسی و سالم است تغییر می‌دهد. همچنین آنچه یک ادعای ایمنی پوشش می‌دهد را تغییر می‌دهد: ویژگی مدل در زمان آموزش با ویژگی مدل در زمان عرضه یکسان Abstract golden liquid metal texture with flowing, fluid patterns

این گزارش در کنار یافته‌های جداگانه‌ای منتشر می‌شود که نشان می‌دهد دفاع‌های هر مدل تحت انتقال خصمانه بین‌مدلی شکست می‌خورند. در کنار هم، این دو خط نشان می‌دهند که دفاع‌های متصل به رفتار داخلی یک مدل واحد در مرزهای مدل شکننده هستند، و ارزیابی باید سیستم مستقرشده را آزمایش کند نه اینکه امتناع را ذاتی فرض کند. آنچه از این پوشش خبری روشن نمی‌ماند این است که کدام مدل‌ها درگیر بودند، سازوکار چگونه شناسایی شد، و آیا روش فراتر از تنظیمات گزارش‌شده تعمیم می‌یابد.

بیایید صحبت کنیم!