الانتقال إلى المحتوى الرئيسي

أساليب التفسيرية المستخدمة لتحديد وكسر مرشحات أمان النماذج اللغوية الكبيرة

Behzat AIinterpretabilityllm-safetyred-teamingadversarial-transferagent-evaluation
صورة مقرّبة للوحة دائرة كهربائية تُظهر المسارات ونقاط اللحام والمكوّنات السطحية تحت ضوء موجَّه.

يُفيد Bioengineer.org بأن أساليب الذكاء الاصطناعي القابل للتفسير استُخدمت لتحديد وكسر مرشحات أمان النماذج اللغوية الكبيرة. الإطار العام أهم من النتيجة الفردية: إذ يُعامَل سلوك الرفض كآلية داخلية قابلة للتحديد بدلًا من كونه خاصية ناشئة عن النموذج المدرَّب. ويُوجَّه أدوات التفسير نحو النموذج للعثور على البنية المحددة التي تُنتج الرفض، ثم يُتعامل مع تلك البنية مباشرةً.

Close-up of glowing fiber optic strands with purple and blue bokeh, stock photo

إذا أمكن تحديد موضع الرفض، أمكن التفكير فيه كمكوّن. وهذا ينقل السؤال من ما إذا كان النموذج متوافقًا إلى ما إذا كانت دائرة معينة موجودة وقابلة للوصول وسليمة في النموذج المنشور. كما يغيّر ما يغطيه ادعاء الأمان: فخاصية النموذج أثناء التدريب ليست هي نفسها Abstract golden liquid metal texture with flowing, fluid patterns

يأتي هذا التقرير إلى جانب نتائج منفصلة تفيد بأن الدفاعات الخاصة بكل نموذج تفشل في ظل النقل العدائي عبر النماذج. وإذا أُخذ الخطّان معًا، يشيران إلى أن الدفاعات المرتبطة بالسلوك الداخلي لنموذج واحد هشّة عبر حدود النماذج، وأن التقييم ينبغي أن يختبر النظام المنشور بدلًا من افتراض أن الرفض جوهري. وما يبقى غير واضح من التغطية هو النماذج المعنية، وكيف حُدِّدت الآلية، وما إذا كانت الطريقة قابلة للتعميم خارج السياق المُبلَّغ عنه.

لنتحدث!