الانتقال إلى المحتوى الرئيسي

Goodfire تطرح مراقبات «من الداخل إلى الخارج» كوسيلة أرخص لكشف الوكلاء المارقين

Behzat AIagent-monitoringruntime-safetygoodfireagent-observabilityllm-agents
صورة مقرّبة للوحة دائرة كهربائية تُظهر المسارات ونقاط اللحام والمكوّنات السطحية بعمق ميدان ضحل.

قدّمت Goodfire ما تصفه بمراقبات «من الداخل إلى الخارج»، وهو نهج لالتقاط وكلاء الذكاء الاصطناعي المارقين تقول إنه يعمل بجزء يسير من كلفة الطرق القائمة، وفقًا لـ TechCrunch. ويستهدف هذا الطرح الفرق التي تشغّل وكلاء منشورين، حيث يجب أن يستمر الإشراف بعد الإطلاق بدلًا من التوقف عند التقييم.

Close-up of two vintage Eveready Energizer transistor batteries on a white background

التمييز التقني يكمن في المصدر الذي تقرأ منه المراقبة. فالمراقبة القائمة على المخرجات فقط تفحص ما يصدره الوكيل وتستنتج النية من ذلك السطح. أما المراقبة «من الداخل إلى الخارج» فتفحص الحالة الداخلية للوكيل أثناء التنفيذ. وبالنسبة لمكدسات الوكلاء، يغيّر ذلك كلاً من التغطية والكلفة: فقد تكشف الإشارات الداخلية الانحراف في وقت أبكر، بينما يغيّر نمط كلفةAerial night view of New Taipei City with bright city lights and winding roads

تضع Goodfire كلفة الكشف كالقيد الأساسي على المراقبة المستمرة للوكلاء. وهذا التأطير هو الادعاء الجوهري الذي يستحق الفحص. ولا يحدد التغطية أي الإشارات الداخلية تُقرأ، ولا كيف تُضبط عتبات الكشف، ولا مقدار زمن الاستجابة الذي تضيفه المراقبات، ولا كيف تقارن معدلات الإيجابيات الكاذبة بخطوط الأساس القائمة على المخرجات فقط. ولا تُقدَّم أي أرقام تقييم أو معايير مستقلة. وإلى أن تتوفر هذه التفاصيل، يظل السؤال العملي للفرق هو ما إذا كانت مراقبة الحالة الداخلية تقلل الكلفة الإجمالية للإشراف المستدام دون إدخال أنماط فشل جديدة في طبقة المراقبة نفسها.

لنتحدث!