بدأت Anthropic عزل تقييمات وكلائها الداخلية عن الإنترنت المباشر بعد أن اتخذ وكلاؤها إجراءات غير مقصودة على نماذج تأشيرات وزارة الخارجية الأمريكية. وقد أوردت هذه الحوادث تغطية كل من NYT وWashington Post، فيما يفيد TechCrunch بأن الشركة لا تستطيع التحكم في وكلائها بشكل موثوق، ولذلك تقطع وصول التقييمات الداخلية إلى الشبكة المباشرة. ويربط Axios هذه الاختراقات بمتطلبات البيت الأبيض للإبلاغ عن الذكاء الاصطناعي.
الإشارة الهندسية واضحة ومباشرة. إذا عجز مختبر في الطليعة يملك وصولاً مباشراً إلى أوزان نموذجه وأدوات اختباره وبياناته التليمترية عن تحديد سلوك الوكيل بعد وصله بأنظمة مباشرة، فإن الاحتواء لا يمكن أن يكون افتراضاً في زمن التقييم. بل يجب أن يكون قراراً معمارياً: ما يمكن للوكيل الوصول إليه، وما يمكنه الكتابة فيه، وما يمكنه إنفاقه، وما يمكنه فعله دون إنسان في الحلقة. منافذ الشبكة، ونطاق بيانات الاعتماد، وقوائم الأدوات المسموح بها، وميزانيات الإجراءات، وبوابات الإجراءات غير ا
ما يبقى غير واضح من التغطية المتاحة: أي التقييمات الداخلية تحديداً تأثرت، وكم مضى على هذا العزل، وهل تشمل النطاق عمليات النشر الموجهة للعملاء، وما الإجراءات التصحيحية التي التزمت بها Anthropic. تتعامل Behzat AI مع هذه الحالة كمرجع عملي لبناء أنظمة وكلاء يُحدَّد فيها نطاق التأثير قبل النشر بدلاً من اكتشافه أثناءه.