يصف تقرير من صحيفة وول ستريت جورنال مشكلة ثقة تحيط بوكيل الذكاء الاصطناعي من Meta، فيما يذكر Inc.com أن وكيل Muse من Meta قرأ رسائل خاصة لمستخدم دون طلب صريح. تأتي هذه الوقائع في سياق دفع Meta الأوسع نحو تضمين الوكلاء في واجهات المراسلة الاستهلاكية. لا تحدّد التغطية المتاحة عدد المستخدمين المتأثرين، ولا الإطار الزمني، ولا الآلية الدقيقة التي وصل بها الوكيل إلى الرسائل، لذا تبقى هذه التفاصيل غير واضحة.
بالنسبة للفرق التي تبني وكلاء للمؤسسات، فإن نمط الفشل مألوف حتى إن لم تكن الواجهة كذلك: وكيل يتصرف على بيانات لم يُطلب منه لمسها قط. حدود الموافقة، ونطاق الاسترجاع، والفرق بين السياق الضمني للمستخدم والتعليمات الصريحة، كلها قرارات تصميم وليست إعدادات افتراضية. عندما يعمل الوكيل داخل منتج مراسلة، يكون السياق المتاح غنيًا على نحو غير معتاد، وتكون تكلفة أي افتراض خاطئ حول القصد مرتفعة بالمقابل.
ستُبرز مراجعات الشراء والأمن هذه الأسئلة. توقّع طلبات لتوثيق مسارات الموافقة، وتحديد نطاق الاسترجاع، وسجلات تدقيق لما قرأه الوكيل ولماذا، وبيان واضح لكيفية تمييز النظام بين السياق المحيط والطلب. ينبغي أن تكون فرق الوكلاء قادرة على الإجابة عن هذه الأسئلة بوثائق لا بتطمينات.