افتراض المسؤولية
تستند الأطر القانونية والتنظيمية للأنظمة المستقلة إلى فرضية بسيطة: عند وقوع ضرر، شخص ما اختار الفعل. تُنسب المسؤولية بتتبع هذا الاختيار إلى مُوكِّل أذن به، أو ناشر قام بتهيئته، أو مطور بناه. تصح هذه الفرضية للبرمجيات التقليدية لأن الأفعال حتمية والسجلات تُكتب بواسطة الكود الذي ينفذها. لكنها لا تصح لوكلاء LLM.
تسجل أنظمة الوكلاء ما أصدره النموذج، وليس لماذا. مسار من استدعاءات الأدوات والملاحظات ليس سجل قرارات إلا إذا ارتبط كل فعل بسلطة معلنة. بدون هذا الربط، لا يوجد نسب، وتؤول المسؤولية إلى الناشر بغض النظر عن مصدر الفشل. تغطية حديثة لمسؤولية الوكلاء في عمليات النشر المؤسسية توضح نقاط الضغط [1]، بينما تسلط نقاشات موازية حول المساءلة للأنظمة المستقلة الضوء على الفجوة بين التوقع القانوني والواقع التقني [2].
النتيجة هي عدم تطابق: المحاكم والجهات التنظيمية تطلب سلسلة حيازة على القرارات؛ أطر الوكلاء تنتج تدفقًا من الرموز واستدعاءات API لا يمكن إعادة تشغيله إلى خطوة واحدة مسؤولة.
ما يتطلبه السجل القابل للنسب
السجل القابل للنسب ليس نصًا. إنه مجموعة من الإدخالات الموقعة، أحادية الإضافة، حيث يحمل كل فعل السلطة التي تم بموجبها: أي مُوكِّل، أي نطاق، أي إصدار سياسة. المطالبات وأوزان النموذج ليست أدلة. إنها مدخلات لعملية عشوائية. سجل الفعل الموقّع هو دليل لأنه يربط الفعل بمنح سلطة يمكن التحقق منه بشكل مستقل عن النموذج الذي أنتجه.
خذ آلية ملموسة. قبل أن يستدعي الوكيل أداة، يبني وقت التشغيل سجل فعل بالحقول التالية:
{
"action_id": "act_01H...",
"principal": "user:[email protected]",
"delegation_chain": ["grant_01", "grant_02"],
"scope": "payments:read",
"policy_version": "policy_2025_04_01",
"tool": "ledger.read",
"args_hash": "sha256:...",
"timestamp": "2025-04-01T12:00:00Z",
"signature": "ed25519:..."
}
يوقّع وقت التشغيل السجل بمفتاح يتحكم به مضيف الوكيل. يُضاف السجل إلى سجل مقاوم للعبث، على سبيل المثال سلسلة تجزئة حيث يتضمن كل إدخال ملخص الإدخال السابق. التحقق لا يتطلب النموذج. يتطلب المفتاح العام والسجل.
هذا خيار تصميمي له مقايضات. توقيع كل فعل يضيف زمن استجابة وتكلفة إدارة مفاتيح. كما يجبر وقت التشغيل على معرفة المُوكِّل والنطاق في وقت الفعل، وهو أمر ليس تافهًا دائمًا في الأنظمة متعددة الوكلاء حيث السياق مشترك. البديل، التسجيل بعد وقوع الفعل، ينتج سجلات لا تصمد أمام مراجعة خصومية لأنها يمكن تعديلها بواسطة نفس العملية التي أنشأتها.
السلسلة من المُوكِّل إلى الفعل
في الأنظمة متعددة الوكلاء، غالبًا ما يكون التفويض ضمنيًا. وكيل أب ينتج وكيلًا فرعيًا، ويمرر نافذة سياق، ويستدعي الوكيل الفرعي الأدوات باستخدام بيانات اعتماد موروثة من الأب. لا يوجد سجل تسليم. لا يوجد استشهاد بمنحة الأب. يعمل الوكيل الفرعي بسلطة الأب دون الإعلان عنها.
هذا هو نمط الفشل الأساسي للمسؤولية. عندما يتخذ وكيل فرعي فعلًا ضارًا، يظهر السجل استدعاء أداة من عملية، وليس تفويضًا من مُوكِّل. سلطة الأب غير مرئية. يتوقف إعادة البناء عند الوكيل الفرعي، وتؤول المسؤولية إلى الناشر لأنه لا يمكن تحديد أي مُوكِّل آخر.
الحل هو سجلات تسليم صريحة. يجب على الوكيل الفرعي الذي يعمل بسلطة الأب أن يستشهد بمنحة الأب، لا أن يرث بيانات الاعتماد بصمت. يجب أن يتضمن سجل التسليم مع
{
"handoff_id": "hand_01H...",
"parent_action": "act_01H...",
"child_agent": "agent:research-01",
"delegated_scope": "search:read",
"attenuated_from": "search:read,search:write",
"policy_version": "policy_2025_04_01",
"signature": "ed25519:..."
}
يجب أن ينتشر الإلغاء على طول السلسلة ويُسجل كحدث. إذا ألغى مُوكِّل منحة، يجب أن يكون كل فعل تابع بعد ذلك الإلغاء غير صالح. يجب أن يحتوي السجل على حدث إلغاء بمعرف المنحة والطابع الزمني. بدون هذا، يمكن لوكيل ملغى أن يستمر في العمل، وسيظهر السجل أفعالًا تبدو مصرحًا بها لكنها ليست كذلك.
المقايضة هي التعقيد. سلاسل التفويض الصريحة تتطلب من وقت التشغيل تتبع المنح عبر الوكلاء، وفرض التقليص، ونشر الإلغاءات. نوافذ السياق المشتركة أبسط لكنها تنتج سجلات لا يمكنها الإجابة على السؤال الذي ستطرحه المحكمة: تحت سلطة من وقع هذا الفعل؟
التصميم لقاعة المحكمة
يجب التعامل مع سجل الفعل كقطعة أثرية من الدرجة الأولى، مع إصداره جنبًا إلى جنب مع تعريف الوكيل. عندما تتغير سياسة الوكيل أو مجموعة أدواته، يجب أن يسجل السجل الإصدار الساري في وقت كل فعل. هذا يسمح بإعادة البناء دون النموذج الأصلي. يجب أن يكون السجل قائمًا بذاته: مُدقِّق لديه السجل والمفاتيح العامة وإصدارات السياسة يجب أن يكون قادرًا على تحديد ما حدث وتحت سلطة من، حتى لو تم إهمال النموذج أو كان غير متاح.
سياسة الاحتفاظ هي مدخل قانوني، وليست افتراضيًا للبنية التحتية. يجب تحديد فترة الاحتفاظ بواسطة المتطلبات القانونية والتنظيمية التي تنطبق على مجال الوكيل، وليس بتكلفة التخزين. بالنسبة للوكلاء في القطاعات المنظمة، قد تُقاس فترة الاحتفاظ بالسنوات. يجب أن يدعم تنسيق السجل التصدير إلى تنسيقات يمكن للفرق القانونية مراجعتها، ويجب أن تكون سلسلة التجزئة قابلة للتحقق بشكل مستقل.
إعادة البناء دون النموذج الأصلي شرط صعب. إذا كان السجل يعتمد على إعادة تشغيل النموذج لتفسير الفعل، فهو ليس سجلًا. إنه محاكاة. المحاكاة ليست دليلًا. يجب أن يحتوي السجل على معلومات كافية للإجابة: أي مُوكِّل أذن بهذا الفعل، تحت أي نطاق، تحت أي إصدار سياسة، وهل كانت تلك السلطة صالحة في ذلك الوقت.
لهذا النهج تكاليف. يتطلب استثمارًا في أدوات وقت التشغيل، وإدارة المفاتيح، وتخزين السجلات. يبطئ تنفيذ الأفعال. يجبر الفرق على تعريف النطاقات والسياسات قبل النشر، وليس بعده. لكن البديل هو نظام مسؤولية لا يمكن أن يعمل لأن الأثر الورقي غير موجود. السؤال ليس ما إذا كان يجب بناء سجلات قابلة للنسب. السؤال هو من يدقق المدقق عندما يكون السجل مفقودًا.