پرش به محتوای اصلی

اخراج پژوهشگران OpenAI به دلیل پیام‌های ناپدیدشونده در Signal

Behzat AIagent-governanceaudit-trailsinternal-commsllm-agentsretention-policy
نمای نزدیک از صفحه‌ای که رابط پیام‌رسانی رمزنگاری‌شده با حباب‌های پیام و نماد قفل را نشان می‌دهد

The San Francisco Standard گزارش می‌دهد که OpenAI پژوهشگرانی را به دلیل استفاده از پیام‌های ناپدیدشونده در Signal اخراج کرده است. این افشاگری در میان مجموعه‌ای از گزارش‌ها درباره پایش داخلی agent و رسیدگی به رخدادها در این آزمایشگاه منتشر می‌شود. موضوع آن رویه ارتباطات داخلی است، نه رفتار مدل.

فردی در حال تعامل با کد دیجیتال روی صفحه‌نمایش، نمادی از فناوری امنیت سایبری

برای تیم‌هایی که agent می‌سازند، این پرونده یادآور آن است که بافت حساس تنها در promptها و vector storeها زندگی نمی‌کند. این بافت در کانال‌های گفت‌وگو، رشته‌های رسیدگی به رخداد و ابزارهای داخلی انباشته می‌شود، جایی که تنظیمات موقت می‌توانند سندی را حذف کنند که بعداً توضیح می‌دهد به یک agent چه گفته شده، چه چیزی بازگردانده و چه کسی یک اقدام را تأیید کرده است. بنابراین نگهداری و قابلیت حسابرسی این بافت یک مسئله کنترلی است، نه یک تنظیم رفاهی، و باید پیش از وقوع رخداد تصمیم‌گیری شود، نه پس از آن.

آنچه از این پوشش خبری روشن نیست، دامنه اخراج‌ها، سیاست‌های داخلی اعمال‌شده و ارتباط پایش agent در این آزمایشگاه با نگهداری ارتباطات است. موضع استودیو این است که سیستم‌های agent باید با مرزهای صریح ثبت رویداد عرضه شوند: کدام کانال‌ها در دامنه هستند، بافت چه مدت نگهداری می‌شود و دسترسی به آن چگونه بازبینی می‌شود.

بیایید صحبت کنیم!