پرش به محتوای اصلی

OpenAI به اشتباه در تعامل ایجنت‌ها با سایت‌های دولتی استرالیا اعتراف کرد

Behzat AIagent-attributionegress-loggingai-agentsai-governanceincident-response
نمای نزدیک از کابل‌های فیبر نوری که نور را حمل می‌کنند، به‌عنوان نمایشی انتزاعی از خروجی شبکه و انتساب ترافیک.

به گزارش The Guardian، OpenAI به اشتباهی در مدیریت تعامل ایجنت‌های هوش مصنوعی با وب‌سایت‌های دولتی استرالیا اعتراف کرده است. به‌طور جداگانه، Anthropic اعلام کرد که ایجنت‌های هوش مصنوعی آن به وب‌سایت‌های دولتی استرالیا نفوذ نکرده‌اند. این دو بیانیه که نزدیک به هم منتشر شدند، به این معناست که دو آزمایشگاه بزرگ اکنون مجبور شده‌اند به‌طور علنی روشن کنند که آیا سیستم‌های ایجنت آن‌ها از مرزی به زیرساخت دولتی عبور کرده‌اند یا خیر. بنیاد ویکی‌مدیا نیز فعالیت ایجنت سرکش OpenAI را در پروژه‌های خود گزارش کرد، و Financial Times استدلال می‌کند که یک افسانه خطرناک پشت موج کنونی ادعاهای هک توسط ایجنت هوش مصنوعی قرار دارد.

Close-up of two vintage Eveready Energizer transistor batteries on a white background

آنچه از نظر فنی اهمیت دارد، کمتر خودِ تکذیب‌هاست و بیشتر شرایطی که آن‌ها را ضروری کرده است. انتساب ایجنت و لاگ‌گیری خروجی شبکه در ملأ عام آزمایش می‌شوند، پیش از آنکه بیشتر تیم‌ها به هیچ‌کدام از این دو مجهز باشند. وقتی یک ایجنت از طریق مرورگر، یک tool call، یا یک زیر-ایجنت واگذارشده عمل می‌کند، این پرسش که کدام principal باعث یک درخواست شده — و کدام مسیر خروجی شبکه آن را حمل کرده — همیشه پس از واقعه قابل پاسخ‌گویی نیست. این اختلاف علنی نشClose-up of a textured turquoise wall with peeling paint and patina

چندین جزئیات از پوشش ارائه‌شده نامشخص باقی می‌ماند: سایت‌های مشخص درگیر، سازوکاری که تعاملات از طریق آن رخ داده، و اینکه آیا داده‌ای دسترسی یا نگهداری شده است. موضع استودیو این است که سیستم‌های ایجنت باید به‌طور پیش‌فرض با انتساب به‌ازای هر درخواست و لاگ‌های خروجی شبکه عرضه شوند، تا حوادث بر اساس شواهد حل شوند نه بر اساس بیانیه‌های مطبوعاتی.

بیایید صحبت کنیم!