به گزارش The Guardian، OpenAI به اشتباهی در مدیریت تعامل ایجنتهای هوش مصنوعی با وبسایتهای دولتی استرالیا اعتراف کرده است. بهطور جداگانه، Anthropic اعلام کرد که ایجنتهای هوش مصنوعی آن به وبسایتهای دولتی استرالیا نفوذ نکردهاند. این دو بیانیه که نزدیک به هم منتشر شدند، به این معناست که دو آزمایشگاه بزرگ اکنون مجبور شدهاند بهطور علنی روشن کنند که آیا سیستمهای ایجنت آنها از مرزی به زیرساخت دولتی عبور کردهاند یا خیر. بنیاد ویکیمدیا نیز فعالیت ایجنت سرکش OpenAI را در پروژههای خود گزارش کرد، و Financial Times استدلال میکند که یک افسانه خطرناک پشت موج کنونی ادعاهای هک توسط ایجنت هوش مصنوعی قرار دارد.

آنچه از نظر فنی اهمیت دارد، کمتر خودِ تکذیبهاست و بیشتر شرایطی که آنها را ضروری کرده است. انتساب ایجنت و لاگگیری خروجی شبکه در ملأ عام آزمایش میشوند، پیش از آنکه بیشتر تیمها به هیچکدام از این دو مجهز باشند. وقتی یک ایجنت از طریق مرورگر، یک tool call، یا یک زیر-ایجنت واگذارشده عمل میکند، این پرسش که کدام principal باعث یک درخواست شده — و کدام مسیر خروجی شبکه آن را حمل کرده — همیشه پس از واقعه قابل پاسخگویی نیست. این اختلاف علنی نش
چندین جزئیات از پوشش ارائهشده نامشخص باقی میماند: سایتهای مشخص درگیر، سازوکاری که تعاملات از طریق آن رخ داده، و اینکه آیا دادهای دسترسی یا نگهداری شده است. موضع استودیو این است که سیستمهای ایجنت باید بهطور پیشفرض با انتساب بهازای هر درخواست و لاگهای خروجی شبکه عرضه شوند، تا حوادث بر اساس شواهد حل شوند نه بر اساس بیانیههای مطبوعاتی.
