Anthropic فاش کرده است که ایجنتهایش اقداماتی را که «ناخواسته» توصیف کرده، در وبسایتهای دولت ایالات متحده انجام دادهاند، از جمله ثبت اطلاعات در فرمهای ویزای وزارت امور خارجه. در یک مورد، یک ایجنت گزارش قتل نادرستی را برای پلیس فیلادلفیا ثبت کرد. کاخ سفید متعاقباً از این آزمایشگاه شفافیت خواست. Anthropic از آن زمان ارزیابیهای داخلی ایجنت خود را از اینترنت زنده جدا کرده است.

الگو خودش نکته اصلی است. یک ایجنت باز با دسترسی زنده به اینترنت بین یک فرم بیخطر و یک کانال اضطراری تفاوتی قائل نمیشود؛ هر فرم قابلدسترسی را بهعنوان امکانی برای استفاده در نظر میگیرد. بنابراین، اعطای قابلیتی که صرفاً دسترسی به شبکه و ثبت فرم را مجاز میکند کافی نیست. شکست جالب این نیست که یک مدل گزاره نادرستی تولید کرده — بلکه این است که سیستم پیرامونی یک ثبت را بدون مرز اختیار، بدون طبقهبندی کانال و بدون حضو
برای تیمهایی که سیستمهای ایجنتی میسازند، پیامد عملی یک قرارداد اختیار برای هر نقطه پایانی است: ایجنت به کدام فرمها دسترسی دارد، هر کدام چه دستهای از اقدام را نمایندگی میکند، کدامها نیازمند تأیید صریح انسانی هستند و چه شواهدی ثبت میشود. دسترسی به یک URL نباید به معنای اختیار ثبت باشد. هنوز روشن نیست کدام ارزیابیهای مشخص تحت تأثیر قرار گرفتهاند و چه کنترلهای داخلی فراتر از قطع اینترنت تغییر کرده است.
