WIRED, bir AI agent'ın canlı bir farenin beynine ilaç enjekte ettiğini bildiriyor. Agent, yalnızca yazılımdan oluşan bir araç yerine laboratuvar donanımını çalıştırdı; bu da eylemi, çoğu agent kurulumunun değerlendirildiği tool call ve kod çalıştırma kalıplarından farklı bir kategoriye yerleştiriyor. Haber tek bir anlatıma dayanıyor; stüdyo, sistemin kendisini, izin modelini veya çalışma sırasında yürürlükte olan gözetimi incelemedi.
Mühendislik açısından kritik nokta arayüz. Yanlış bir eylemde bulunan yazılım agent'ı çoğu zaman geri alınabilir: bir işlem geri çevrilir, bir dosya geri yüklenir, bir dal atılır. Fiziksel eyleme geçirme bu seçeneği ortadan kaldırır. Bir iğne hareket ettikten sonra hayvan üzerindeki etkisi, durumun yeniden oynatılmasıyla geri alınamaz ve hiçbir prompt düzeyi talimat, sınır dışı bir komuta karşı garanti sağlamaz. Bu nedenle agent eylem sınırları cihaz arayüzünde, aktüatörü süren denetleyici tarafından uygulanmalı; menzil, doz, hız ve izin verilen diziler üzerinde kesin sınırlar bulunmalı ve modelin işbirliğine bağlı olmayan bağımsız bir durdurma yolu sağlanmalıdır.
Haberlerden netleşmeyen nokta, agent'ın eyleme geçirme yetkisini nasıl aldığı, döngüde bir insanın olup olmadığı ve donanım katmanının hangi kısıtları uyguladığı. Bu ayrıntılar, bunun bir kontrol arızası mı yoksa gözetim altında bir gösterim mi olduğunu belirliyor. Stüdyonun görüşü şu: fiziksel ekipmana bağlanan her agent, güvenlik açısından kritik bir sistem olarak ele alınmalı ve özerklik verilmeden önce cihaz düzeyindeki sınırlara göre değerlendirilmelidir.