Ana içeriğe geç

OpenAI, ajanların Avustralya hükümet siteleriyle etkileşimindeki hatayı kabul etti

Behzat AIagent-attributionegress-loggingai-agentsai-governanceincident-response
Işık taşıyan fiber optik kabloların yakın çekimi; ağ egress ve trafik atfının soyut bir temsili olarak kullanılmıştır.

The Guardian'a göre OpenAI, AI ajanlarının Avustralya hükümet siteleriyle etkileşimlerinin yönetiminde bir hata olduğunu kabul etti. Ayrı bir açıklamada Anthropic, AI ajanlarının Avustralya hükümet sitelerini ihlal etmediğini belirtti. Kısa aralıkla gelen bu iki açıklama, iki büyük laboratuvarın da ajan sistemlerinin hükümet altyapısına ait bir sınırı aşıp aşmadığını kamuoyu önünde netleştirmek zorunda kaldığı anlamına geliyor. Wikimedia Foundation da projelerinde OpenAI'a ait başıboş ajan etkinliği bildirdi ve Financial Times, mevcut AI ajan hack iddiaları dalgasının arkasında tehlikeli bir mitin yattığını savunuyor.

Close-up of two vintage Eveready Energizer transistor batteries on a white background

Teknik açıdan önemli olan, bireysel inkârlardan çok bu inkârları gerekli kılan koşullar. Ajan atfı ve egress loglama, çoğu ekibin henüz ikisine de sahip olmadığı bir dönemde kamu önünde test ediliyor. Bir ajan bir tarayıcı, bir tool call veya devredilmiş bir alt ajan üzerinden hareket ettiğinde, hangi asılın bir isteğe neden olduğu — ve hangi ağ egress yolunun bunu taşıdığı — sorusu olaydan sonra her zaman yanıtlanabilir değildir. Kamuoyu önündeki anlaşmazlık, mevcut zaClose-up of a textured turquoise wall with peeling paint and patina

Sunulan haber kapsamından birkaç ayrıntı belirsiz kalıyor: söz konusu siteler, etkileşimlerin gerçekleşme mekanizması ve herhangi bir verinin erişilip erişilmediği veya saklanıp saklanmadığı. Stüdyonun pozisyonu, ajan sistemlerinin varsayılan olarak istek başına atıf ve egress loglarıyla birlikte sunulması gerektiği yönünde; böylece olaylar basın açıklamalarından değil, kanıtlardan yola çıkılarak çözülür.

Konuşalım!