Bir Birleşmiş Milletler tematik brifingi, yapay zeka ajanları, uyumsuzluk ve konuşlandırılmış sistemler üzerindeki insan kontrolünü kaybetme riski konusunu ele aldı. UN News'in bildirdiğine göre panel, ajan yetenekleri ilerledikçe daha güçlü koruma önlemleri çağrısı yapıyor. Brifing, ajan özerkliğini yalnızca satıcı dokümantasyonuna ve iç incelemeye bırakmak yerine çok taraflı politika tartışmasının içine yerleştiriyor.
Ajan sistemleri üreten ekipler için pratik sonuç, tedarik ve uyum baskısıdır. Bu düzeyde ifade edilen koruma beklentileri, düzenlemeye tabi sektörlerde denetim soruları, açıklama gereklilikleri ve sözleşme şartları olarak yeniden ortaya çıkma eğilimindedir. Sınırlandırılmış eylem, insan gözetimi ve izlenebilir karar yollarını kanıtlayamayan sistemlerin konumlandırılması daha zor olacaktır. Brifingin henüz belirtmediği şey net değil: burada incelenen haber kapsamında somut kontrol eşikleri, değerlendirme metodolojisi veya üye devlet eylemi için bir zaman çizelgesi tanımlanmıyor.
Yakın vadede makul duruş, gözetimi bir politika beyanı değil, bir mühendislik çıktısı olarak ele almaktır. Bu, ajan eylemlerini ve tool call'ları kayıt altına almak, özerklik sınırlarını tanımlamak ve uygulamak ve harici bir denetçiye gösterilebilecek belgelenmiş bir insan eskalasyon yolu tutmak anlamına gelir. Stüdyo, tartışmanın tedarik diline nasıl dönüştüğünü takip etmeye devam edecek.