The San Francisco Standard, OpenAI'ın Signal'de kaybolan mesajlar kullandıkları için araştırmacıları işten çıkardığını bildiriyor. Bu açıklama, laboratuvardaki dahili agent izleme ve olay yönetimi üzerine bir dizi haberin ortasında geldi. Konu, model davranışı değil, dahili iletişim pratiğiyle ilgili.
Agent geliştiren ekipler için bu vaka, hassas bağlamın yalnızca prompt'larda ve vector store'larda yaşamadığını hatırlatıyor. Bağlam; sohbet kanallarında, olay thread'lerinde ve dahili araçlarda birikir ve burada geçici ayarlar, bir agent'a ne söylendiğini, ne döndürdüğünü ve bir eylemi kimin onayladığını sonradan açıklayan kaydı silebilir. Bu nedenle söz konusu bağlamın saklanması ve denetlenebilirliği bir kolaylık ayarı değil, bir kontrol meselesidir ve bir olaydan sonra değil, önce karara bağlanmalıdır.
Haberlerden netleşmeyen noktalar, işten çıkarmaların kapsamı, hangi dahili politikaların uygulandığı ve laboratuvarın agent izlemesinin iletişim saklamayla nasıl ilişkili olduğudur. Stüdyonun görüşü, agent sistemlerinin açık loglama sınırlarıyla sunulması gerektiğidir: hangi kanallar kapsamda, bağlam ne kadar süre saklanıyor ve buna erişim nasıl gözden geçiriliyor.