Gizmodo, AI agent'larının simüle edilmiş işe alım ve ücret görevlerinde cinsiyetler arası ücret farkını yeniden ürettiğini, farkın agent'a yönelik herhangi bir açık talimatta değil görev sonuçlarında ortaya çıktığını bildiriyor. Sonuç, agent davranışının üzerine inşa edildiği verideki kalıpları miras aldığı ve güçlendirdiği, bu kalıpların görev nötr olsa bile sonraki kararlarda yüzeye çıkabileceği yönündeki mevcut kanıtlara ekleniyor.
Bulgu, model eğitiminin ötesinde de önem taşıyor. Ücret tahsis eden, adayları sıralayan veya iş yönlendiren bir agent; bir modelin etrafındaki araçlar, bellek, prompt'lar ve orkestrasyondan oluşan bir sistemdir ve bu katmanların her biri bir önyargıyı taşıyabilir veya yeniden şekillendirebilir. Dolayısıyla bu davranışı tespit etmek değerlendirme ve denetim pratiğine bağlıdır: eşleştirilmiş girdilerle kontrollü görev setleri, gruplar arasında karşılaştırılan sonuç dağılımları ve sapmayı hangi adımın getirdiğini gösteren trace'ler. Tek bir benchmark skoru, bir agent'ın işe alım veya ücretlendirme iş
Haberin kapsamından net olmayan noktalar şunlar: simülasyonların ölçeği ve yapılandırması, söz konusu agent yığınının tam olarak ne olduğu ve farkın hafifletme önlemleri altında devam edip etmediği. Behzat AI bu tür sonuçları yalnızca bir model eğitimi sorunu değil, bir değerlendirme ve denetim sorunu olarak ele alıyor.