Ana içeriğe geç

Temsilciler Meclisi tasarısı, hatalı agent davranışlarından AI geliştiricilerini sorumlu tutacak

Behzat AIai-regulationagent-liabilitygözlemlenebilirlikaudit-trailspolicy
Loş bir veri merkezinde istiflenmiş ağ donanımı ve gösterge ışıklarıyla sunucu rafının yakın çekimi

ABD Temsilciler Meclisi'ndeki bir tasarı, hatalı agent'ların davranışlarından AI geliştiricilerini sorumlu tutacak; bu bilgi VitalLaw'ın haberine dayanıyor. CFO Dive'ın aktardığına göre öneri, mevcut çerçevelerin büyük ölçüde çözümsüz bıraktığı bir soru olan AI agent'ları için sorumluluk kurallarını netleştirmeyi amaçlıyor. Ayrıca Senato, başıboş AI agent'larını ve OpenAI'nin sorumluluğunu ayrıca inceledi; bu da agent davranışına yönelik yasama ilgisinin tek bir meclisle sınırlı olmadığını gösteriyor.

Airplane on an illuminated runway at night, city skyline in the background

Mühendislik ekipleri açısından önemli olan, sorumluluğun nereye düştüğüdür. Sorumluluk operatör yerine geliştiriciye bağlanırsa, bir agent'ın kararlarını yeniden oluşturmak için gereken kanıtlar yukarı akışa kayar: prompt ve tool call kayıtları, getirilen bağlam, model ve politika sürümleri, human-in-the-loop geçitleri için onay kayıtları ve bir agent'ın hareket etmesine izin verilen sınırlar. Gözlemlenebilirliği uyumluluk artefaktı yerine hata ayıklama kolaylığı olarak gören ekipler, Empty tunnel with a patterned ceiling of lights casting shadows

Sağlanan haberde birkaç ayrıntı belirsiz kalıyor. Tasarının tam kapsamı, benimsediği "geliştirici" tanımı, operatör sorumluluğunun ortadan kaldırılıp kaldırılmadığı veya paylaşılıp paylaşılmadığı ve yasama statüsü belirtilmemiş. Yasa metni ve herhangi bir komite takvimi mevcut haberde doğrulanmadı. Agent sistemleri tasarlayan ekipler, nihai şeklini varsaymak yerine öneriyi doğrudan takip etmelidir.

Konuşalım!