Ana içeriğe geç

Microsoft başkanı: Yapay zeka sütten daha az düzenlemeye tabi, bağlayıcı güvenlik yasası çağrısı yapıyor

Behzat AIai-governanceagent-safetyregulationevaluationpolicy
Gösterge ışıkları ve düzenli yönlendirilmiş ağ kablolarıyla bir veri merkezi sunucu rafının yakın çekimi.

Microsoft başkanı Brad Smith, yapay zekanın sütten ve çamaşır makinelerinden daha az düzenlemeye tabi olduğunu söyledi ve gönüllü yapay zeka güvenlik taahhütlerinin yeterli olmadığını savunarak küresel kurallar için çağrı yaptı. Bu açıklamalar, en büyük tedarikçiyi, öz beyanın uygulanabilir yükümlülüklerin yetersiz bir ikamesi olduğunu kayda geçirmiş duruma getiriyor.

Merkezi bir veri merkezi kaynağına erişimi yöneten çeşitli kablolara sahip sunucu rafı

Agent sistemleri geliştiren ekipler için yönetişim sonucu doğrudan. Gönüllü taahhütlerin agent güvenlik kurallarının mevcut ikamesi olduğu yerde, yalnızca öz beyana dayanan bir program ölçülmemiş risk taşır. Coverage beş önerilen yapay zeka güvenlik kuralını bildiriyor ve daha geniş tartışmada güvenlik testleri ile kill switch'lere atıfta bulunuyor; bu önerilerin spesifik içeriği ve durumu sağlanan materyalden net değil.

Behzat AI yönetişimi bir mühendislik yüzeyi olarak ele alır: araç kullanan agent'lar için evaluation harness'ları, çalışma zamanı kısıtlamaları ve kapatma yolları, ve kontrollerin var olduğu iddiası yerine arıza altında dayandığına dair kanıt. Bağlayıcı kurallar gelirse, agent davranışının test edilebilir kanıtını zaten üreten ekipler, beyanlara güvenenlerden daha hızlı uyum sağlayacaktır. Stüdyonun pozisyonu, güvenlik iddialarının niyet beyanları değil, yeniden üretilebilir artefaktlar olması gerektiğidir.

Konuşalım!