Raporlar, yapay zeka riski konusunda OpenAI ile Anthropic arasında düzenleyici bir ayrışma olduğunu ve Sam Altman'ın konumunu yapay zeka düzenlemesinde Anthropic'ten bir kopuş olarak çerçevelediğini gösteriyor. Altman, yapay zekanın faydalarının bazı riskleri kabul etmeyi haklı çıkardığını belirterek, ilerleme karşılığında belirli olumsuz sonuçları tolere etme isteğine işaret etti. Haber, hangi risklerin veya düzenleyici mekanizmaların söz konusu olduğunu belirtmiyor ve ayrışmanın pratik kapsamını belirsiz bırakıyor.
LLM agent'ları ve çoklu agent sürüleri geliştiren ekipler için bu farklı sorumluluk duruşları önem taşıyor. Öncü laboratuvarlar, alt sistemlerin devraldığı model davranışı, olay raporlama ve denetim izleri için fiili beklentileri belirliyor. Bazı kötü şeyleri kabul eden bir laboratuvar, etmeyene kıyasla farklı sözleşme koşulları, tazminat pozisyonları ve güvenlik dokümantasyonu dayatabilir. Agent geliştiricileri, bu pozisyonların API koşullarına, değerlendirme gereksinimlerine ve açıklama yükümlülüklerine nasıl yansıdığını takip etmelidir; çünkü bunlar, konuşlandırılmış bir agent'ı!
6-156541.jpg)er.
Stüdyo bunu, sağlayıcıya özgü risk varsayımlarının mimari ve tedarik kararlarında açık tutulması için bir sinyal olarak değerlendiriyor. Haberin somut politika önerileri veya takvimler konusunda sessiz kaldığı yerlerde, bunlar açık sorular olarak kalıyor.