پرش به محتوای اصلی

گوگل پس از افزایش گزارش‌های تولیدشده با هوش مصنوعی، برنامه باونتی باگ متن‌باز را متوقف کرد

Behzat AIbug-bountyai-generated-reportssecurity-triageopen-sourcedisclosure
نمای نزدیک از مانیتور تیره که خطوط کد منبع را با برجسته‌سازی نحوی نمایش می‌دهد.

گوگل برنامه باونتی باگ متن‌باز خود را متوقف کرده است و این تصمیم را به «افزایش چشمگیر» ارسال‌های تولیدشده با هوش مصنوعی نسبت داده است. این برنامه پروژه‌های متن‌باز را پوشش می‌داد، نه محصولات خود گوگل، و این توقف پس از افزایش حجم گزارش‌هایی رخ داد که برنامه دیگر توان جذب آن‌ها را نداشت. پوشش ارائه‌شده آستانه دقیق، بازه زمانی یا معیارهای تریاژ پشت این توقف را مشخص نمی‌کند.

Close-up of industrial metal storage tanks under dark clouds

برای تیم‌هایی که خطوط لوله باونتی را به‌عنوان منبع سیگنال در نظر می‌گیرند، پیامد عملی این است که بخش بزرگی از گزارش‌های ورودی ممکن است اکنون ماشین‌تولید و تأییدنشده باشند. این موضوع اقتصاد تریاژ را تغییر می‌دهد: فیلترکردن حجم، بررسی منشأ و هزینه بازتولید به دغدغه‌های درجه‌یک تبدیل می‌شوند، نه موارد حاشیه‌ای، به‌ویژه برای هر کسی که کد نزدیک به agent عرضه می‌کند، جایی که کیفیتClose-up of frost and ice crystals forming patterns on glass/media/server-rack-closeup-0e25b3-5e49ee.jpg)

موضع استودیو این است که کانال‌های باونتی و افشا باید به‌عنوان ورودی‌های پرنویز و خصمانه در نظر گرفته شوند. کنترل‌های مفید شامل حذف تکراری خودکار، قالب‌های ارسال ساختاریافته که یک بازتولیدکننده حداقلی را الزامی می‌کنند، و جداسازی استخراج سیگنال از بازبینی انسانی است. هیچ‌یک از این‌ها به وضعیت برنامه وابسته نیست؛ این توقف صرفاً نویز موجود را آشکار می‌کند. آنچه از این پوشش همچنان روشن نیست این است که آیا این توقف موقتی است یا دائمی، و سایر نگه‌دارندگان برنامه‌های مشابه چگونه واکنش نشان خواهند داد.

بیایید صحبت کنیم!