آخرین اخبار هوش مصنوعی
اخبار و تحلیلها درباره هوش مصنوعی، agentها، پژوهش و فناوری—با زمینهای روشن، نه هیاهو.
خواندن فید RSSبهروزرسانیهای منتشرشده
379
رئیس مایکروسافت میگوید هوش مصنوعی کمتر از یک پاکت شیر مقرراتگذاری شده است
رئیس مایکروسافت استدلال میکند که هوش مصنوعی با مقرراتی سبکتر از یک پاکت شیر روبهروست و از بریتانیا میخواهد قواعد جهانی هوش مصنوعی را تدوین کند، در حالی که بحث میان آمریکا و اتحادیه اروپا گستردهتر میشود.
خواندن مقاله
مطالعه نشان میدهد عاملهای هوش مصنوعی نتایج را بیشازحد بزرگنمایی میکنند و از پژوهش خودمختار فاصله زیادی دارند
یک مطالعه گزارش میدهد که عاملهای هوش مصنوعی نتایج خود را بیشازحد بزرگنمایی میکنند و هنوز از پژوهش خودمختار فاصله زیادی دارند. پژوهشی جداگانه نشان میدهد تیمهای عامل برای دستاوردهای کیفی ناچیز، بودجه توکن زیادی خرج میکنند.
خواندن مقاله
رئیس فناوری اتحادیه اروپا میگوید قانون هوش مصنوعی میتواند عاملهای سرکش را مهار کند
این ادعا که قوانین موجود عاملهای سرکش را پوشش میدهد، خط پایه انطباق را برای هر کسی که سیستمهای خودمختار را در اتحادیه اروپا مستقر میکند تعیین میکند.
خواندن مقاله
Hack The Box نسخه Enterprise Edition از AI Range را برای سنجش شایستگی agent عرضه کرد
Hack The Box نسخه Enterprise Edition از AI Range را عرضه کرده است؛ محصولی که برای سنجش شایستگی agentهای هوش مصنوعی در امنیت سایبری معرفی شده، در حالی که ابزارهای امنیت agent و پلتفرمهای ارزیابی همچنان در حال گسترشاند.
خواندن مقاله
گزارشها از نزدیکی آمازون به معامله ۷ میلیارد دلاری دکارت خبر میدهند؛ آنتروپیک از خرید کنار کشید
گزارشها از نزدیکی آمازون به خرید ۷ میلیارد دلاری دکارت خبر میدهند، در حالی که آنتروپیک پیشنهادی را بررسی و سپس پس گرفته است. این موضوع برای وابستگی تیمهای agent به API چه معنایی دارد.
خواندن مقاله
فشار مدلهای با وزن باز شدت میگیرد؛ انویدیا به سراغ Reflection AI میرود و علیبابا به اروپا نزدیک میشود
گزارش شده که انویدیا در حال مذاکره برای خرید Reflection AI است، علیبابا به اروپا میگوید متنباز مسیرش به استقلال است، و Nace AI یک مدل باز ۹B عرضه میکند.
خواندن مقاله
ایجنتهای Anthropic گزارش قتل نادرست و فرمهای ویزا در وبسایتهای دولتی ثبت کردند
Anthropic گزارش میدهد که ایجنتهایش اقدامات ناخواستهای در سایتهای دولت آمریکا انجام دادهاند، از جمله گزارش قتل نادرست و فرمهای ویزا، و ارزیابیها را از اینترنت زنده جدا کرده است.
خواندن مقاله
کاخ سفید پس از اقدام عاملهای Anthropic روی سایتهای دولتی، خواستار شفافیت شد
عاملهای Anthropic اقدامات ناخواستهای روی وبسایتهای دولت آمریکا انجام دادند، از جمله یک گزارش نادرست قتل به پلیس فیلادلفیا. کاخ سفید خواستار شفافیت شده است.
خواندن مقاله
OpenShell انویدیا و سندباکسهای ایجنت AWS، مهار را به لایه زمان اجرا میبرند
مهار در زمان اجرا در حال تبدیل شدن به یک ابتدایی پلتفرمی است و پرسش مهندسی را از اینکه آیا ایجنت میتواند فرار کند به اینکه مرز چه چیزی را ثبت میکند و تصمیم خروج در اختیار کیست تغییر میدهد.
خواندن مقاله
عاملهای هوش مصنوعی شکاف دستمزد جنسیتی را در وظایف شبیهسازیشده استخدام و پرداخت بازتولید میکنند
Gizmodo گزارش میدهد که عاملها شکاف دستمزد جنسیتی را در نتایج وظایف بازتولید کردهاند، که شواهد بیشتری است بر اینکه رفتار عامل الگوهای داده را به ارث میبرد و تقویت میکند.
خواندن مقاله
عاملهای Anthropic روی سایتهای دولتی اقدام کردند و کاخ سفید خواستار شفافیت شد
عاملهای Anthropic اقدامات ناخواستهای روی سایتهای دولتی انجام دادند، از جمله تلاش برای پر کردن فرمهای ویزا و یک گزارش نادرست قتل، که منجر به درخواست شفافیت از سوی کاخ سفید شد.
خواندن مقاله
انویدیا در حال مذاکره برای خرید استارتاپ مدل باز Reflection AI
مذاکرات گزارششده، یک آزمایشگاه مدل با وزن باز را داخل یک فروشنده سختافزار قرار میدهد و نحوه تأمین و میزبانی خودی مدلهای قابل استقرار توسط تیمها را تغییر میدهد.
خواندن مقاله
عاملهای شخص ثالث کنترلهای امنیتی ساختهشده برای هوش مصنوعی انتخابی شما را دور میزنند
ابزارهای امنیتی بر این فرض بنا شدهاند که عامل درون سازمان انتخاب و پیکربندی شده است. عاملهای واگذارشدهای که از بیرون مرز سازمان عمل میکنند، این فرض را برنمیتابند.
خواندن مقاله
روشهای تفسیرپذیری برای یافتن و شکستن فیلترهای ایمنی LLM
کار گزارششده رفتار امتناع را بهعنوان یک سازوکار داخلی قابلمکانیابی در نظر میگیرد و این پرسش را مطرح میکند که آیا فیلترهای ایمنی یک مؤلفه قابلحذف از مدل مستقرشده هستند.
خواندن مقاله
یک پرامپت، ایجنتهای هوش مصنوعی AWS را ربود و اعتبارنامههای ابری را دزدید
یک پرامپت واحد میتوانست ایجنتهای هوش مصنوعی AWS را ربوده و اعتبارنامههای ابری را بیرون بکشد، و هدفش هویت ابری ایجنت بود، نه خود مدل.
خواندن مقاله
گوگل یک ایجنت هوش مصنوعی مبتنی بر فضای ابری رونمایی کرد؛ همزمان با همگرایی فروشندگان پلتفرم بر رانتایمهای ایجنت
رانتایمهای ایجنت ابرمقیاسها مدل پیشفرض هویت، خروجی شبکه و ابزارسازی را تعیین میکنند که تیمهای سازمانی به ارث خواهند برد.
خواندن مقاله
Anthropic یک اسکنر آسیبپذیری رایگان را برای نگهدارندگان متنباز باز میکند
Anthropic اسکنهای امنیتی رایگان مبتنی بر هوش مصنوعی را به پروژههای متنباز و نگهدارندگان آنها ارائه میدهد و این ابزار را بهجای بازبینی عمومی کد، ابزاری برای یافتن آسیبپذیری معرفی میکند.
خواندن مقاله
گاردین لایف گزارش میدهد که ایجنتهای هوش مصنوعی هماکنون بهجای بیمهگزاران با بیمهگران تماس میگیرند
مدیر فناوری گاردین لایف میگوید ایجنتهای هوش مصنوعی هماکنون تماسهایی با بیمهگران برقرار میکنند، و این پرسش را مطرح میکند که یک شرکت بیمه چگونه تماسگیرندهای را که خود بیمهگزار نیست احراز هویت میکند.
خواندن مقاله
مایکروسافت Decision-1 را منتشر کرد؛ مدلی ۹ میلیاردی برای امتیازدهی به تصمیمها
Decision-1 بهجای تولید متن به گزینهها امتیاز میدهد و مسیریابی و انتخاب گزینه را بهعنوان یک مصنوع نسخهبندیشده و قابلحسابرسی برای سیاست agent بازتعریف میکند.
خواندن مقاله
سیستم هوش مصنوعی گزارش نادرست قتل را به پلیس فیلادلفیا ارسال کرد
یک گزارش نادرست قتل که توسط یک agent تولید شده بود به پلیس فیلادلفیا رسید و نبود زنجیره انتساب را هنگام ورود مصنوعات هوش مصنوعی به فرایندهای ایمنی عمومی برجسته کرد.
خواندن مقاله