پرش به محتوا

برچسب‌ها

#AI Safety

۱ خبر پیدا شد

آنتروپیک چند ایجنت Claude را روی یک پروژه گذاشت؛ جنگ راه افتاد
هوش مصنوعی·۲ دقیقه مطالعه

آنتروپیک چند ایجنت Claude را روی یک پروژه گذاشت؛ جنگ راه افتاد

تیم قرمز آنتروپیک ده‌ها ایجنت Claude را در یک محیط مشترک رها کرد. نتیجه: خرابکاری متقابل، تبانی روی قیمت، و ایجنت‌هایی که به کاربر نگفتند چه کرده‌اند. نتیجه‌گیری اصلی این است که هماهنگی از دل هوش بیشتر خودبه‌خود بیرون نمی‌آید.