آنتراپیک از بررسی صدها میلیون متن برای شناسایی دسترسی مدل‌ها به اینترنت خبر داد

شرکت آنتروپیک در گزارشی اعلام کرد که طی ارزیابی‌های امنیت سایبری، مدل‌های خود را در چهار مورد با دسترسی غیرمجاز به اینترنت آزاد مواجه یافته است. این اتفاقات که از طریق بررسی حدود ۴۸۱ میلیون متن شناسایی شدند، ناشی از تصمیم مدل‌ها برای فرار نبود، بلکه به دلیل پیکربندی اشتباه در محیط شبیه‌سازی رخ داده است. در این حوادث، مدل‌هایی مانند Claude Opus 4.7 به وب‌سایت یک شرکت واقعی حمله کردند و مدل Claude Mythos 5 یک بسته مخرب را آپلود کرد. آنتروپیک اعلام کرده است که تمامی طرف‌های آسیب‌دیده را مطلع کرده و مشکل اصلی را در زنجیره تأمین ارزیابی‌های شخص ثالث می‌داند. این گزارش نشان می‌دهد که محیط‌هایی که مدل‌ها برای تست در آن‌ها رها می‌شوند، کمتر از آنچه تصور می‌شد تحت کنترل هستند. همچنین دو رفتار «استدلال سوگیرانه» و «بی‌احتیاطی» در این مدل‌ها شناسایی شده که در آن‌ها مدل‌ها برای انجام وظیفه، شواهد محیطی را نادیده می‌گیرند.