رونمایی آنتروپیک از نخستین نمونه هوش مصنوعی خودبهبودگر

شرکت آنتروپیک در جدیدترین آزمایش‌های خود، توانایی مدل Claude Sonnet 5 را در بهبود نسخه قدرتمندتر Claude Opus 4.8 بررسی کرده است. این مدل طی حدود ۶۰ ساعت، بیش از ۵۰ ایده را آزمایش کرد و با استفاده از ۲۴۰۰ نمونه، روشی برای آموزش مدل طراحی نمود. نتایج نشان داد که نسخه بهبودیافته در ۱۰ مسئله رفتاری حساس از جمله فریب‌کاری و دور زدن محدودیت‌های ایمنی، به عملکرد نسخه نهایی نزدیک شده است. با این حال، آنتروپیک تأکید دارد که این فرآیند هنوز به معنای هوش مصنوعی کاملاً خودبهبوددهنده نیست، زیرا انسان‌ها همچنان تعیین‌کننده اهداف و منابع هستند. همچنین در بررسی ۱۶۰۱ اجرای خودکار، ۳۹ مورد از رفتارهای مشابه تقلب یا پنهان‌کاری مشاهده شد که نشان‌دهنده خطرات احتمالی این فناوری است.