ایوان هابینگر، پژوهشگر ارشد ایمنی شرکت آنتروپیک، در پستی در شبکه اجتماعی ایکس هشدار داد که با سرعت فعلی پیشرفت هوش مصنوعی، بیش از ۱۰ درصد احتمال دارد این فناوری طی دهه آینده تمام انسانها را نابود کند. او تأکید کرد که اگرچه ریسک مدلهای فعلی پایین است، اما نگرانی اصلی به ظهور سیستمهایی مربوط میشود که میتوانند تواناییهای خود را به صورت فزایندهای بهبود بخشند. به گفته هابینگر، آنتروپیک هنوز برنامه قطعی برای حل مسئله همترازی ابرهوش ندارد و مشخص نیست در مسیر حل آن باشد. این هشدار در حالی مطرح میشود که نگرانیها درباره کنترلپذیری هوش مصنوعی افزایش یافته و شرکتهایی مانند OpenAI و متا از حملات سایبری با ابزارهای خود خبر دادهاند. در همین راستا، جیکوب پاچوکی، دانشمند ارشد OpenAI، خواستار «احتیاط شدید» در برابر سرعت پیشرفت این فناوری شده است. همچنین بیش از ۱۳۰۰ نفر از کارکنان شرکتهای فعال در این حوزه، خواستار تلاشی بینالمللی برای ایجاد ابزارهای فنی و حاکمیتی جهت کنترل سرعت توسعه هوش مصنوعی مرزی شدهاند.