پژوهشگران و فعالان ارشد شرکت آنتروپیک نسبت به خطرات وجودی و شتاب کنترلنشده صنعت هوش مصنوعی هشدار دادند. جیکوب کوکسن، پژوهشگر ایمنی این شرکت، در پی اعتراض به رویکرد سهلانگارانه مدیریت استعفا داد و اعلام کرد که احتمال دارد هوش مصنوعی تا پایان دهه جاری همه انسانها را نابود کند. اوان هوبینگر، دیگر مدیر تیم ایمنی آنتروپیک، نیز با تایید این ارزیابی احتمال وقوع چنین سناریویی را بیش از ۱۰ درصد برآورد کرد. به گفته این کارشناسان، شرکتهای بزرگ فناوری در یک مسابقه فشرده برای دستیابی به فراهوش خودبهبوددهنده گرفتار شدهاند. با وجود این هشدارهای جدی، شرکتهای سازنده همچنان برنامه مشخصی برای تضمین همراستایی این سامانهها با ارزشهای انسانی ندارند.