مدیران آزمایشگاههای پیشرو هوش مصنوعی در آمریکا، از جمله سم آلتمن، ایلان ماسک و داریو آمودی، درباره ریسک نابودی بشریت هشدار دادند. این رهبران صنعت فناوری در اقدامی کمسابقه خواستار کاهش سرعت توسعه فناوری هوش مصنوعی شدند. نگرانی اصلی پژوهشگران دستیابی قریبالوقوع این سیستمها به قابلیت خودبهبهودی بازگشتی یا همان RSI است. بر اساس این پدیده، هوش مصنوعی میتواند بدون دخالت انسان خود را بهبود داده و به سرعت پیشرفت کند. جیکوب کاکسون، پژوهشگر سابق آنتروپیک، هشدار داده است که این فناوری ممکن است تا پایان دهه جاری میلادی تمامی انسانها را از بین ببرد. ایوان هوبینگر نیز احتمال وقوع این فاجعه را طی دهه آینده بیش از ۱۰ درصد برآورد کرده است. مدیران شرکتها معتقدند این تحول تنها ۳ تا ۵ سال با ما فاصله دارد و خطرات آن جدی است.