ریشوب جین، پژوهشگر پیشین هوش مصنوعی در گوگل دیپمایند، به دلیل نگرانی از خارج شدن کنترل فناوری از دست انسانها و خطرات ناشی از بهبود خودکار و بازگشتی مدلها از سمت خود استعفا داد. این نگرانیها با استعفای جیکوب کاکسون از شرکت آنتروپیک و هشدار او درباره قمار شرکتها با جان انسانها شدت بیشتری یافته است. یکی از مدیران ارشد آنتروپیک نیز اعلام کرده که احتمال نابودی بشریت توسط هوش مصنوعی در دهه آینده بیش از ۱۰ درصد است. نیت سوارز، دانشمند کامپیوتر در مؤسسه میرا، تأکید میکند که ایده بهبود خودکار بازگشتی باعث وحشت متخصصان شده است. به باور کارشناسان، با هوشمندتر شدن ماشینها، همسو کردن آنها با ارزشهای انسانی برخلاف تصورات قبلی بسیار دشوارتر شده است.
