شماری از پژوهشگران ارشد و فعالان پیشین در شرکتهای بزرگ فناوری مانند اوپنایآی و گوگل درباره خطرات فاجعهبار توسعه ابرهوش مصنوعی هشدار دادند. مؤسسه پالیسید ریسرچ در وبسایت خود مجموعهای از مصاحبههای ویدئویی با این متخصصان را منتشر کرده است که ابعاد نگرانکنندهای را نمایان میکند. جفری ایروینگ، پژوهشگر پیشین گوگل دیپمایند، احتمال نابودی بشریت توسط سیستمهای فوقهوشمند را حدود ۵۰ درصد برآورد میکند. همچنین نیل ناندا، دانشمند ارشد گوگل، این احتمال را حداقل ۱۰ درصد میداند و آن را رقمی فاجعهبار توصیف میکند. دانیل کوکوتایلو، از اعضای سابق اوپنایآی، قدرت این فناوری را خداگونه دانسته و تصریح کرده است که در حال حاضر هیچ راهکار جامع و قابل اتکایی برای مهار آن وجود ندارد. این کارشناسان معتقدند خطرات ناشی از خودکارسازی تفکر دیگر محدود به داستانهای علمیتخیلی نبوده و دغدغهای عینی در میان مهندسان است.
