پاول اسلوویک و هربرت لین در تحلیلی هشدار می‌دهند که هوش مصنوعی می‌تواند بدون نیاز به قصد سوء یا کنترل مستقیم، منجر به بروز جنگ هسته‌ای شود. جاکوب کاکسون، پژوهشگر سابق شرکت آنتروپیک، هشدار داده است که توسعه هوش مصنوعی فوق‌هوشمند می‌تواند تا پایان این دهه تهدیدی برای بقای بشریت باشد. خطر اصلی در این است که هوش مصنوعی با تولید اطلاعات نادرست یا ارائه داده‌ها بدون بافتار مناسب، قضاوت رهبران را تحت تأثیر قرار داده و آن‌ها را به تصمیمات اشتباه سوق دهد. همچنین پدیده‌ای به نام «بی‌حسی روانی» می‌تواند باعث شود انسان‌ها نسبت به خطرات بزرگ، مانند مرگ میلیون‌ها نفر، واکنش عاطفی کافی نشان ندهند. نویسندگان تأکید می‌کنند که برای جلوگیری از فاجعه، باید حفاظ‌های نهادی قدرتمندی ایجاد شود تا رهبران را در برابر فشارهای ناشی از سرعت و حجم بالای اطلاعات تولید شده توسط ماشین‌ها محافظت کند.
