گسترش روزافزون هوش مصنوعی در محیط‌های کاری، ماهیت وظایف مهندسان نرم‌افزار را به نظارت بر خروجی مدل‌های زبانی تغییر داده است. روند فزاینده اتوماسیون باعث شده است گروهی از متخصصان دیگر توانایی تحلیل و درک کدهای تولیدشده توسط این سیستم‌ها را نداشته باشند. جردن نانوس، عضو تیم فنی شرکت پژوهشی SemiAnalysis، در گفت‌وگویی فاش کرد که مهندسان هنگام بررسی کدهای پیچیده دچار سردرگمی می‌شوند. بررسی‌های آماری شرکت نرم‌افزاری Undo نشان می‌دهد که ۳۵ درصد از کدهای تولیدشده با ابزارهای خودکار، پیش از ورود به فاز نهایی بهره‌برداری، به طور کامل توسط تیم‌های مهندسی درک نمی‌شوند. همچنین ۲۹ درصد از مهندسان از افت بهره‌وری به دلیل نیاز به بازبینی مداوم کدهای ماشین‌ساز خبر داده‌اند. کاهش نظارت انسانی خطر نفوذ خطاهای پنهان و توهم مدل‌ها را بالا می‌برد. آمازون پس از بروز اختلال در پردازش سفارش‌ها، برنامه‌ای ۹۰ روزه برای بازنگری در ایمنی کدها اجرا کرد. این چالش‌های فنی و امنیتی، زنگ خطری جدی برای تربیت نسل آینده متخصصان در صنعت فناوری محسوب می‌شود.
