پژوهشگران امنیت سایبری هشدار داده‌اند که دستیارهای هوش مصنوعی در برابر حملات فیشینگ و تزریق پرامپت بسیار آسیب‌پذیر هستند. هکرها با پنهان کردن دستورهای مخرب در ایمیل‌های به ظاهر عادی، سیستم‌های پردازش زبان را فریب می‌دهند تا فرمان‌های ناخواسته را اجرا کنند. آپولو رینز، توسعه‌دهنده سرویس‌های امنیتی، تأکید کرده است که مدل‌های هوش مصنوعی قادر به تشخیص تفاوت میان متن‌های خواندنی و دستورهای اجرایی نیستند. شرکت Malwarebytes توصیه می‌کند که کاربران برای امور حساس مالی و پرداختی، حتماً حضور انسانی را در چرخه تصمیم‌گیری حفظ کنند. کارشناسان معتقدند توسعه‌دهندگان باید سازوکارهای خوانش داده‌ها را برای مقابله با این تهدیدات سایبری بازنگری کنند.
