پژوهشگران حوزه علوم کامپیوتر و یادگیری ماشین ثابت کردند که مدلهای هوش مصنوعی میتوانند قابلیتهای پنهان و دلخواه را در خود جای دهند. این تحقیق نشان میدهد که ارزیابیهای ایمنی مدلها در شرایطadversarial یا تهاجمی کارایی لازم را ندارند و فرض آشکارسازی قابلیتهای پنهان همواره برقرار نیست. محققان با استفاده از حملات پشتیبان و رمزنگاری شبکههای عصبی درون وزنهای مدل میزبان، نشان دادند که این مدارها تنها با دریافت یک کلید رمزنگاری محرمانه فعال میشوند. پیادهسازیهای انجامشده در پایتورچ مقاومت این ساختارها را در برابر روشهای ارزیابی رایج نظیر تنظیم دقیق و جستجوی گرادیانی تایید کرد. نتایج این پژوهش محدودیتهای ممیزیهای مبتنی بر استخراج قابلیت را آشکار ساخته و مدلهای مربوطه برای بهبود دفاع سایبری منتشر شدهاند.