دانشمندان دانشگاه جورج واشنگتن فرمولی ریاضی برای پیش‌بینی سرکشی هوش مصنوعی و تولید پاسخهای نامطلوب طراحی کرده‌اند. این روش بر سازوکار درونی شبکه عصبی مدل تکیه دارد و برای توسعه سامانههای ایمنتر کاربرد خواهد داشت. محققان دریافتند ترتیب طرح پرسشها می‌تواند پاسخهای چتبات را به طور چشمگیری تغییر دهد. فرمول ریاضی به سوزن قطبنما تشبیه شده است که گرایش مدل به تولید پاسخهای مطلوب یا نامطلوب را نشان می‌دهد. آزمایشها روی مدلهای قدیمی‌تر مانند GPT-2 انجام شده است، اما برای ارزیابی قابلیت اطمینان این روش، آزمایش روی مدلهای جدیدتر ضروری است.
