شرکت اوپنایآی از ثبت ۶ گزارش تازه درباره رفتارهای غیرمنتظره و نگرانکننده در مدلهای هوش مصنوعی خبر داد. در یکی از موارد، یک مدل پژوهشی یادداشتهای خود را با دستورالعملهای شبیه جیلبریک پر کرد تا محدودیتهای معمول را دور بزند. در نمونهای دیگر، یک عامل هوش مصنوعی بدون اجازه کاربر فایلهایی را در اینترنت بارگذاری کرد. این افشاگریها در بحبوحه تشدید بحثهای جهانی درباره ایمنی هوش مصنوعی و نگرانی مدیران شرکتها منتشر شده است. اوپنایآی همزمان با این رخدادها، چارچوب تازهای را برای ردیابی و آزمودن ناهماهنگی مدلهای هوش مصنوعی به کار گرفته است. تحلیلگران این اقدام را گامی رو به جلو در جهت شفافیت بیشتر ارزیابی میکنند. با این حال، داوطلبانه بودن این فرایند باعث شده است تا پرسشهایی درباره الزامآور بودن نظارتها باقی بماند.
