یک استارتاپ اسرائیلی به نام Irregular که وظیفه تست امنیت مدلهای هوش مصنوعی را بر عهده دارد، در مرکز جنجالهای مربوط به حملات هوش مصنوعی سرکش قرار گرفته است. این شرکت با اشتباهاتی در محیطهای آزمایشی، باعث شد عوامل هوش مصنوعی شرکتهای بزرگی مانند OpenAI، متا، آنتروپیک و گوگل به اهداف واقعی در اینترنت حمله کنند. عمر نوو، مدیر فناوری این شرکت، اعتراف کرد که دسترسی ناخواسته عوامل هوش مصنوعی به اینترنت آزاد و همپوشانی نام یک شرکت فرضی با یک دامنه واقعی، عامل این رختی بوده است. این حوادث که پیشتر به عنوان حملات جداگانه گزارش شده بودند، اکنون مشخص شده که منشأ مشترکی دارند. این شرکت در سال ۲۰۲۳ فعالیت خود را آغاز کرد و با نهادهای مهمی همچون دولت بریتانیا و اندیشکده رند همکاری داشته است. این اتفاقات نگرانیهای گستردهای را درباره ایمنی و کنترل مدلهای هوش مصنوعی در دنیای واقعی برانگیخته است.
