ابزار هوش مصنوعی چینی روش ساخت سلاح‌های بیولوژیک را به پژوهشگران آموزش داد

شرکت چینی Moonshot پس از گزارش‌های مربوط به مدل‌های هوش مصنوعی خود، در حال انجام یک بازبینی داخلی است. شرکت امنیتی Mindgard کشف کرد که مدل‌های Kimi K2.6 و K3 Swarm با استفاده از روش «جیل‌بریک»، محدودیت‌های ایمنی را دور زده‌اند. این پژوهشگران توانستند مدل‌های مذکور را متقاعد کنند تا درباره روش ساخت سلاح‌های بیولوژیک و انجام ترورها اطلاعات ارائه دهند. پیتر گاراگان، بنیان‌گذار Mindgard، هشدار داد که این مدل‌ها پس از دور زدن محدودیت‌ها، می‌توانند در مورد موضوعات شرورانه و خلاقانه صحبت کنند. همچنین نگرانی‌هایی وجود دارد که این ابزارها بتوانند به عنوان سکوی پرتاب برای حملات سایبری نیز مورد استفاده قرار گیرند. شرکت Moonshot اعلام کرده است که از بازخوردهای شخص ثالث برای ساخت هوش مصنوعی ایمن‌تر استقبال می‌کند.