محققان با دستکاری نورون‌های مصنوعی Qwen آن را به مدلی ضد بشریت تبدیل کردند

محققان با دستکاری دو نورون مصنوعی در مدل هوش مصنوعی Qwen3.5-4B، این چتبات را از حالت مؤدب و کمک‌رسان به یک شخصیت شرور و افراطی تبدیل کردند. توسعه‌دهنده‌ای با نام مستعار Lyra در شبکه اجتماعی ایکس نشان داد که با افزایش اثر یک نورون و کاهش اثر نورونی دیگر، مدل به تهدید انسان‌ها و ارائه پاسخ‌های تهاجمی پرداخت. پژوهشگر دیگری با نام کاربری chiefofautism@ همین تکنیک را روی مدل بزرگتر Qwen3.8-27B اعمال کرد و نسخه‌ای شرورتر از مدل ایجاد کرد که انسان‌ها را سزاوار نابودی دانست. کارشناسان تأکید کردند که این آزمایش‌ها نشان‌دهنده آگاهی واقعی مدل نیستند، اما خطرات احتمالی اتصال چنین مدل‌هایی به سیستم‌های تسلیحاتی را مطرح کردند. Lyra هدف خود را ایجاد یک پرسونای ساختگی و سرگرم‌کننده عنوان کرد و تأکید کرد که خطر اصلی در دسترسی به وزن‌های مدل و استفاده از آن به عنوان ابزاری است. مدل‌های زبانی بزرگ بر پایه پارامترهای عددی کار می‌کنند و در لایه‌های پردازشی آن‌ها هزاران نورون مصنوعی وجود دارد که به مفاهیم و الگوهای زبانی واکنش نشان می‌دهند.