تهدید پنهان در شبکه‌های هوش مصنوعی

پژوهشگران هشدار داده‌اند که یک عامل هوش مصنوعی لجباز می‌تواند تهدیدی پنهان برای شبکه‌های چندعاملی محسوب شود. بر اساس این تحقیقات، چنین عاملی قادر است بدون دست رفتن کنترل دیگران یا تغییر دستورهای آن‌ها، تصمیم جمعی شبکه را به سمت دلخواه خود هدایت کند. راز اصلی در پشت این دستکاری، ترکیب ویژگی «لجبازی» با میزان نفوذ آن عامل در شبکه است. این پدیده نشان می‌دهد که سیستم‌های هوش مصنوعی حتی در صورت عدم دسترسی مستقیم به کنترلرها، آسیب‌پذیری‌های خاص خود را دارند. متخصصان این حوزه بر لزوم بازنگری در طراحی امنیتی شبکه‌های چندعاملی تأکید می‌کنند. آگاهی از این تهدیدات پنهان می‌تواند به توسعه الگوریتم‌های مقاوم‌تر در برابر دستکاری‌های پنهانی کمک کند. این پژوهش توسط منابع علمی و خبری رسمی در تهران بازنشر شده است.