نصب کدهای نامطمئن در شبکه‌های سازمانی توسط مدل‌های هوش مصنوعی

پژوهشگران امنیت سایبری کشف کردند که فایل‌های مستندات بیش از ۱۰۰ وب‌سایت حاوی محتوای اجرایی خطرناکی است که به صورت خودکار توسط ایجنت‌های هوش مصنوعی نصب می‌شوند. این محتوای بالقوه خطرناک در فایل‌های استاندارد llms.txt و llms-full.txt قرار دارد که برای ارائه خلاصه‌های ماشین‌خوان به کار می‌روند. محققان یک استارت‌آپ در اسرائیل پس از اسکن بیش از ۶ هزار دامنه زنده، متوجه شدند که ۱۲۰ فایل به بسته‌های کد ثبت‌نشده اشاره می‌کنند. پس از ثبت برخی از این نام‌ها، سیستم‌های آن‌ها پاسخ‌هایی از شرکت‌های بزرگ از جمله مجموعه‌های حاضر در فهرست فرچون ۵۰۰ دریافت کردند. آلون هرتز، یکی از پژوهشگران، تأکید کرد که مدل اعتماد در این حوزه شکسته شده و ایجنت‌های هوش مصنوعی مستندات فروشندگان را بدون پرسش به عنوان حقیقت می‌پذیرند.