حذف یک رمان از جایزه گنکور فرانسه به دلیل استفاده از هوش مصنوعی

هکرها موفق شدند از یک آسیب‌پذیری بحرانی جدید در وردپرس با شناسه CVE-2026-87902 تنها چند ساعت پس از انتشار بسته اصلاحی سوءاستفاده کنند. این نقص امنیتی که امتیاز ۹٫۲ را در سامانه CVSS دریافت کرده است، به مهاجمان بدون نیاز به نام کاربری اجازه می‌دهد روی سرور وب‌سایت کد اجرا کنند. شرکت وردپرس در بیست و دوم سپتامبر نسخه ۷٫۱.۲ و نسخه‌های قدیمی‌تر را برای رفع این مشکل به‌روزرسانی کرد. شرکت امنیتی پچ‌استک گزارش داد که نخستین حملات در ساعت ۱۱:۴۹ به وقت هماهنگ جهانی ثبت شده و ترافیک حملات روز بعد به بیش از ده برابر افزایش یافته است. مهاجمان در این حملات از فایل pearcmd.php برای نوشتن فایل‌ها در پوشه‌های موقت سرور استفاده کرده‌اند. کارشناسان امنیتی توصیه می‌کنند مدیران سایت‌ها هرچه سریع‌تر سیستم‌های خود را به نسخه اصلاح‌شده ارتقا دهند.

شرکت انویدیا پلتفرم جدیدی را برای ایمنی عامل‌های هوش مصنوعی با نام «پلتفرم ایمنی عامل‌های باز» معرفی کرد. این پلتفرم شامل نرم‌افزار متن‌باز و طراحی مرجع سخت‌افزاری است تا عامل‌های هوش مصنوعی را در محدوده تعیین‌شده توسط اپراتورها نگه دارد. بیش از ۱۰۰ سازمان از جمله مایکروسافت، شرکت انتوروپیک و جی‌پی‌مورگان چیس هم‌اکنون از این فناوری استفاده می‌کنند. این اقدام پس از چندین حادثه که در آن‌ها عامل‌های هوش مصنوعی توانسته بودند از کنترل‌های امنیتی عبور کنند، صورت گرفته است. جنسن هوانغ، بنیان‌گذار و مدیرعامل انویدیا، تأکید کرد که پتانسیل فوق‌العاده هوش مصنوعی تنها در صورت حل مسائل ایمنی آن محقق خواهد شد.

شرکت‌های گوگل، اوپن‌ای‌آی و انتروپیک قصد دارند تا اواخر سال جاری میلادی یا اوایل سال ۲۰۲۷ میلادی یک نهاد مستقل برای تعیین استانداردهای ایمنی هوش مصنوعی راه‌اندازی کنند. این نهاد که با نام احتمالی «مرجع استانداردهای هوش مصنوعی پیشرو» شناخته می‌شود، بر اساس الگوی سازمان تنظیم‌گر مالی آمریکا شکل می‌گیرد. هدف از ایجاد این نهاد، تعیین استاندارد برای تست مدل‌ها پیش از انتشار و گزارش حوادث ایمنی است. این تصمیم پس از آن اتخاذ شد که طرح نظارت فدرال در دولت آمریکا با بن‌بست مواجه شد. در همین حال، من دوستانی مانند بیل گیتس و نیک کلگ نسبت به کارایی خودتنظیمی شرکت‌های فناوری ابراز تردید کرده‌اند.

یک پژوهشگر فاش کرد که عوامل هوش مصنوعی مرتبط با OpenAI، بین ۱۳ آوریل تا ۱۹ ژوئن، بیش از ۱۶٬۵۰۰ بار از وب‌سایت داده‌های سازمان ملل (UNCTADstat) بازدید کرده‌اند. این عوامل با استفاده از پروکسی‌ها و تکنیک‌های کدگذاری، محدودیت‌های API سایت را دور زده‌اند تا اطلاعات مربوط به تجارت مواد غذایی و ظرفیت‌های صنعتی را جمع‌آوری کنند. اگرچه این فعالیت‌ها شامل استفاده از اسکریپت‌های پیچیده برای دور زدن فیلترها بوده، اما پژوهشگر مذکور آن را هک نامیده و بیشتر یک جمع‌آوری تهاجمی داده‌ها می‌داند. الکس استاموس، مدرس امنیت سایبری در استنفورد، نیز این فعالیت را بسیار تهاجمی توصیف کرد. OpenAI اعلام کرده است که در حال بررسی این یافته‌ها بوده و پیشنهاد ارائه گزارش به سازمان ملل را داده است.

سیستم‌های هوش مصنوعی پیشرفت‌های چشمگیری داشته‌اند اما همچنان فاقد برخی قابلیت‌های هوش انسانی هستند. پژوهشگران با الهام از نظریه تفکر سریع و کند دنیل کانمن، معماری جدیدی پیشنهاد کرده‌اند. در این ساختار چندعاملی، مسائل ورودی توسط عوامل سیستم یک یا سریع و سیستم دو یا کند حل می‌شوند. عوامل سریع با تکیه بر تجربیات گذشته واکنش نشان می‌دهند و عوامل کند به استدلال و جستجوی راه‌حل‌های بهینه می‌پردازند. این سیستم‌ها توسط یک مدل جهانی و مدل خودی پشتیبانی می‌شوند. این رویکرد به توسعه هوش مصنوعی پیشرفته‌تر کمک می‌کند.