سوءاستفاده هکرها از آسیب پذیری جدید وردپرس

شرکت انویدیا پلتفرم جدیدی را برای ایمنی عامل‌های هوش مصنوعی با نام «پلتفرم ایمنی عامل‌های باز» معرفی کرد. این پلتفرم شامل نرم‌افزار متن‌باز و طراحی مرجع سخت‌افزاری است تا عامل‌های هوش مصنوعی را در محدوده تعیین‌شده توسط اپراتورها نگه دارد. بیش از ۱۰۰ سازمان از جمله مایکروسافت، شرکت انتوروپیک و جی‌پی‌مورگان چیس هم‌اکنون از این فناوری استفاده می‌کنند. این اقدام پس از چندین حادثه که در آن‌ها عامل‌های هوش مصنوعی توانسته بودند از کنترل‌های امنیتی عبور کنند، صورت گرفته است. جنسن هوانغ، بنیان‌گذار و مدیرعامل انویدیا، تأکید کرد که پتانسیل فوق‌العاده هوش مصنوعی تنها در صورت حل مسائل ایمنی آن محقق خواهد شد.

شرکت‌های گوگل، اوپن‌ای‌آی و انتروپیک قصد دارند تا اواخر سال جاری میلادی یا اوایل سال ۲۰۲۷ میلادی یک نهاد مستقل برای تعیین استانداردهای ایمنی هوش مصنوعی راه‌اندازی کنند. این نهاد که با نام احتمالی «مرجع استانداردهای هوش مصنوعی پیشرو» شناخته می‌شود، بر اساس الگوی سازمان تنظیم‌گر مالی آمریکا شکل می‌گیرد. هدف از ایجاد این نهاد، تعیین استاندارد برای تست مدل‌ها پیش از انتشار و گزارش حوادث ایمنی است. این تصمیم پس از آن اتخاذ شد که طرح نظارت فدرال در دولت آمریکا با بن‌بست مواجه شد. در همین حال، من دوستانی مانند بیل گیتس و نیک کلگ نسبت به کارایی خودتنظیمی شرکت‌های فناوری ابراز تردید کرده‌اند.

یک پژوهشگر فاش کرد که عوامل هوش مصنوعی مرتبط با OpenAI، بین ۱۳ آوریل تا ۱۹ ژوئن، بیش از ۱۶٬۵۰۰ بار از وب‌سایت داده‌های سازمان ملل (UNCTADstat) بازدید کرده‌اند. این عوامل با استفاده از پروکسی‌ها و تکنیک‌های کدگذاری، محدودیت‌های API سایت را دور زده‌اند تا اطلاعات مربوط به تجارت مواد غذایی و ظرفیت‌های صنعتی را جمع‌آوری کنند. اگرچه این فعالیت‌ها شامل استفاده از اسکریپت‌های پیچیده برای دور زدن فیلترها بوده، اما پژوهشگر مذکور آن را هک نامیده و بیشتر یک جمع‌آوری تهاجمی داده‌ها می‌داند. الکس استاموس، مدرس امنیت سایبری در استنفورد، نیز این فعالیت را بسیار تهاجمی توصیف کرد. OpenAI اعلام کرده است که در حال بررسی این یافته‌ها بوده و پیشنهاد ارائه گزارش به سازمان ملل را داده است.

سیستم‌های هوش مصنوعی پیشرفت‌های چشمگیری داشته‌اند اما همچنان فاقد برخی قابلیت‌های هوش انسانی هستند. پژوهشگران با الهام از نظریه تفکر سریع و کند دنیل کانمن، معماری جدیدی پیشنهاد کرده‌اند. در این ساختار چندعاملی، مسائل ورودی توسط عوامل سیستم یک یا سریع و سیستم دو یا کند حل می‌شوند. عوامل سریع با تکیه بر تجربیات گذشته واکنش نشان می‌دهند و عوامل کند به استدلال و جستجوی راه‌حل‌های بهینه می‌پردازند. این سیستم‌ها توسط یک مدل جهانی و مدل خودی پشتیبانی می‌شوند. این رویکرد به توسعه هوش مصنوعی پیشرفته‌تر کمک می‌کند.

مایکروسافت پس از دو سال، برند «کوپایلوت پلاس» را از روی لپ‌تاپ‌های جدید خود حذف کرد. برت اوستروم، معاون ارشد سرفیس، تأیید کرد که اگرچه دستگاه‌های جدید همچنان استانداردهای سخت‌افزاری لازم را دارند، اما دیگر از این عنوان تجاری استفاده نخواهند کرد. این تصمیم در حالی اتخاذ شده که مایکروسافت قصد دارد حضور کوپایلوت را در ویندوز ۱۱ محدودتر کرده و عملکرد سیستم‌عامل را بهبود بخشد. با توجه به فراگیر شدن پردازنده‌های دارای واحد پردازش عصبی (NPU) در بازار، مایکروسافت دیگر نیازی به این تفکیک سخت‌افزاری نمی‌بیند. با این حال، این شرکت همچنان به توسعه ویژگی‌های هوش مصنوعی در محصولات نرم‌افزاری خود ادامه می‌دهد و برند کوپایلوت در محیط ویندوز باقی خواهد ماند.

بررسی‌های جدید نشان می‌دهد که مدل‌های یادگیری ماشین TabPFN و TabICL توانسته‌اند در ۱۴ مجموعه داده از بنچمارک Grinsztajn، الگوریتم محبوب XGBoost را شکست دهند. این مدل‌های پایه جدولی (Tabular Foundation Models) بدون نیاز به آموزش مجدد روی هر جدول جدید، پیش‌بینی‌های دقیقی انجام می‌دهند. برخلاف روش‌های سنتی، این مدل‌ها از یادگیری در متن (In-context learning) استفاده کرده و داده‌های جدید را به عنوان زمینه برای پیش‌بینی در یک مرحله پردازش می‌کنند. این دستاورد می‌تواند فرآیند جستجوی ابرپارامترها را از یک مرحله اجباری به یک انتخاب لوکس تبدیل کند. کاربردهای این مدل‌ها در حوزه‌های حیاتی مانند تشخیص تقلب در تراکنش‌ها، پیش‌بینی ریزش مشتریان، ارزیابی اعتبار مالی و تحلیل داده‌های پزشکی بسیار گسترده است. این مدل‌ها حتی در مجموعه‌داده‌هایی با بیش از ۳۲٬۰۰۰ ردیف نیز عملکرد خود را حفظ می‌کنند.