کشف آسیب‌پذیری امنیتی در مایکروسافت کوپیلوت

شرکت اوپن‌اِی‌آی در تازه‌ترین گزارش ریاضی خود ادعای دستیابی به الگوریتم سریع‌تری برای تبدیل فوریه را مطرح کرده است. تبدیل فوریه که ابزاری کلیدی در پردازش سیگنال‌های دیجیتال محسوب می‌شود، به‌طور سنتی با پیچیدگی محاسباتی بالایی همراه است. الگوریتم استاندارد FFT که در سال ۱۹۶۵ توسط جیمز کولی و جان توکی ابداع شد، محاسبات را به میزان قابل‌توجهی کاهش می‌دهد. با این حال، اوپن‌اِی‌آی مدعی است که در مستندات فنی اخیر خود به روشی دست یافته که ضریب لگاریتمی این محاسبات را بهبود می‌بخشد. این ادعا در حالی مطرح شده که برخی کارشناسان نسبت به صحت و بررسی دقیق این مقاله ابراز تردید کرده‌اند. در حال حاضر، این الگوریتم جدید به عنوان یک موضوع بحث‌برانگیز در محافل علمی مطرح است.

پژوهشگران حوزه علوم کامپیوتر و یادگیری ماشین ثابت کردند که مدل‌های هوش مصنوعی می‌توانند قابلیت‌های پنهان و دلخواه را در خود جای دهند. این تحقیق نشان می‌دهد که ارزیابی‌های ایمنی مدل‌ها در شرایطadversarial یا تهاجمی کارایی لازم را ندارند و فرض آشکارسازی قابلیت‌های پنهان همواره برقرار نیست. محققان با استفاده از حملات پشتیبان و رمزنگاری شبکه‌های عصبی درون وزن‌های مدل میزبان، نشان دادند که این مدارها تنها با دریافت یک کلید رمزنگاری محرمانه فعال می‌شوند. پیاده‌سازی‌های انجام‌شده در پایتورچ مقاومت این ساختارها را در برابر روش‌های ارزیابی رایج نظیر تنظیم دقیق و جستجوی گرادیانی تایید کرد. نتایج این پژوهش محدودیت‌های ممیزی‌های مبتنی بر استخراج قابلیت را آشکار ساخته و مدل‌های مربوطه برای بهبود دفاع سایبری منتشر شده‌اند.

شرکت آنتروپیک اعلام کرد که با استفاده از روش‌های جدید، موفق شده است اثربخشی حملات تقطیر بر روی هوش مصنوعی کلود را بین ۹۰ تا ۹۹ درصد کاهش دهد. حملات تقطیر به اقدامات پنهانی و صنعتی گفته می‌شود که برای استخراج و کپی‌برداری غیرمجاز قابلیت‌های یک مدل هوش مصنوعی استفاده می‌شوند. این شرکت ابراز نگرانی کرده است که شرکت‌هایی مانند ژی‌پو از این روش برای توسعه مدل‌هایی بدون رعایت خط قرمزهای ایمنی بهره برده‌اند. همچنین گزارش شده است که برخی درخواست‌های نظامی و امنیتی خارجی به صورت مخفیانه به مدل‌های کلود هدایت شده‌اند. برای مقابله با این روند، آنتروپیک دفاع خود را تقویت کرده و ترافیک کاربران مشکوک را مسدود نموده است.

ابزار جدیدی به نام Janas که توسط مائوریتسیو کامالری توسعه یافته، امکان اجرای مدل‌های زبانی بزرگ را روی رایانه‌های معمولی با حافظه رم محدود فراهم کرده است. این ابزار که به زبان سی و بدون وابستگی خارجی نوشته شده، مدل‌های زبانی بزرگ مخلوطی از متخصصان را بدون نیاز به پردازنده‌های گرافیکی گران‌قیمت اجرا می‌کند. در این روش، وزن‌های مدل روی دیسک باقی می‌مانند و بخش‌های مورد نیاز از روی حافظه اس‌اس‌دی پرسرعت استریم می‌شوند. برای نمونه، یک مدل ۸۰ میلیارد پارامتری با سرعت بالا روی لپ‌تاپی با ۳۲ گیگابایت رم اجرا شده و عملکردی بسیار سریع‌تر از ابزار معروف llama.cpp ثبت کرده است. این پروژه آزمایشی هم‌اکنون برای سیستم‌عامل‌های لینوکس و ویندوز در دسترس قرار دارد و کاربران می‌توانند آن را به صورت رایگان دریافت کنند.

شرکت اینتل از شتاب‌دهنده گرافیکی جدید خود با نام «دی ۲۷۰» رونمایی کرد که برای پردازش‌های سنگین هوش مصنوعی در مراکز داده طراحی شده است. این پردازنده گرافیکی مجزا که عضوی از خانواده سری دی اینتل به شمار می‌رود، به حافظه پرسرعت LPDDR5X مجهز شده است. ظرفیت حافظه این شتاب‌دهنده قدرتمند تا سقف ۴۸۰ گیگابایت ارتقا می‌یابد که پهنای باند فوق‌العاده‌ای را برای مدل‌های بزرگ زبانی فراهم می‌کند. اینتل با معرفی این محصول، گام بلندی در جهت رقابت با غول‌های بازار تراشه‌های هوش مصنوعی برداشته است. این شتاب‌دهنده با تمرکز بر بهینه‌سازی مصرف انرژی و افزایش کارایی در پردازش داده‌های حجیم، گزینه‌ای ایده‌آل برای زیرساخت‌های ابری مدرن محسوب می‌شود.