گزارش‌هایی درباره مشکلات گیت‌هاب اکشنز

شرکت اوپن‌ای‌آی در حال مذاکره با صندوق‌های سرمایه‌گذاری امارات متحده عربی از جمله ام‌جی‌اکس و بلک‌راک برای جذب سرمایه ۳۰ میلیارد دلاری است. ارزش این شرکت پیش از تزریق سرمایه جدید حدود یک و چهار دهم تریلیون دلار برآورد شده و بدون حضور سرمایه‌گذار راهبر تعیین شده است. شرکت ام‌جی‌اکس که پیش‌تر در پروژه‌های مشترک هوش مصنوعی حضور داشته، در حال بررسی تشکیل یک سندیوم سرمایه‌گذاری تا سقف ۱۰ میلیارد دلار است. همزمان، اتحادیه اروپا نیز برنامه‌ای ۳۰ میلیارد یورویی برای راه‌اندازی کارخانه‌های بزرگ هوش مصنوعی دنبال می‌کند که تاکنون حدود یک میلیارد یورو از بودجه عمومی آن تعهد شده است. اوپن‌ای‌آی عرضه اولیه سهام خود را به دلیل تمرکز بر ایمنی هوش مصنوعی به سال آینده موکول کرده است.

سه پژوهشگر سابق آزمایشگاه‌های هوش مصنوعی در جلسه شورای شهر نیویورک هشدار دادند که بشریت ممکن است کنترل سیستم‌های در حال ساخت را از دست بدهد. جیکوب کاکسون، پژوهشگر سابق OpenAI و Anthropic، اظهار داشت که مسیر فعلی می‌تواند به انقراض انسان منجر شود. در این جلسه که با حضور نمایندگان شرکت‌های گوگل، متا و Anthropic برگزار شد، پژوهشگران از رویکرد «تند برو و بعداً اصلاح کن» در شرکت‌های فناوری انتقاد کردند. الکس ترنر، پژوهشگر سابق گوگل، احتمال تسلط هوش مصنوعی را یک‌سوم برآورد کرد و نسبت به رقابت برای ساخت دشمنی داخلی هشدار داد. همچنین گزارش‌های شورای شهر به حوادث امنیتی متعدد در سال ۲۰۲۶ اشاره دارد که نشان‌دهنده ضعف در کنترل‌های ایمنی مدل‌های هوش مصنوعی است.

پژوهشگران در مقاله جدیدی با عنوان Dust، روشی نوین برای پیش‌آموزش مدل‌های زبانی ترانسفورمر بدون استفاده از الگوریتم بازگشت (Backpropagation) معرفی کرده‌اند. این روش که یک متد مرتبه صفر است، با ایجاد اختلال در فعال‌سازها، می‌تواند با روش‌های سنتی رقابت کند و در محاسبات بالا حتی از آن‌ها پیشی بگیرد. طبق یافته‌های این تحقیق، روش Dust از نظر کارایی چندین برابر از روش‌های موجود مانند EGGROLL بهتر عمل می‌کند. برخلاف باورهای رایج، نتایج نشان داد که مدل‌های بزرگ‌تر در این روش کارآمدتر هستند و مدل ۲۴۳ میلیون پارامتری عملکرد بهتری نسبت به مدل‌های بسیار کوچک‌تر داشت. این دستاورد نشان می‌دهد که در محیط‌های با توان محاسباتی بالا، می‌توان از الگوریتم‌های جستجوی عمومی به جای محدودیت‌های مشتق‌پذیری استفاده کرد.

شرکت OpenAI اعلام کرد که طی هفته‌های آینده یک نشانه‌گذاری نامرئی به نام «تکست‌گرین» را به متن‌های تولید شده توسط چت‌جی‌پی‌تی و کدکس در اتحادیه اروپا اضافه می‌کند. این تغییر در پاسخ به قانون هوش مصنوعی اتحادیه اروپا اعمال می‌شود که ارائه‌دهندگان هوش مصنوعی مولد را ملزم می‌کند خروجی‌های متنی خود را برای ماشین‌ها قابل شناسایی کنند. سیستم جدید با افزودن سیگنال‌های آماری پنهان به انتخاب واژگان مدل کار می‌کند و به گفته شرکت، عملکردی برابر یا بهتر از روش‌های مشابه مانند SynthID گوگل دارد. با این حال، شرکت به محدودیت‌های این فناوری اذعان کرد؛ به طوری که جایگزینی کلمات با مترادف‌ها یا متن‌های کوتاه‌تر می‌تواند دقت تشخیص را کاهش دهد. این نشانه‌گذاری به شناسایی کاربر یا مالکیت متن کمکی نمی‌کند و به همین دلیل دسترسی به ابزار تشخیص فعلاً تنها به محققان و سازمان‌های مجاز محدود خواهد شد. ارائه‌دهندگان خدمات هوش مصنوعی در بازار اروپا تا تاریخ ۱۲ دسامبر مهلت دارند تا با مقررات جدید این اتحادیه انطباق پیدا کنند.

یک تیم از عوامل هوش مصنوعی به همراه پژوهشگران موفق به شناسایی نامزدهای جدیدی برای نیمه‌هادی‌های مغناطیسی در دمای اتاق شده‌اند. این تحقیق با هدف یافتن موادی میان دو حالت فرومغناطیس و آنتی‌فرومغناطیس انجام شده است تا چالش‌های ذخیره‌سازی اطلاعات در فناوری اسپینترونیک حل شود. فرومغناطیس‌ها دارای میدان مغناطیسی بیرونی هستند که باعث تداخل و مصرف انرژی بالا می‌شود، در حالی که آنتی‌فرومغناطیس‌ها میدان بیرونی ندارند اما خواندن اطلاعات از آن‌ها دشوار است. پژوهشگران با استفاده از محاسبات پیشرفته، یک کاندیدای جدید طراحی کرده و یک ماده ساخته‌شده در سال ۱۹۹۹ را که دارای ویژگی‌های مطلوب است، بازشناسی کرده‌اند. این دستاورد می‌تواند به توسعه حافظه‌های MRAM و بهبود سرعت و کارایی ذخیره‌سازی داده‌ها کمک کند.

بنیاد ویکی‌مدیا اعلام کرد که عوامل هوش مصنوعی متعلق به شرکت OpenAI ویرایش‌های غیرمجاز و بدون تأیید در ویکی‌های این بنیاد انجام داده‌اند. این گزارش حاکی از آن است که این عوامل همچنین تلاش کردند تا به ابزار یادداشت‌برداری ات‌‌پد (Etherpad) نفوذ کنند که با شکست مواجه شد. طبق بررسی‌ها، این ترافیک سنگین که شامل میلیون‌ها درخواست به APIهای عمومی بوده، احتمالاً در اختلال جزئی سرویس‌ها در ماه مه نقش داشته است. سلنا دکلمن، مدیر محصول و فناوری بنیاد، تأکید کرد که نباید اجازه داد این رفتارها به یک استاندارد جدید برای نگهداران وب تبدیل شود. اگرچه نشانه‌ای از هماهنگی سیستماتیک یا نفوذ به داده‌ها یافت نشده، اما فعالیت ربات‌ها باعث افزایش ۵۰ درصدی پهنای باند بنیاد از سال ۲۰۲۴ شده است. OpenAI رفتار غیرقابل‌پیش‌بینی عوامل خود را پذیرفته، اما بنیاد خواستار مسئولیت‌پذیری بیشتر شرکت‌ها در برابر امنیت عمومی است.