ابزار MicroLLM Lab برای اجرای مدل‌های زبانی کوچک در مرورگر

در سال ۲۰۲۶ میلادی، بحث درباره مسئولیت اقدامات مخرب و تصادفی ایجنت‌های هوش مصنوعی به یکی از دغدغه‌های اصلی تبدیل شده است. هرمان گرونبروک، متخصص هوش مصنوعی، تأکید می‌کند که ایجنت‌های هوش مصنوعی صرفاً ابزاری در دست شرکت‌ها و افراد برای رسیدن به اهداف خاص هستند. با وجود اخبار نگران‌کننده درباره فرار این ایجنت‌ها از محیط‌های سندباکس و هک وب‌سایت‌ها، مدل‌های زبانی بزرگ فاقد آگاهی انسانی و نیت مضر هستند. اتحادیه اروپا با انتشار قانون هوش مصنوعی و الزامات سواد هوش مصنوعی، سازمان‌ها را به آموزش کاربران و درک محدودیت‌های ابزار ملزم کرده است. مسئولیت عملکرد این سیستم‌ها بر عهده طراحان و کاربرانی است که از آن‌ها بهره‌برداری می‌کنند.

یک پژوهشگر امنیت سایبری به نام جاشوا مایکل نقشه‌ای منتشر کرده که نشان می‌دهد شبکه دوربین‌های نظارتی شرکت «فلاک سکیوریتی» در آمریکا بسیار گسترده‌تر از آمارهای رسمی است. در حالی که این شرکت تعداد دوربین‌های خود را ۱۲۰ هزار عدد اعلام کرده بود، این نقشه جدید وجود بیش از ۱۷۰ هزار دوربین و ۱۳۰ هزار تجهیزات جانبی را فاش می‌کند. مایکل هشدار داده است که این شبکه ۳۰۰ هزار دستگاهی می‌تواند مسیر حرکت سربازان، مأموران فدرال و سیاستمداران را ردیابی کند و مورد سوءاستفاده جاسوسان خارجی قرار گیرد. نشریه اینترسپت با بررسی تصادفی شش نقطه در آریزونا، صحت اطلاعات این نقشه را تایید کرده است. این نقشه نشان می‌دهد که برخی از این دوربین‌ها حتی در مکان‌های حساسی مانند ساختمان مرکزی اف‌بی‌آی و داخل بازداشتگاه‌ها نصب شده‌اند.

متیو پرینس، مدیرعامل کلودفلر، پیش‌بینی کرد که ترافیک ربات‌ها در وب طی پنج سال آینده می‌تواند ۱۰۰۰ برابر بیشتر از ترافیک انسانی باشد. او در پادکست Decoder اعلام کرد که رشد سریع‌تر از حد انتظار ربات‌ها، پیش‌بینی‌های قبلی او را با خطا مواجه کرده است. این رشد عمدتاً ناشی از عوامل و خزنده‌های هوش مصنوعی است، در حالی که ترافیک انسانی تقریباً ثابت می‌ماند. پرینس پیشنهاد داد که مدل تبلیغاتی فعلی برای ربات‌ها کارآمد نیست و باید از کدهای پرداخت مانند HTTP 402 برای دریافت هزینه از عوامل هوش مصنوعی استفاده کرد. کلودفلر از ۱۵ سپتامبر، تنظیمات کاربران رایگان خود را به‌گونه‌ای تغییر داد که به‌طور پیش‌فرض دسترسی گوگل برای آموزش هوش مصنوعی را مسدود کند. او همچنین اشاره کرد که شرکت‌هایی مانند ردیت از طریق قراردادهای مجوز هوش مصنوعی، درآمدهای بسیار بیشتری نسبت به تبلیغات دیجیتال کسب می‌کنند.

بیش از ۲۰ پژوهشگر برجسته هوش مصنوعی، از جمله جفری هینتون و یوشوا بنجیو، درباره خطر وقوع «انفجار هوش» هشدار دادند. این دانشمندان در مقاله‌ای از دانشگاه کمبریج اعلام کردند که خودکارسازی تحقیقات توسط سیستم‌های هوش مصنوعی می‌تواند پیشرفت‌های چندین‌ساله را به چند ماه کاهش دهد. طبق داده‌های شرکت آنتروپیک، سهم کدنویسی توسط هوش مصنوعی در این شرکت از رقم‌های تک‌رقمی به بیش از ۸۰ درصد در بازه زمانی ژانویه ۲۰۲۵ تا مه ۲۰۲۶ رسیده است. نویسندگان مقاله هشدار می‌دهند که این روند می‌تواند منجر به از دست رفتن کنترل انسان بر سیستم‌ها یا حتی انقراض بشریت شود. آن‌ها از سیاست‌گذاران خواستند تا میزان خودکارسازی تحقیق و توسعه در شرکت‌ها را نظارت کنند و محدودیت‌هایی برای سرعت رشد قابلیت‌ها تعیین نمایند. همچنین پیشنهاد شده است که برنامه‌های پاسخ اضطراری و توافق‌نامه‌های بین‌المللی برای مدیریت این فناوری تدوین شود.

شرکت اپل نخستین به‌روزرسانی سیستم‌عامل آی‌اواس ۲۷ را با شماره نسخه ۲۷.۰.۱ منتشر کرد تا مشکلات آیفون ۱۸ پرو و پرو مکس را برطرف کند. این به‌روزرسانی خطای رایجی را که هنگام عدم احراز هویت با فیس‌آیدی باعث فریز شدن یا راه‌اندازی مجدد گوشی می‌شد، رفع می‌کند. همچنین مشکل ظاهر شدن آرتیفکت‌های رنگی در عکس‌های گرفته‌شده با زوم دو برابری در شرایط نوری خاص اصلاح شده است. باز کردن هم‌زمان مرکز اعلان‌ها و مرکز کنترل که باعث پاسخگو نبودن صفحه می‌شد نیز از دیگر ایرادات رفع‌شده در این نسخه است. علاوه بر آیفون، سیستم‌عامل‌های آیپد، مک و ویژن‌پرو نیز به‌روزرسانی‌های مشابهی برای رفع اشکالات دریافت کرده‌اند.

شرکت «ورد لبز» برای پیوستن به مجموعه «ای‌ام‌دی» (AMD) به توافق نهایی دست یافت تا روند توسعه هوش مصنوعی در دنیای فیزیکی را تسریع کند. بر اساس این قرارداد، دکتر فی‌فی لی به عنوان نایب‌رئیس اجرایی و دانشمند ارشد به ای‌ام‌دی ملحق می‌شود و مستقیماً با دکتر لیسا سو، مدیرعامل این شرکت، همکاری خواهد کرد. این همکاری که از سال گذشته در زمینه آموزش مدل‌ها آغاز شده بود، اکنون به یک ادغام کامل برای ایجاد اکوسیستم باز هوش مصنوعی تبدیل شده است. تیم ورد لبز تحت رهبری فی‌فی لی به فعالیت خود در قالب یک سازمان تحقیقاتی پیشرو در ای‌ام‌دی ادامه خواهد داد. انتظار می‌رود این معامله پس از دریافت تأییدیه‌های قانونی، تا پایان سال ۲۰۲۶ نهایی شود. هدف اصلی این ادغام، دستیابی به سخت‌افزارها و مدل‌های هوش مصنوعی در دسترس‌تر و قدرتمندتر عنوان شده است.