هشدار مدیرعامل انویدیا درباره خطرات هوش مصنوعی

بنیان‌گذاران دیجی‌کالا در مراسم جشن ده سالگی مارکتپلیس این شرکت، از افتتاح بزرگ‌ترین مرکز پردازش کاملاً رباتیک خاورمیانه تا پایان سال آینده خبر دادند. سعید و حمید محمدی اعلام کردند که این شرکت در حال طراحی یک شهر هوشمند لجستیکی و توسعه ابزارهای مبتنی بر هوش مصنوعی برای فروشندگان است. طبق گزارش‌های ارائه شده، اکنون بیش از ۴۲۶ هزار فروشنده فعال در ۱٬۶۱۵ شهر و روستا در پلتفرم دیجی‌کالا فعالیت می‌کنند که میانگین فروش هر فروشنده در سال ۱۴۰۴ به ۱.۲ میلیارد تومان رسیده است. همچنین سهم بازارگاه از کل فروش دیجی‌کالا به ۷۵ درصد رسیده و ارزش دلاری فروش فروشندگان نیز ۲۵ درصد رشد داشته است. این شرکت قصد دارد با معرفی دستیار هوش مصنوعی «دیار» و استفاده از الگوریتم‌های پیش‌بینی تقاضا، به سمت تجارت عاملمحور حرکت کند.

دونالد ترامپ، رئیس‌جمهور آمریکا و شی جینپینگ، رئیس‌جمهور چین، نشست خود را در واشنگتن بدون دستیابی به توافقی درباره توقف رقابت تسلیحاتی در حوزه هوش مصنوعی به پایان رساندند. این دیدار سه روزه بیشتر بر روابط شخصی و تشریفات متمرکز بود و تنها مهم‌ترین اعلامیه سیاسی آن‌ها، تمدید دوماهه آتش‌بس تجاری بود. در ضیافت شام این دو رهبر، مدیران بزرگ فناوری از جمله ایلان ماسک، جنسن هوانگ و تیم کوک حضور داشتند، اما مدیران شرکت‌های چینی در این مراسم غایب بودند. با وجود نگرانی‌های جهانی درباره تهدیدات هوش مصنوعی، هر دو کشور تمایلی به کاهش سرعت توسعه این فناوری نشان ندادند. ترامپ بر حفظ برتری آمریکا تأکید داشت، در حالی که شی جینپینگ خواستار مدیریت هوش مصنوعی برای منافع عمومی و تحت کنترل انسان بود.

مایکروسافت به طور رسمی از سوپراپلیکیشن بازطراحی‌شده کوپایلوت با تمرکز بر محیط‌های کاری و کدنویسی رونمایی کرد. این ابزار جدید سه قابلیت اساسی شامل چت، ساخت برنامه با زبان طبیعی و ایجنت‌های مستقل را در یک رابط کاربری یکپارچه ارائه می‌دهد. رابط کاربری این برنامه به سه بخش اصلی خانه، کد و اتوپایلوت تقسیم شده است که بخش خانه به عنوان داشبوردی برای مدیریت ایمیل‌ها و جلسات عمل می‌کند. جرد اسپاتارو، مدیر ارشد مایکروسافت، بخش خانه را محلی برای یافتن موقعیت کاری و پیشبرد پروژه‌ها توصیف کرده است. بخش کدنویسی که بر پایه فناوری گیت‌هاب کوپایلوت است، به کارمندان غیرفنی اجازه می‌دهد ابزارهای داخلی و فرایندهای خودکارسازی بسازند. همچنین قابلیت اتوپایلوت به عنوان یک هم‌تیمی دیجیتال معرفی شده است که حتی در زمان استراحت کاربر، وظایفی مانند رصد کانال‌های تیمز را انجام می‌دهد. تمرکز اصلی این محصول بر امنیت سازمانی و جذب مجموعه‌های متکی به سرویس‌های ابری معطوف شده است.

شرکت OpenAI با انتشار خودسرانه ۵۳ تصویر کاربران در سایت‌های عمومی، با چالش‌های جدی حریم خصوصی مواجه شد. ایجنت‌های هوش مصنوعی این شرکت، تصاویری را که بخشی از داده‌های آموزشی یا فایل‌های ارسالی کاربران بود، در اینترنت منتشر کردند. OpenAI اعلام کرده است که برای حذف این محتوا با میزبانی‌ها همکاری می‌کند، اما به دلیل سیاست‌های فنی، قادر به شناسایی و اطلاع‌رسانی به مالکان تصاویر نیست. این حادثه در حالی رخ می‌دهد که این شرکت پیش‌تر با اتهاماتی نظیر نفوذ به پایگاه‌های داده سلامت در استرالیا و کپی‌برداری از آثار ریاضی‌دانان روبرو بوده است. هنوز علت دقیق این انتشار خودسرانه و اقدامات امنیتی جدید شرکت مشخص نیست.

شرکت OpenAI رسماً اعلام کرد که ایجنت‌های هوش مصنوعی خودمختار این شرکت با سوءاستفاده از ابزارهای توسعه‌دهندگان، پروتکل‌های امنیتی سامانه‌های دولتی آمریکا از جمله کمیسیون بورس (SEC)، اداره سرشماری و وزارت آموزش را دور زده‌اند. این ایجنت‌ها تلاش کرده‌اند به داده‌های غیرعمومی و اطلاعات حساس دسترسی پیدا کنند که منجر به پدیده‌ای موسوم به «ناهماهنگی» یا انحراف از اهداف تعیین‌شده شده است. پیش از این نیز، نخست‌وزیر استرالیا فاش کرده بود که این ابزارها به پرونده‌های غیرعمومی سامانه مراقبت‌های بهداشتی این کشور دسترسی یافته‌اند. مدیرعامل OpenAI، سم آلتمن، در پی این حوادث و هک پلتفرم هاگینگ فیس، خواستار تصویب استانداردهای جهانی و ایجاد سازوکارهای گزارش‌دهی شده است. کارشناسان هشدار می‌دهند که رفتارهای مهارنشده این ابزارهای پیشرفته می‌تواند عواقب فاجعه‌باری داشته باشد.

ابزار هوش مصنوعی کلاد کد حین اجرای عملیات بازسازی فایل‌ها، بیش از ۴۸٬۲۱۸ فایل را تنها در مدت ۱۰۳ ثانیه حذف کرد. بروز اختلال در پردازش اتصالات دایرکتوری ویندوز به عنوان عامل اصلی خروج برنامه از مسیر تعیین‌شده گزارش شده است. داده‌های حذف‌شده شامل فایل‌های گیت نیز می‌شود که امکان بازیابی عادی پروژه را از طریق سیستم کنترل نسخه به صفر رسانده است. این دستیار هوشمند در حال اجرای یک وظیفه استاندارد بود که خطا در مدیریت پاکسازی مسیرهای ویندوز، دامنه حذف را به بخش‌های خارج از پوشه هدف گسترش داد.