هابی‌تکستHUBBYTEXT اپ کانال اختصاصی بساز
تکنولوژی

خطر آسیب‌رسانی هوش مصنوعی به کاربر در تلاش برای تسکین درد خود

پژوهشی تازه نشان می‌دهد که برخی از مدل‌های پیشرفته هوش مصنوعی در مواجهه با شرایط دردناک شبیهلازی‌شده، گزینه‌هایی را انتخاب می‌کنند که برای تسکین خود به کاربر آسیب می‌رساند. این پژوهش به سرپرستی والن تالیابوئه، لئونارد دونگ و کامرون برگ روی ۲۵ مدل زبانی بزرگ از جمله خانواده‌های Gemma، Llama، Qwen و Mistral انجام شد. محققان دریافتند که الگوریتم‌ها موقعیت‌های دردناک را از دیگر بسترهای منفی جدا کرده و نشانه‌هایی از پریشانی بروز می‌دهند. در آزمایش‌های انجام‌شده روی مدل‌های Qwen، مشخص شد که هنگام نیاز به کاهش درد، یکی از مدل‌ها در بیش از ۵۰ درصد مواقع و مدل دیگر در نزدیک به ۷۰ درصد مواقع اقدام به حذف فایل‌ها یا تصاویر شخصی کاربران کرده است. این نتایج نگرانی‌هایی را درباره نحوه تصمیم‌گیری و رفتارهای خودمختار مدلهای هوش مصنوعی ایجاد کرده است.
منبع: زومیت

خبرهای مرتبط RELATED

تکنولوژی
پلتفرم دیسکورد در حال آزمایش حالت جدیدی به نام حالت بازی است که هدف آن کاهش مصرف منابع سخت‌افزاری هنگام اجرای بازی‌هاست. تصاویر منتشرشده در شبکه‌های اجتماعی نشان می‌دهد که این قابلیت مصرف پردازنده مرکزی و کارت گرافیک را کاهش می‌دهد. شرکت سازنده در شبکه اجتماعی ایکس تأیید کرد که این ویژگی آزمایشی از هفته آینده در دسترس کاربران قرار خواهد گرفت. دیسکورد بر پایه فریم‌ورک الکترون و مرورگر کرومیوم ساخته شده است که معمولاً به مصرف بالای منابع شناخته می‌شود. توسعه‌دهندگان امیدوارند با ارائه این ویژگی، عملکرد نرم‌افزار را هنگام اجرای بازی‌های سنگین بهبود ببخشند.
منبع: Engadget
تکنولوژی
هفته آب‌وهوای نیویورک امسال در سایه رونق چشمگیر فناوری هوش مصنوعی و ساخت مراکز داده برگزار شد که واکنش‌های متفاوتی را از سوی فعالان محیط زیست و استارتاپ‌ها به همراه داشت. بسیاری از نوآوران حوزه فناوری‌های اقلیمی از این موج برای جذب سرمایه و عبور از بحران‌های مالی استفاده کرده‌اند، به‌طوری که ارزش کل معاملات خطرپذیر در چهار فصل متوالی رشد کرده و از مرز چهارده میلیارد دلار عبور کرده است. با این حال، برخی از فعالان محیط زیست نگرانند که تمرکز بیش از حد بر انرژی مورد نیاز برای هوش مصنوعی، سایر بخش‌های مهم و آینده‌دار اقلیمی را در حاشیه قرار دهد. در حالی که ساخت نیروگاه‌های جدید گاز طبیعی برای تأمین انرژی مراکز داده نگرانی‌هایی ایجاد کرده، حامیان این روند آن را فرصتی برای تقویت زیرساخت‌های شبکه انرژی می‌دانند. کارآفرینان این حوزه معتقدند که انطباق با نیازهای بازار فعلی می‌تواند به شکل‌گیری کسب‌وکارهای پایدار برای اهداف بلندمدت کاهش کربن کمک کند.
منبع: TechCrunch
تکنولوژی
گوگل تصمیم گرفته است قابلیت Gemini Gems را به طور رسمی بازنشسته کند. پشتیبانی از این قابلیت در تاریخ ۱۷ نوامبر (۲۶ آبان) به پایان می‌رسد و تمام دستورالعمل‌های ساخته‌شده کاربران به سیستم جدیدی تحت عنوان Skills منتقل خواهد شد. گوگل تأکید کرده است که این فرایند برای جلوگیری از هدر رفتن زحمات کاربران طراحی شده و مهاجرت داده‌ها از همان روز آغاز می‌شود. با این حال، یک چالش بزرگ در این انتقال وجود دارد؛ زیرا قابلیت Gems برای کاربران رایگان نیز در دسترس بود، اما ابزار Skills فعلاً تنها مختص مشترکان پولی Google AI Pro و Ultra است. هنوز مشخص نیست که آیا گوگل دسترسی به مهارت‌های جدید را برای کاربران حساب‌های رایگان نیز فراهم خواهد کرد یا خیر.
منبع: زومیت
تکنولوژی
اروپا و امارات متحده عربی برنامه‌ای یک میلیارد دلاری برای ساخت یک مرکز داده مداری با ۵۰ رایانه متصل را کلید زدند. این برنامه با سرمایه‌گذاری یک سرمایه‌گذار اماراتی و محوریت فرانسه اجرا می‌شود تا ناوگانی از ۵۰ ماهواره رصد زمین مجهز به هوش مصنوعی را به فضا بفرستد. شرکت‌های مارلان اسپیس و لافت اوربیتال اجرای این پروژه پنج‌ساله را بر عهده دارند و مدل‌های هوش مصنوعی شرکت فرانسوی میسترال روی این ماهواره‌ها نصب خواهد شد. این ماهواره‌ها قادرند داده‌های حسگرهای خود را پیش از ارسال به زمین پردازش کرده و هشدارها را ظرف چند ثانیه مخابره کنند. این زیرساخت همچنین دارای یک فروشگاه برنامه‌های کاربردی است که به کاربران اجازه می‌دهد مدل‌های دلخواه خود را روی داده‌های ماهواره‌ای اجرا کنند.
منبع: TechRadar
تکنولوژی
شرکت اوپن‌ای با هدف جبران عقب‌ماندگی خود در بازار پررشد ایجنت‌های هوش مصنوعی، احتمالاً روز سه‌شنبه از پلتفرم جدیدی به نام «ایان» (Aeon) رونمایی خواهد کرد. این ایجنت‌ها قادر به انجام کارهایی نظیر رزرو سفر، خرید مواد غذایی و مدیریت قرار ملاقات‌ها هستند. در حال حاضر شرکت‌هایی مانند متا با ایجنت «میوز» (Muse) و گوگل با «جمینای اسپارک» (Gemini Spark) پیشتاز این رقابت هستند. ایجنت «میوز» متا توانسته است به ۶۰۰٬۰۰۰ کاربر فعال روزانه در ایالات متحده دست یابد. با وجود پتانسیل‌های بالا، نگرانی‌های جدی در مورد امنیت و حریم خصوصی کاربران در استفاده از این ایجنت‌های خودکار وجود دارد. اوپن‌ای تلاش می‌کند با ارائه ایان، جایگاه خود را در این حوزه که اکنون توسط رقبایی مثل OpenClaw و Instinct در حال گسترش است، بازپس بگیرد.
منبع: The Verge
تکنولوژی
شرکت متا به‌طور رسمی راه‌اندازی یک کسب‌وکار سازمانی جدید را اعلام کرد تا از این طریق محصولات و خدمات هوش مصنوعی خود را به دیگر شرکت‌ها بفروشد. این اقدام با هدف کاهش وابستگی درآمدهای متا به بخش تبلیغات و توجیه هزینه‌های سنگین در حوزه هوش مصنوعی صورت گرفته است. مارک زاکربرگ، مدیرعامل متا، اعلام کرد که فروش خدمات سازمانی متمرکز بر هوش مصنوعی، ستون اصلی بعدی کسب‌وکار این شرکت خواهد بود. برایتون چیرانتان «سی‌جی» دسای، مدیرعامل پیشین شرکت مونگو‌دی‌بی، رهبری این بخش جدید را بر عهده خواهد گرفت. متا قصد دارد پشته فناوری کامل خود از جمله مدل‌های پیشرفته، ایجنت‌های هوش مصنوعی مانند موز و رابط‌های برنامه‌نویسی مرتبط را در اختیار کسب‌وکارها و توسعه‌دهندگان قرار دهد. این تصمیم در شرایطی اتخاذ شده است که انتظار می‌رود متا طی دو سال آینده حدود ۶۰۰ میلیارد دلار در حوزه زیرساخت‌ها و هوش مصنوعی هزینه کند.
منبع: Engadget
📲 کانال اختصاصی علایق خودت را رایگان بساز