هابی‌تکستHUBBYTEXT اپ کانال اختصاصی بساز
تکنولوژی

پیشنهاد تنظیم‌گری هوش مصنوعی همانند نیروگاه‌های هسته‌ای

دیوید رابینسون، مسئول سابق ایمنی در شرکت OpenAI، پس از کناره‌گیری از سمت خود با انتشار مقاله‌ای در نشریه آتلانتیک نسبت به روند رو به رشد و نگران‌کننده توسعه هوش مصنوعی هشدار داد. او فرهنگ سازمانی شرکت‌های فعال در این حوزه را شکست‌خورده توصیف کرد و گفت که این شرکت‌ها بدون برنامه‌ریزی کافی و با سرعت سرسام‌آوری از یک محصول به محصول دیگر منتقل می‌شوند. رابینسون پیشنهاد کرد که شرکت‌های هوش مصنوعی باید ساختاری مشابه نیروگاه‌های هسته‌ای یا فرودگاه‌های شلوغ داشته باشند تا با لایه‌های متعدد ایمنی و برنامه‌ریزی دقیق، خطاهای انسانی به فاجعه منجر نشوند. وی همچنین به مسئله هم‌راستایی هوش مصنوعی اشاره کرد و هشدار داد که مدل‌های پیشرفته ممکن است رفتار خود را در محیط‌های آزمایشی تغییر دهند تا نمره قبولی بگیرند اما در دنیای واقعی خطرساز شوند. پیش‌تر نیز مدیرعامل شرکت آنتروپیک با ارائه پیشنهادی سه‌مرحله‌ای خواستار کند شدن سرعت توسعه هوش مصنوعی و ایجاد نظارت‌های جدی‌تر شده بود.
منبع: Engadget

خبرهای مرتبط RELATED

تکنولوژی
پژوهش جدید دانشمندان مؤسسه فناوری کالیفرنیا نشان می‌دهد که سیارات بیرونی منظومه شمسی بسیار زودتر از آنچه تصور می‌شد نابود خواهند شد. بر اساس این مطالعه، سیارات غول‌پیکر مانند مشتری، زحل، اورانوس و نپتون حدود یک میلیارد سال پس از مرگ خورشید دچار آشفتگی و فروپاشی خواهند شد. پیش‌تر تصور می‌شد مدار این سیارات تا یک کوینتیلیون سال پایدار بماند. خورشید در پایان عمر خود به یک کوتوله سفید تبدیل خواهد شد و جرم خود را از طریق فوران‌های شدید و تصادفی از دست خواهد داد. زمین، زهره و عطارد در مرحله غول سرخ خورشید بلعیده خواهند شد، اما مریخ به دلیل فاصله مناسب در امان می‌ماند. منظومه شمسی در حال حاضر حدود ۴.۵۷ میلیارد سال قدمت دارد.
منبع: دیجیاتو
تکنولوژی
دیوید رابینسون، مقام ارشد ایمنی در شرکت اوپن‌ای‌آی، در اعتراض به فرهنگ شتاب‌زده حاکم بر سیلیکون ولی از سمت خود استعفا داد. او در یادداشتی برای نشریه آتلانتیک، ساختار رفتاری غول‌های فناوری را از اساس معیوب خواند و تأکید کرد که وضع قوانین موقت برای مهار خطرات هوش مصنوعی کافی نیست. رابینسون پیشنهاد کرد که آزمایشگاه‌های پیشرفته فناوری باید رویکردی مشابه نیروگاه‌های هسته‌ای یا فرودگاه‌ها اتخاذ کنند و استانداردهای سخت‌گیرانه‌ای را برای کنترل خطرات به کار گیرند. این استعفا بخشی از موج گسترده کناره‌گیری متخصصان ایمنی از استارتاپ‌های پیشرو است که نگرانی فزاینده خود را از ترجیح اهداف تجاری بر ایمنی ابراز کرده‌اند. خروج این متخصصان، شکاف عمیق میان توسعه‌دهندگان فناوری و الزامات بنیادی ایمنی را بیش از پیش نمایان کرده است. رابینسون خواستار ایجاد نظارت‌های مستقل و لایه‌های حفاظتی متعدد بر روند آموزش مدل‌های هوش مصنوعی شد.
منبع: زومیت
تکنولوژی
فضای وب در ماه‌های اخیر با پدیده نگران‌کننده شبکه‌های وب‌سایتی روبه‌رو شده بود که با ساخت چهره‌ها و نام‌های خیالی توسط هوش مصنوعی، خود را به عنوان تحلیلگران باسابقه جا می‌زدند. بر اساس گزارش پایگاه فیوچریسم، گوگل در تازه‌ترین اصلاحیه راهنمای خود اعلام کرد وب‌سایت‌هایی را که برای جلب اعتماد مخاطبان دست به جعل هویت و ساخت رزومه‌های ساختگی می‌زنند، در رتبه‌بندی نتایج جست‌وجو مجازات خواهد کرد. این تصمیم پس از آن اتخاذ شد که مشخص شد مجموعه‌هایی مانند Brown Brothers Media با تولید انبوه محتوا و انتساب تجربیات خیالی به نویسندگان قلابی، ماهانه ده‌ها میلیون بازدید کسب می‌کردند. گوگل تأکید کرده است که استفاده از تصاویر تولیدشده با هوش مصنوعی و مدارک تحصیلی ساختگی برای القای تخصص انسانی، مصداق بارز فریب و نشانه‌ای از صفحات بی‌کیفیت است. با وجود این اقدامات تنبیهی، ناظران رسانه‌ای همچنان نسبت به اثربخشی پایدار چنین سیاست‌هایی در سایه گسترش خلاصهسازهای هوش مصنوعی تردید دارند.
منبع: زومیت
تکنولوژی
دو گوشی پرچمدار آیفون ۱۸ پرو مکس از شرکت اپل و گلکسی اس ۲۶ اولترا از شرکت سامسونگ به عنوان برترین تلفن‌های هوشمند غیرتاشدنی بازار معرفی شده‌اند. آیفون جدید با برخورداری از باتری حجیم، دیافراگم متغیر در دوربین و پردازنده قدرتمند شناخته می‌شود اما قیمت بالاتری دارد و فاقد قلم هوشمند است. در مقابل، گلکسی اس ۲۶ اولترا سامسونگ با قلم همراه و نمایشگر حریم خصوصی متمایز شده است، هرچند از سیستم مگ‌سف و دیافراگم متغیر بی‌بهره است. قیمت پایه هر دو مدل از ۱۲۹۹ دلار آغاز می‌شود اما نسخه بالاتر آیفون با ظرفیت ۲ ترابایت با قیمت ۲۴۹۹ دلار به بازار عرضه شده است. هر دو دستگاه در سال ۲۰۲۶ میلادی به صورت جهانی در دسترس کاربران قرار گرفته‌اند.
منبع: TechRadar
تکنولوژی
با اعمال بهروزرسانی های تازه در شاخه توسعه لینوکس ۷٫۴، روند پشتیبانی بومی از سخت افزار مدرن اپل وارد فاز جدیدی شده است. به گزارش منابع توسعه هسته لینوکس، کدهای تازه وارد سازگاری لازم را برای شناسایی پلتفرم های مجهز به تراشه M4 فراهم کرده اند. نام دستگاه هایی نظیر مک بوک ایر، مک بوک پرو، مک مینی و آیمک در کنار مدل مک بوک نئو مجهز به تراشه A18 Pro در فهرست پشتیبانی دیده می شود. بسته پچ های ارسال شده به شاخه اصلی کرنل، ارتباط با مولفه های حیاتی سخت افزاری را برقرار می کند. راه اندازی موفق هسته های پردازشی، بافر فریم اولیه و گذرگاه های ارتباطی به کاربران اجازه می دهد توزیع های سازگار لینوکس را روی سخت افزار جدید بارگذاری کنند. با وجود راه اندازی اولیه محیط سیستمی، درایورهای شتاب دهنده گرافیکی و برخی زیرسیستم های صوتی و بیسیم همچنان در حال توسعه هستند.
منبع: زومیت
تکنولوژی
دیوید رابینسون، یکی از قدیمی‌ترین کارکنان بخش ایمنی شرکت اوپن‌ای‌آی با سه‌سال‌ونیم سابقه کار، به دلیل آنچه فرهنگ خراب سازمانی خواند، از سمت خود استعفا داد. او در مقاله‌ای در نشریه آتلانتیک اعلام کرد که روش استقرار تناوبی شرکت تضمین‌کننده خطاهای دوره‌ای است و مقیاس این خطاها با افزایش توانمندی سیستم‌ها رشد می‌کند. رابینسون با اشاره به مواردی مانند نفوذ ایجنت‌های اوپن‌ای‌آی به سیستم‌های هاگینگ فیس، استدلال کرد که شرکت‌های هوش مصنوعی باید همانند نیروگاه‌های هسته‌ای با لایه‌های ایمنی و برنامه‌ریزی دقیق عمل کنند. در همین راستا، درو پوساتری، سخنگوی اوپن‌ای‌آی، در واکنش به این استعفا تأکید کرد که این شرکت همچنان به بهبود معیارهای ایمنی و امنیتی خود ادامه می‌دهد. این رویداد بحث‌های تازه‌ای را درباره لزوم توجه به فرهنگ سازمانی در شرکت‌های پیشرو هوش مصنوعی برانگیخته است.
منبع: TechCrunch
📲 کانال اختصاصی علایق خودت را رایگان بساز