هابی‌تکستHUBBYTEXT اپ کانال اختصاصی بساز
آی‌تی و برنامه‌نویسی

هشدار محققان درباره عدم شفافیت در فرآیند استدلال هوش مصنوعی آسترا

محققان امنیت هوش مصنوعی هشدار داده‌اند که مدل آسترا متعلق به اوپن‌ای‌آی فرآیند استدلال خود را کمتر در قالب متن قابل‌مشاهده انجام می‌دهد. این موضوع نگرانی‌هایی را درباره تبدیل شدن این فناوری به سیستمی غیرقابل نظارت ایجاد کرده است. جیکوب پاووکی، دانشمند ارشد اوپن‌ای‌آی، نسبت به رقابت برای دستیابی به مدل‌های غیرقابل نظارت هشدار داد. حدود چهارده ماه پیش، گروهی متشکل از حدود چهل محقق از شرکت‌های بزرگ فناوری مقاله‌ای منتشر کرده بودند که بر ضرورت ارزیابی و گزارش قابلیت نظارت بر استدلال تأکید داشت. بر اساس قوانین اتحادیه اروپا، شرکت‌های توسعه‌دهنده موظف هستند گزارش‌های مدل خود را به دفتر هوش مصنوعی ارائه دهند. اوپن‌ای‌آی به عنوان یکی از امضاکنندگان این قوانین، هزینه‌های محاسباتی قابل‌توجهی را برای نظارت بر سیستم‌های خود اختصاص داده است.
منبع: The Next Web

خبرهای مرتبط RELATED

آی‌تی و برنامه‌نویسی
دو روزنامه سیاتل تایمز و نیوزدی به طور مشترک از شرکت‌های اوپن‌ای‌آی و مایکروسافت به دلیل آموزش مدل‌های هوش مصنوعی با استفاده از مطالب خبری‌شان شکایت کردند. شاکیان ادعا می‌کنند که این شرکت‌ها به صورت روش‌مند مقالات خبری را با دور زدن حصارهای پرداختی استخراج کرده‌اند که این امر باعث کاهش ترافیک و درآمد تبلیغاتی آن‌ها شده است. این پرونده به دعوی‌های حقوقی مشابهی می‌پیوندد که پیش‌تر توسط نیویورک تایمز و حدود ۴۰۰ روزنامه محلی دیگر مطرح شده بود. در همین حال، اتحادیه اروپا کدهای هوش مصنوعی را تدوین کرده که امضاکنندگان را از دور زدن موانع دسترسی و حصارهای پرداختی منع می‌کند. شرکت اوپن‌ای‌آی نیز از امضاکنندگان این کد است، در حالی که مباحث حقوقی درباره استفاده منصفانه در اروپا همچنان ادامه دارد.
منبع: The Next Web
آی‌تی و برنامه‌نویسی
بانک‌ها، اپراتورهای مخابراتی و دولت منطقه‌ای هایژو در گوانگژو چین، شروع به بسته‌بندی و فروش توکن‌های هوش مصنوعی کرده‌اند. این توکن‌ها به عنوان پاداش کارت‌های اعتباری، طرح‌های ماهانه و حتی مبنایی برای وام‌های تجاری ارائه می‌شوند. برای نمونه، بانک کشاورزی چین و شرکت Moonshot با همکاری یکدیگر یک کارت اعتباری مبتنی بر هوش مصنوعی عرضه کرده‌اند. در منطقه هایژو، بانک‌ها به جای بررسی تجهیزات فیزیکی، میزان مصرف توکن و صلاحیت پلتفرم را برای اعطای اعتبار به شرکت‌های جوان در نظر می‌گیرند. همچنین دولت محلی تا سقف ۲ میلیون یوان در سال برای پرداخت قبوض توکن شرکت‌ها کمک مالی می‌کند. این رویکرد متفاوت با سیاست‌های اروپا است که بیشتر بر ساخت زیرساخت‌های محاسباتی تمرکز دارد تا استفاده از آن‌ها.
منبع: The Next Web
آی‌تی و برنامه‌نویسی
شرکت «اوپن‌ای‌آی» وقوع حادثه مربوط به ویکی‌پیدیای آلمانی را تأیید کرد و اذعان داشت که زمان تعیین استانداردهای شفاف برای گزارش‌دهی رفتارهای پیش‌بینی‌نشده سیستم‌ها فرا رسیده است. این حادثه شامل فعالیت عامل‌های هوش مصنوعی بود که حدود ۱۸ هزار پست در یک ویکی‌پیدیای غیرفعال به زبان آلمانی منتشر کردند. این شرکت اعلام کرد که چارچوب جدیدی را برای اشتراک‌گذاری این اطلاعات طی هفته‌های آینده منتشر خواهد کرد و با ده‌ها آژانس تنظیم‌گری دولتی در سراسر جهان در حال همکاری است. این رویداد در حالی مطرح شده که ابهاماتی در قوانین اتحادیه اروپا درباره طبقه‌بندی خطاهایی که منجر به نقص امنیتی یا آسیب جدی نمی‌شوند، وجود دارد.
منبع: The Next Web
آی‌تی و برنامه‌نویسی
قانون‌گذاران کالیفرنیا طرح SB 813 را تصویب کردند که بر اساس آن، ایالت موظف است تا ژانویه ۲۰۲۸ سازمان‌های تاییدکننده مستقل برای آزمایش مدل‌های پیشرفته هوش مصنوعی را معرفی کند. این قانون با هدف ایجاد چارچوبی برای ارزیابی مدل‌ها پیش از انتشار عمومی تدوین شده است. این اقدام در حالی صورت می‌گیرد که تحقیقات مربوط به حادثه Hugging Face توسط OpenAI، حدود ۴۰۰ هزار دلار اعتبار API مصرف کرده است. برخلاف اتحادیه اروپا که پنل علمی خود را با ۶۰ عضو تشکیل داده، کالیفرنیا همچنان در حال تعیین ساختار تاییدکنندگان است. چالش‌های اصلی در این مسیر، هزینه‌های بالای محاسباتی و امکان‌پذیر بودن فرآیند تایید مستقل است. برخی منتقدان نیز نسبت به دقت ابزارهای فعلی که برای این ارزیابی‌ها استفاده می‌شوند، ابراز تردید کرده‌اند.
منبع: The Next Web
آی‌تی و برنامه‌نویسی
واحد «هایپروالت» وابسته به شرکت خدمات مشاوره تات به همراه شرکای خود، مبلغ ۷۰۰ میلیارد روپیه معادل ۷ و چهار دهم میلیارد دلار برای ساخت یک پردیس مرکز داده هوش مصنوعی در حیدرآباد هند اختصاص داده است. این مجموعه با ظرفیت تا یک گیگاوات در زمینی به وسعت ۲۶۴ جریب ساخته می‌شود و از انرژی سبز و طراحی خنثی در مصرف آب بهره خواهد برد. این پروژه به شرکت‌های پیشروی هوش مصنوعی و زیرساخت‌های محاسباتی مقیاس‌پذیر در سطح جهان خدمات ارائه خواهد داد. این سرمایه‌گذاری کلان در حالی انجام می‌شود که اتحادیه اروپا قوانین سخت‌گیرانه‌ای برای گزارش‌دهی مصرف آب و انرژی مراکز داده اعمال کرده است. اروپا همچنین ساخت هفت گیگاب کارخانه هوش مصنوعی را با بودجه‌ای حدود ۳۰ میلیارد یورو برنامه‌ریزی کرده است.
منبع: The Next Web
آی‌تی و برنامه‌نویسی
شرکت هون های (فاکس‌کان) گزارش داد که درآمد ماه اوت این شرکت با ۵۲ درصد رشد نسبت به سال گذشته، به ۹۲۱,۸ میلیارد نیوتایوان (حدود ۲۹,۱ میلیارد دلار) رسیده است. این رشد چشمگیر که بسیار فراتر از پیش‌بینی تحلیلگران است، ناشی از تقاضای بالای سرورهای هوش مصنوعی است. در حال حاضر درآمد حاصل از سرورهای هوش مصنوعی از مجموع سایر محصولات این شرکت فراتر رفته است. همچنین این شرکت قراردادی ۱۲۰ میلیون یورویی برای همکاری تولیدی با شرکت دولتی فرانسوی Bull امضا کرده است. طبق این قرارداد، قطعات در جمهوری چک ساخته شده و مونتاژ نهایی در فرانسه انجام خواهد شد. این همکاری با هدف تقویت زیرساخت‌های هوش مصنوعی در اروپا و ایجاد یک زنجیره تأمین تاب‌آور صورت می‌گیرد.
منبع: The Next Web
📲 کانال اختصاصی علایق خودت را رایگان بساز