فرار از جعبه سیاه جادویی هوش مصنوعی

OpenAI نسخه جدید مدل تولید تصویر خود با نام Images 2.6 را رونمایی کرد که با سرعت ۵۰ درصد بیشتر و کیفیت بهبود یافته ارائه می‌شود. این نسخه امکان تبدیل تصاویر به فایل‌های گیف متحرک را فراهم می‌کند که برای تولید محتوای شبکه‌های اجتماعی و تصاویر تبلیغاتی کاربرد دارد. کاربران هر هفته ۴ میلیارد تصویر از طریق ChatGPT تولید می‌کنند. Images 2.6 از امروز در سراسر جهان در دسترس است و قابلیت‌های جدید ویرایش و کنترل بیشتر بر فرایند تولید تصویر را ارائه می‌دهد.

محققان MIT یک سیستم جدید برای تصحیح حافظه ربات‌ها توسعه داده‌اند. این سیستم، UQ-DAAAM، اشتباهات در توصیف اشیاء را شناسایی و تصحیح می‌کند. ربات‌ها ممکن است اشیاء را به اشتباه نام‌گذاری کنند، مانند اشتباه گرفتن یک دیفibrillator با یک استینگر. سیستم با مقایسه تصاویر از زوایای مختلف، عدم اطمینان ربات را کاهش می‌دهد و توصیف دقیق‌تری ذخیره می‌کند. این روش باعث افزایش دقت پاسخ‌های ربات به سوالات در مورد اشیاء و مکان‌های آن‌ها می‌شود. محققان می‌گویند که ربات‌ها باید بدانند چه چیزی را نمی‌دانند تا به صورت امن کار کنند.

مخالفت با ساخت مراکز داده هوش مصنوعی به یکی از موضوعات تعیین‌کننده در انتخابات میان‌دوره‌ای ایالات متحده آمریکا تبدیل شد. نامزدهای دموکرات در ایالت‌های تگزاس، جورجیا و اوهایو با وعده محدود کردن یا متوقف کردن پروژه‌های جدید مراکز داده توانستند به پیروزی برسند. نگرانی شهروندان از مصرف بالای انرژی، آلودگی صوتی و زمین‌های گسترده مورد نیاز، نقشی کلیدی در افزایش این مخالفت‌ها ایفا کرده است. نظرسنجی شبکه ان‌بی‌سی نشان می‌دهد که بیش از نیمی از رأی‌دهندگان، مسئله هوش مصنوعی و مراکز داده را عاملی مهم در تصمیم‌ انتخاباتی خود دانسته‌اند. در همین راستا، فرماندار تگزاس صدور مجوز برای مراکز داده جدید را تا زمان انجام حسابرسی متوقف کرد و ۱۵ شهرداری در اوهایو نیز محدودیت‌هایی برای احداث این تأسیسات تصویب کردند. طبق گزارش طرح پژوهشی دیتاسنتر واچ، دست‌کم ۴۵ پروژه ساخت مرکز داده در نیمه دوم سال ۲۰۲۶ به دلیل مخالفت‌های محلی متوقف یا با اختلال مواجه شده‌اند.

نشست تخصصی برندگان جایزه نوبل و کارشناسان نظامی در دانشگاه شیکاگو، بر خطرات ادغام هوش مصنوعی با تسلیحات هسته‌ای متمرکز شد. صاحب‌نظران این حوزه معتقدند که ورود هوش مصنوعی به سیستم‌های هسته‌ای اجتناب‌ناپذیر است و می‌تواند امنیت جهانی را با چالش‌های جدی مواجه کند. اسکات ساگان، استاد دانشگاه استنفورد، تأکید کرد که جهان وارد عصر جدیدی شده که فناوری‌های نوظهور، ساختار قدرت هسته‌ای را تحت تأثیر قرار می‌دهند. با این حال، کارشناسان بر لزوم حفظ کنترل انسانی مؤثر بر تصمیم‌گیری‌های مربوط به سلاح‌های هسته‌ای تأکید دارند. نگرانی اصلی متخصصان، ابهام در تعریف دقیق هوش مصنوعی و نحوه تعامل آن با کدهای هسته‌ای است. در این نشست، بر ضرورت ارائه پیشنهادهای سیاستی برای جلوگیری از وقوع جنگ هسته‌ای تأکید شد.

مدل‌های زبانی بزرگ (LLM) به دلیل عدم تمایز بین «کد» و «داده»، در معرض حملات «تزریق پرامپت» قرار دارند. این حملات می‌توانند از خنده‌دار تا مخرب باشند. «سه‌گانه مرگبار» زمانی شکل می‌گیرد که یک LLM دسترسی به داده‌های غیرقابل‌اعتماد، اسرار ارزشمند و ارتباط با دنیای بیرون داشته باشد. مهندسان هوش مصنوعی باید مانند مهندسان سازه فکر کنند و با «بیش‌سازی» (افزونگی) در طراحی، از خطرات جلوگیری کنند. این روش شامل استفاده از مدل‌های قدرتمندتر یا محدودکردن دسترسی به منابع بیرونی است.

اقتصاد هوش مصنوعی نیازمند توجه ویژه به زیرساخت‌ها و بخش‌های پشتیبان است. مهدی محمدی، مدیرعامل گرینوب، در یادداشتی تأکید کرد که توان پردازشی، ذخیره‌سازی، شبکه و برق نقش کلیدی در قیمت و سرعت توسعه دارند. تکیه بر خدمات زیرساختی مشترک می‌تواند بار مالی تیم‌های توسعه‌دهنده را کاهش دهد. همچنین ارزیابی کسب‌وکارهای زیرساختی باید بر مبنای میزان استفاده واقعی از ظرفیت‌ها و درآمدهای مستمر انجام شود. سیاستگذاری‌های روشن و قوانین قابل‌پیش‌بینی برای جذب سرمایه‌گذاری در این حوزه امری ضروری است. در نهایت، بلوغ این بازار در گرو تبدیل سرمایه‌گذاری به خدمات قابل اتکا و تقاضای ماندگار است.