سیستم جدید برای تصحیح حافظه ربات‌ها

نشست تخصصی برندگان جایزه نوبل و کارشناسان نظامی در دانشگاه شیکاگو، بر خطرات ادغام هوش مصنوعی با تسلیحات هسته‌ای متمرکز شد. صاحب‌نظران این حوزه معتقدند که ورود هوش مصنوعی به سیستم‌های هسته‌ای اجتناب‌ناپذیر است و می‌تواند امنیت جهانی را با چالش‌های جدی مواجه کند. اسکات ساگان، استاد دانشگاه استنفورد، تأکید کرد که جهان وارد عصر جدیدی شده که فناوری‌های نوظهور، ساختار قدرت هسته‌ای را تحت تأثیر قرار می‌دهند. با این حال، کارشناسان بر لزوم حفظ کنترل انسانی مؤثر بر تصمیم‌گیری‌های مربوط به سلاح‌های هسته‌ای تأکید دارند. نگرانی اصلی متخصصان، ابهام در تعریف دقیق هوش مصنوعی و نحوه تعامل آن با کدهای هسته‌ای است. در این نشست، بر ضرورت ارائه پیشنهادهای سیاستی برای جلوگیری از وقوع جنگ هسته‌ای تأکید شد.

مدل‌های زبانی بزرگ (LLM) به دلیل عدم تمایز بین «کد» و «داده»، در معرض حملات «تزریق پرامپت» قرار دارند. این حملات می‌توانند از خنده‌دار تا مخرب باشند. «سه‌گانه مرگبار» زمانی شکل می‌گیرد که یک LLM دسترسی به داده‌های غیرقابل‌اعتماد، اسرار ارزشمند و ارتباط با دنیای بیرون داشته باشد. مهندسان هوش مصنوعی باید مانند مهندسان سازه فکر کنند و با «بیش‌سازی» (افزونگی) در طراحی، از خطرات جلوگیری کنند. این روش شامل استفاده از مدل‌های قدرتمندتر یا محدودکردن دسترسی به منابع بیرونی است.

اقتصاد هوش مصنوعی نیازمند توجه ویژه به زیرساخت‌ها و بخش‌های پشتیبان است. مهدی محمدی، مدیرعامل گرینوب، در یادداشتی تأکید کرد که توان پردازشی، ذخیره‌سازی، شبکه و برق نقش کلیدی در قیمت و سرعت توسعه دارند. تکیه بر خدمات زیرساختی مشترک می‌تواند بار مالی تیم‌های توسعه‌دهنده را کاهش دهد. همچنین ارزیابی کسب‌وکارهای زیرساختی باید بر مبنای میزان استفاده واقعی از ظرفیت‌ها و درآمدهای مستمر انجام شود. سیاستگذاری‌های روشن و قوانین قابل‌پیش‌بینی برای جذب سرمایه‌گذاری در این حوزه امری ضروری است. در نهایت، بلوغ این بازار در گرو تبدیل سرمایه‌گذاری به خدمات قابل اتکا و تقاضای ماندگار است.

هوش مصنوعی می‌تواند در امور اداری و کاغذبازی کمک کند. دانشمندان بخش قابل توجهی از زمان خود را صرف کارهای اداری می‌کنند، از جمله درخواست‌های گرنت و نگارش مقالات. هوش مصنوعی می‌تواند این کارها را تسریع کند، اما همچنین تولید مقالات با کیفیت پایین و ارجاعات ساختگی را افزایش داده است. یک پژوهشگر در دانشگاه آیوی لیگ از هفت روز کار برای درخواست گرنت به ۴۵ دقیقه با استفاده از هوش مصنوعی کاهش داده است. با این حال، مقالات منتشرشده با کمک هوش مصنوعی لزوماً کیفیت بالاتری ندارند و نرخ ارجاعات ساختگی در علوم زیست‌پزشکی ۱۲ برابر شده است.

هوش مصنوعی در کسب‌وکار برای شناخت مشتریان، پیشبینی تقاضا، بهینه‌سازی زنجیره تأمین و خودکارسازی فعالیت‌ها استفاده می‌شود. این فناوری در بخش‌های مختلف مانند بازاریابی، فروش و کنترل کیفیت محصولات کاربرد دارد. برای مثال، فروشگاه‌های اینترنتی می‌توانند با تحلیل رفتار خرید مشتریان، محصولات مرتبط را پیشنهاد دهند. با این حال، استفاده از هوش مصنوعی لزوما به افزایش سودآوری نمی‌انجامد و مهم‌ترین چالش تبدیل قابلیت‌های آن به ارزش اقتصادی است. کسب‌وکارهای مبتنی بر هوش مصنوعی از ابتدا این فناوری را در طراحی محصول و عملیات خود به کار می‌برند.

فرزین فردیس، عضو هیئتیسه اتاق بازرگانی تهران، هشدار داد که غفلت از هوش مصنوعی می‌تواند سازمان‌ها را به سرنوشت نوکیا دچار کند. او تأکید کرد که سازمان‌های بزرگ باید با تغییرات فناوری، قوانین و انتظارات مشتریان سازگار شوند. فردیس هوش مصنوعی را موج بعدی سرمایه‌گذاری در جهان توصیف کرد و پیش‌بینی کرد که ۶۵ درصد سرمایه‌گذاری خطرپذیر در سال ۲۰۲۵ به این حوزه اختصاص خواهد یافت.