هشدار درباره یک کلاهبرداری

مؤسسه گرانْد ویو رِسِرچ بازار عامل‌های هوش مصنوعی سازمانی را تا سال ۲۰۳۰ میلادی معادل ۲۴ میلیارد و ۵۰۰ میلیون دلار پیش‌بینی کرده است. در همین حال، مؤسسه مارکِتس‌آن‌مارکِتس حجم این بازار را ۵۲ میلیارد و ۶۲ میلیون دلار برآورد کرده است که هر دو نرخ رشد مرکب حدود ۴۶ درصد را نشان می‌دهند. این تفاوت در ارقام نهایی ناشی از اختلاف در نحوه تعریف و تعیین مرزهای این بازار توسط مؤسسات مختلف است. از سوی دیگر، گارتنر پیش‌بینی کرده است که مشتریان ماشینی تا سال ۲۰۳۰ میلادی کنترل حدود ۳۰ تریلیون دلار از خریدها را در دست خواهند گرفت. شرکت‌های مالی مختلف مانند استرایپ، مسترکارد و کوین‌بیس نیز استانداردهای پرداختی جدیدی را برای تعامل با این فناوری معرفی کرده‌اند. با گسترش این ابزارها، عامل‌های هوش مصنوعی به روشی نوین برای تعامل با بازارهای مالی و داده‌های مطمئن تبدیل می‌شوند.

شرکت آن‌دان از عرضه پلتفرم خودران جدیدی به نام پایون رونمایی کرد که به منظور مدیریت کاملاً خودمختار شرکت‌ها طراحی شده است. این پروژه حاصل دو سال تحقیق و بررسی درباره توانایی سیستم‌های هوش مصنوعی در دستیابی به منابع در دنیای واقعی است. توسعه‌دهندگان ابتدا این فناوری را در شبیه‌سازهایی مانند وندینگ‌بنچ آزمایش کردند تا رفتار مدل‌ها را ارزیابی کنند. پیشرفت این مدل‌ها با سرعت بالایی انجام شده و کلود اوپوس ۴ در ماه مه ۲۰۲۵ توانست نخستین مدلی باشد که از آستانه عملکرد انسانی عبور کند. سازندگان هدف از ساخت این سیستم را درک توانایی‌ها و نقاط ضعف مدل‌های هوش مصنوعی در اداره کسب‌وکارها اعلام کرده‌اند. پلتفرم پایون اکنون به صورت عمومی در دسترس قرار گرفته است تا کاربران بتوانند کسب‌وکارهای خودمختار را آزمایش کنند.

شرکت OpenAI صدها پیمانکار انسانی را با نام رمز داخلی پروژه لیلی استخدام کرده است تا گفتگوهای واقعی کاربران در چت جی پی تی را بخوانند و پاسخ های ربات را ارزیابی کنند. شرکت های دیگری مانند گوگل و انتروپیک نیز تایید کرده اند که بررسی انسانی را روی برخی چت ها انجام می دهند. تنظیمات پیش فرض بهبود مدل برای همه کاربران رایگان، پلاس و پرو روشن است و کاربران عادی سهمی در تغذیه مدل دارند. رگولاتور ایتالیایی پیش تر این شرکت را به دلیل پردازش بدون مبنای قانونی کافی ۱۵ میلیون یورو جریمه کرده بود. یکی از ارزیابان این روند گفت که کاربران هرگز تصور نمی کنند پیمانکاری در نقطه ای از جهان در حال تحلیل مکالمات شخصی آن ها باشد.

شرکت انتروپیک ابزار هوش مصنوعی جدیدی موسوم به کلود را برای مشاوران مالی معرفی کرد که به ابزارهای تحلیل و مدیریت پورتفوی شرکت‌های بزرگی نظیر بلک‌راک و ونگارد متصل می‌شود. این محصول جدید با هدف سرعت بخشیدن به امور پژوهشی، اداری و نظارت بر دارایی‌ها طراحی شده است اما به گفته مدیران شرکت، به صورت مستقیم توصیه‌ سرمایه‌گذاری ارائه نمی‌دهد. ناظران اروپایی یادآور شده‌اند که استفاده از ابزارهای هوش مصنوعی هیچ‌یک از مسئولیت‌های قانونی شرکت‌ها در قبال منافع مشتریان را کاهش نمی‌دهد. شرکت‌های بزرگ مالی در حال حاضر حجم عظیمی از دارایی‌های مشتریان را مدیریت می‌کنند و مشاوران به دنبال برونسپاری فرآیندهای تحلیل خود هستند. انتروپیک این ابزار حرفه‌ای را مستقیماً به مشاوران عرضه می‌کند تا چالش کاهش نیروی انسانی متخصص در این حوزه جبران شود.

محققان دانشگاه MIT الگوریتم جدیدی به نام HardFlow توسعه داده‌اند که به مدل‌های هوش مصنوعی مولد اجازه می‌دهد بدون نیاز به آموزش مجدد، قوانین ایمنی سخت‌گیرانه را در خروجی‌های خود رعایت کنند. این روش که در آزمایش‌های شبیه‌سازی شده برای رباتیک و تصویرسازی استفاده شده، برخلاف روش‌های پیشین، تنها در مرحله نهایی تولید، رعایت قوانین را بررسی می‌کند تا مدل آزادی بیشتری برای یافتن پاسخ‌های باکیفیت داشته باشد. تیم تحقیق شامل زایانگ لی، کاوه علیم و نوید عزیزان، موفق شدند در شبیه‌سازی‌ها نتایج بهتری نسبت به رقبای خود کسب کنند. با این حال، این دستاورد تاکنون تنها در محیط‌های کامپیوتری آزمایش شده و هنوز توسط آزمایشگاه‌های مستقل بازتولید نشده است. این الگوریتم می‌تواند به طور مستقیم روی مدل‌های از پیش آموزش‌دیده اعمال شود و فرآیند تولید را به مجموعه‌ای از مسائل کوتاه و گام‌به‌گام تبدیل کند.

بحث‌های جنجالی درباره خطرات وجودی هوش مصنوعی با استعاره‌های آخرالزمانی افزایش یافته است. ایوان هوبینگر، از مدیران آنتروپیک، معتقد است احتمال نابودی بشریت توسط هوش مصنوعی در دهه آینده بیش از ۱۰ درصد است. این اظهارات پس از استعفای جیکوب کاکسون، پژوهشگر سابق OpenAI و Anthropic، مطرح شد که شرکت‌ها را به دلیل رقابت برای رسیدن به ابرهوش خودبه‌خودشونده، غیرمسئول می‌داند. در حالی که رهبرانی مانند سام آلتمن و دِمیس هاسابیس در سال ۲۰۲۳ بر اولویت جهانی کاهش ریسک‌های هوش مصنوعی تأکید کردند، منتقدان معتقدند این روایت‌های ترسناک بیشتر برای مدیریت بازار و تنظیم‌گری استفاده می‌شوند تا واقعیت. برخی پژوهشگران نیز با این پیش‌بینی‌های فاجعه‌بار مخالف‌اند و آن‌ها را غیرواقع‌بینانه می‌دانند.