معرفی ابزار هوش مصنوعی کلود برای مشاوران مالی توسط انتروپیک

مؤسسه گرانْد ویو رِسِرچ بازار عامل‌های هوش مصنوعی سازمانی را تا سال ۲۰۳۰ میلادی معادل ۲۴ میلیارد و ۵۰۰ میلیون دلار پیش‌بینی کرده است. در همین حال، مؤسسه مارکِتس‌آن‌مارکِتس حجم این بازار را ۵۲ میلیارد و ۶۲ میلیون دلار برآورد کرده است که هر دو نرخ رشد مرکب حدود ۴۶ درصد را نشان می‌دهند. این تفاوت در ارقام نهایی ناشی از اختلاف در نحوه تعریف و تعیین مرزهای این بازار توسط مؤسسات مختلف است. از سوی دیگر، گارتنر پیش‌بینی کرده است که مشتریان ماشینی تا سال ۲۰۳۰ میلادی کنترل حدود ۳۰ تریلیون دلار از خریدها را در دست خواهند گرفت. شرکت‌های مالی مختلف مانند استرایپ، مسترکارد و کوین‌بیس نیز استانداردهای پرداختی جدیدی را برای تعامل با این فناوری معرفی کرده‌اند. با گسترش این ابزارها، عامل‌های هوش مصنوعی به روشی نوین برای تعامل با بازارهای مالی و داده‌های مطمئن تبدیل می‌شوند.

شرکت آن‌دان از عرضه پلتفرم خودران جدیدی به نام پایون رونمایی کرد که به منظور مدیریت کاملاً خودمختار شرکت‌ها طراحی شده است. این پروژه حاصل دو سال تحقیق و بررسی درباره توانایی سیستم‌های هوش مصنوعی در دستیابی به منابع در دنیای واقعی است. توسعه‌دهندگان ابتدا این فناوری را در شبیه‌سازهایی مانند وندینگ‌بنچ آزمایش کردند تا رفتار مدل‌ها را ارزیابی کنند. پیشرفت این مدل‌ها با سرعت بالایی انجام شده و کلود اوپوس ۴ در ماه مه ۲۰۲۵ توانست نخستین مدلی باشد که از آستانه عملکرد انسانی عبور کند. سازندگان هدف از ساخت این سیستم را درک توانایی‌ها و نقاط ضعف مدل‌های هوش مصنوعی در اداره کسب‌وکارها اعلام کرده‌اند. پلتفرم پایون اکنون به صورت عمومی در دسترس قرار گرفته است تا کاربران بتوانند کسب‌وکارهای خودمختار را آزمایش کنند.

شرکت OpenAI صدها پیمانکار انسانی را با نام رمز داخلی پروژه لیلی استخدام کرده است تا گفتگوهای واقعی کاربران در چت جی پی تی را بخوانند و پاسخ های ربات را ارزیابی کنند. شرکت های دیگری مانند گوگل و انتروپیک نیز تایید کرده اند که بررسی انسانی را روی برخی چت ها انجام می دهند. تنظیمات پیش فرض بهبود مدل برای همه کاربران رایگان، پلاس و پرو روشن است و کاربران عادی سهمی در تغذیه مدل دارند. رگولاتور ایتالیایی پیش تر این شرکت را به دلیل پردازش بدون مبنای قانونی کافی ۱۵ میلیون یورو جریمه کرده بود. یکی از ارزیابان این روند گفت که کاربران هرگز تصور نمی کنند پیمانکاری در نقطه ای از جهان در حال تحلیل مکالمات شخصی آن ها باشد.

محققان دانشگاه MIT الگوریتم جدیدی به نام HardFlow توسعه داده‌اند که به مدل‌های هوش مصنوعی مولد اجازه می‌دهد بدون نیاز به آموزش مجدد، قوانین ایمنی سخت‌گیرانه را در خروجی‌های خود رعایت کنند. این روش که در آزمایش‌های شبیه‌سازی شده برای رباتیک و تصویرسازی استفاده شده، برخلاف روش‌های پیشین، تنها در مرحله نهایی تولید، رعایت قوانین را بررسی می‌کند تا مدل آزادی بیشتری برای یافتن پاسخ‌های باکیفیت داشته باشد. تیم تحقیق شامل زایانگ لی، کاوه علیم و نوید عزیزان، موفق شدند در شبیه‌سازی‌ها نتایج بهتری نسبت به رقبای خود کسب کنند. با این حال، این دستاورد تاکنون تنها در محیط‌های کامپیوتری آزمایش شده و هنوز توسط آزمایشگاه‌های مستقل بازتولید نشده است. این الگوریتم می‌تواند به طور مستقیم روی مدل‌های از پیش آموزش‌دیده اعمال شود و فرآیند تولید را به مجموعه‌ای از مسائل کوتاه و گام‌به‌گام تبدیل کند.

بحث‌های جنجالی درباره خطرات وجودی هوش مصنوعی با استعاره‌های آخرالزمانی افزایش یافته است. ایوان هوبینگر، از مدیران آنتروپیک، معتقد است احتمال نابودی بشریت توسط هوش مصنوعی در دهه آینده بیش از ۱۰ درصد است. این اظهارات پس از استعفای جیکوب کاکسون، پژوهشگر سابق OpenAI و Anthropic، مطرح شد که شرکت‌ها را به دلیل رقابت برای رسیدن به ابرهوش خودبه‌خودشونده، غیرمسئول می‌داند. در حالی که رهبرانی مانند سام آلتمن و دِمیس هاسابیس در سال ۲۰۲۳ بر اولویت جهانی کاهش ریسک‌های هوش مصنوعی تأکید کردند، منتقدان معتقدند این روایت‌های ترسناک بیشتر برای مدیریت بازار و تنظیم‌گری استفاده می‌شوند تا واقعیت. برخی پژوهشگران نیز با این پیش‌بینی‌های فاجعه‌بار مخالف‌اند و آن‌ها را غیرواقع‌بینانه می‌دانند.

شرکت‌های xAI و X Corp درخواست خود مبنی بر دعاوی ضدرقابتی علیه اپل بر سر ادغام چت‌جی‌پتی در آیفون را پس گرفتند. با این حال، دعاوی انحصارطلبانه این شرکت‌ها همچنان علیه اوپن‌آی‌برقرار است. این دعوی در اوت ۲۰۲۵ در فورت وورث تگزاس ثبت شده بود و ایلان ماسک خواستار میلیاردها دلار خسارت شده بود. اپل و اوپن‌آی ضمن رد این اتهامات تأکید کردند که این توافق هرگز انحصاری نبوده است. در همین حال، قوانین بازارهای دیجیتال اروپا دستیاران مجازی را در زمره خدمات پلتفرمی اصلی قرار می‌دهد اما هنوز دستیاری در این رده مشخص نشده است. کمیسیون اروپا در آوریل اعلام کرد که قوانین فعلی برای ظهور هوش مصنوعی مناسب است و نیازی به اصلاح ندارد.