معرفی پایون؛ ایجنت خودران برای مدیریت شرکت‌ها

مؤسسه گرانْد ویو رِسِرچ بازار عامل‌های هوش مصنوعی سازمانی را تا سال ۲۰۳۰ میلادی معادل ۲۴ میلیارد و ۵۰۰ میلیون دلار پیش‌بینی کرده است. در همین حال، مؤسسه مارکِتس‌آن‌مارکِتس حجم این بازار را ۵۲ میلیارد و ۶۲ میلیون دلار برآورد کرده است که هر دو نرخ رشد مرکب حدود ۴۶ درصد را نشان می‌دهند. این تفاوت در ارقام نهایی ناشی از اختلاف در نحوه تعریف و تعیین مرزهای این بازار توسط مؤسسات مختلف است. از سوی دیگر، گارتنر پیش‌بینی کرده است که مشتریان ماشینی تا سال ۲۰۳۰ میلادی کنترل حدود ۳۰ تریلیون دلار از خریدها را در دست خواهند گرفت. شرکت‌های مالی مختلف مانند استرایپ، مسترکارد و کوین‌بیس نیز استانداردهای پرداختی جدیدی را برای تعامل با این فناوری معرفی کرده‌اند. با گسترش این ابزارها، عامل‌های هوش مصنوعی به روشی نوین برای تعامل با بازارهای مالی و داده‌های مطمئن تبدیل می‌شوند.

شرکت OpenAI صدها پیمانکار انسانی را با نام رمز داخلی پروژه لیلی استخدام کرده است تا گفتگوهای واقعی کاربران در چت جی پی تی را بخوانند و پاسخ های ربات را ارزیابی کنند. شرکت های دیگری مانند گوگل و انتروپیک نیز تایید کرده اند که بررسی انسانی را روی برخی چت ها انجام می دهند. تنظیمات پیش فرض بهبود مدل برای همه کاربران رایگان، پلاس و پرو روشن است و کاربران عادی سهمی در تغذیه مدل دارند. رگولاتور ایتالیایی پیش تر این شرکت را به دلیل پردازش بدون مبنای قانونی کافی ۱۵ میلیون یورو جریمه کرده بود. یکی از ارزیابان این روند گفت که کاربران هرگز تصور نمی کنند پیمانکاری در نقطه ای از جهان در حال تحلیل مکالمات شخصی آن ها باشد.

شرکت انتروپیک ابزار هوش مصنوعی جدیدی موسوم به کلود را برای مشاوران مالی معرفی کرد که به ابزارهای تحلیل و مدیریت پورتفوی شرکت‌های بزرگی نظیر بلک‌راک و ونگارد متصل می‌شود. این محصول جدید با هدف سرعت بخشیدن به امور پژوهشی، اداری و نظارت بر دارایی‌ها طراحی شده است اما به گفته مدیران شرکت، به صورت مستقیم توصیه‌ سرمایه‌گذاری ارائه نمی‌دهد. ناظران اروپایی یادآور شده‌اند که استفاده از ابزارهای هوش مصنوعی هیچ‌یک از مسئولیت‌های قانونی شرکت‌ها در قبال منافع مشتریان را کاهش نمی‌دهد. شرکت‌های بزرگ مالی در حال حاضر حجم عظیمی از دارایی‌های مشتریان را مدیریت می‌کنند و مشاوران به دنبال برونسپاری فرآیندهای تحلیل خود هستند. انتروپیک این ابزار حرفه‌ای را مستقیماً به مشاوران عرضه می‌کند تا چالش کاهش نیروی انسانی متخصص در این حوزه جبران شود.

محققان دانشگاه MIT الگوریتم جدیدی به نام HardFlow توسعه داده‌اند که به مدل‌های هوش مصنوعی مولد اجازه می‌دهد بدون نیاز به آموزش مجدد، قوانین ایمنی سخت‌گیرانه را در خروجی‌های خود رعایت کنند. این روش که در آزمایش‌های شبیه‌سازی شده برای رباتیک و تصویرسازی استفاده شده، برخلاف روش‌های پیشین، تنها در مرحله نهایی تولید، رعایت قوانین را بررسی می‌کند تا مدل آزادی بیشتری برای یافتن پاسخ‌های باکیفیت داشته باشد. تیم تحقیق شامل زایانگ لی، کاوه علیم و نوید عزیزان، موفق شدند در شبیه‌سازی‌ها نتایج بهتری نسبت به رقبای خود کسب کنند. با این حال، این دستاورد تاکنون تنها در محیط‌های کامپیوتری آزمایش شده و هنوز توسط آزمایشگاه‌های مستقل بازتولید نشده است. این الگوریتم می‌تواند به طور مستقیم روی مدل‌های از پیش آموزش‌دیده اعمال شود و فرآیند تولید را به مجموعه‌ای از مسائل کوتاه و گام‌به‌گام تبدیل کند.

بحث‌های جنجالی درباره خطرات وجودی هوش مصنوعی با استعاره‌های آخرالزمانی افزایش یافته است. ایوان هوبینگر، از مدیران آنتروپیک، معتقد است احتمال نابودی بشریت توسط هوش مصنوعی در دهه آینده بیش از ۱۰ درصد است. این اظهارات پس از استعفای جیکوب کاکسون، پژوهشگر سابق OpenAI و Anthropic، مطرح شد که شرکت‌ها را به دلیل رقابت برای رسیدن به ابرهوش خودبه‌خودشونده، غیرمسئول می‌داند. در حالی که رهبرانی مانند سام آلتمن و دِمیس هاسابیس در سال ۲۰۲۳ بر اولویت جهانی کاهش ریسک‌های هوش مصنوعی تأکید کردند، منتقدان معتقدند این روایت‌های ترسناک بیشتر برای مدیریت بازار و تنظیم‌گری استفاده می‌شوند تا واقعیت. برخی پژوهشگران نیز با این پیش‌بینی‌های فاجعه‌بار مخالف‌اند و آن‌ها را غیرواقع‌بینانه می‌دانند.

شرکت‌های xAI و X Corp درخواست خود مبنی بر دعاوی ضدرقابتی علیه اپل بر سر ادغام چت‌جی‌پتی در آیفون را پس گرفتند. با این حال، دعاوی انحصارطلبانه این شرکت‌ها همچنان علیه اوپن‌آی‌برقرار است. این دعوی در اوت ۲۰۲۵ در فورت وورث تگزاس ثبت شده بود و ایلان ماسک خواستار میلیاردها دلار خسارت شده بود. اپل و اوپن‌آی ضمن رد این اتهامات تأکید کردند که این توافق هرگز انحصاری نبوده است. در همین حال، قوانین بازارهای دیجیتال اروپا دستیاران مجازی را در زمره خدمات پلتفرمی اصلی قرار می‌دهد اما هنوز دستیاری در این رده مشخص نشده است. کمیسیون اروپا در آوریل اعلام کرد که قوانین فعلی برای ظهور هوش مصنوعی مناسب است و نیازی به اصلاح ندارد.