نامه سرگشاده به مدیران هوش مصنوعی درباره باز کردن وزن‌ها

سم آلتمن، مدیرعامل OpenAI، اعلام کرد که این شرکت تعهد آنتروپیک مبنی بر اعطای دسترسی کارمندگونه به ارزیابان مستقل را اجرا خواهد کرد. این تصمیم یک روز پس از آن اتخاذ شد که داریو آمودی از فعالان صنعت خواست روند توسعه هوش مصنوعی را کندتر کنند. ایلان ماسک نیز با انتشار پیامی از این موضع حمایت کرد. آمودی همچنین از دولت آمریکا خواسته است معافیت ضد انحصار محدودی ایجاد کند تا رقبا بتوانند درباره مسائل ایمنی گفتگو کنند. کمیسیون اروپا برخلاف آمریکا، از سال ۲۰۰۴ معافیت فردی اعطا نمی کند اما دستورالعمل های همکاری افقی را بازنگری کرده است. این توافق عمومی میان دو آزمایشگاه بزرگ، گام نخست از برنامه سه مرحله ای آمودی به شمار می رود.

مدیرعامل شرکت آنتروپیک در اظهاراتی تازه خواستار کند شدن روند توسعه مدل‌های هوش مصنوعی شد. این درخواست در شرایطی مطرح می‌شود که رقابت میان شرکت‌های بزرگ فناوری برای عرضه مدل‌های جدید به اوج خود رسیده است. او بر لزوم تمرکز بیشتر بر ایمنی و پایداری پیش از معرفی نسخه‌های پیشرفته‌تر تأکید کرد. تحلیلگران این موضع‌گیری را واکنشی به نگرانی‌های فزاینده پیرامون پیامدهای ناخواسته هوش مصنوعی ارزیابی می‌کنند. جزئیات بیشتر درباره این تصمیم در گزارش بلومبرگ منتشر شده است.

لری الیسون، رئیس اجرایی و مدیر ارشد فناوری اوراکل، برنامه معاملاتی خود را برای فروش تا ۵۰ میلیون سهم این شرکت لغو کرد. این تصمیم تنها یک روز پس از افشای برنامه و پیش از فروش هرگونه سهمی اتخاذ شد. ارزش این سهام در زمان تصویب طرح در ماه ژوئن حدود ۸/۷۵ میلیارد دلار بود که پس از افت ۱۶ درصدی به حدود ۷/۵ میلیارد دلار رسید. شرکت اوراکل اعلام کرد که الیسون هیچ برنامه دیگری برای فروش سهام خود ندارد. این طرح بر اساس قوانین بازار ایالات متحده موسوم به قانون ۱۰ب۵-۱ تنظیم شده بود که مشابه اروپایی ندارد. زمان‌بندی این اقدام پس از افت ۱/۷ درصدی سهام اوراکل و گزارش کاهش حاشیه سود ناخالص صورت گرفت. هیچ تخلفی از سوی الیسون صورت نگرفته و این برنامه دقیقاً مطابق با قوانین آمریکا افشا شده بود.

نویسنده با اشاره به تجربیات خود در حوزه هوش مصنوعی، بر لزوم مدیریت سرعت پیشرفت در مرزهای این فناوری تأکید می‌کند. او معتقد است هوش مصنوعی می‌تواند با درمان بیماری‌های اصلی و افزایش رشد اقتصادی، کیفیت زندگی بشر را بهبود بخشد، اما خطرات جدی مانند از دست دادن کنترل سیستم‌ها، حملات سایبری و بیوتروریسم را نیز به همراه دارد. نویسنده از شرکت Anthropic می‌گوید که همواره تلاش کرده است میان سودآوری تجاری و ایمنی، مسیری میانه را برگزیند. او هشدار می‌دهد که پدیده خودبهبودبخشی بازگشتی (recursive self-improvement) می‌تواند سرعت پیشرفت را از توان کنترل انسان خارج کند. در نهایت، وی پیشنهاد می‌کند که برای پیشگیری از خطرات، باید سرعت توسعه قابلیت‌های مدل‌های هوش مصنوعی را کنترل کرد تا زمان کافی برای پیشگیری از ریسک‌ها وجود داشته باشد.

در کنفرانس Black Hat USA 2026، پژوهشگر امنیتی کریس دومس توضیح داد که چگونه بهینه‌سازی‌های قانونی توسط کامپایلر می‌تواند بررسی‌های امنیتی برنامه‌نویس را حذف کرده و آسیب‌پذیری ایجاد کند. وی اشاره کرد که از آنجا که پردازنده کد منبع را اجرا نمی‌کند بلکه خروجی کامپایلر را اجرا می‌کند، ممکن است عملیات پاک‌سازی حافظه یا محافظت‌های کد حذف شوند. این پژوهش نشان داد که حتی تغییرات کوچک در اندازه داده‌ها می‌تواند یک کد امن را به یک باینری آسیب‌پذیر تبدیل کند. همچنین با استفاده از هوش مصنوعی، ۵۰۰ میلیون خط کد متن‌باز تحلیل شد که ۳۰۰ الگوی خطرناک را شناسایی کرد. برای مقابله با این مشکل، توسعه‌دهندگان باید از هشدارهای کامپایلر، ابزارهای sanitizers و تست دقیق باینری‌های نهایی استفاده کنند.

شرکت اوراکل هزینه برنامه تعدیل نیروی خود در سال ۲۰۲۶ را با ۷۰۰ میلیون دلار افزایش به حدود ۲.۸ میلیارد دلار رساند. بیشتر این مبلغ مربوط به هزینه‌های پایان کار کارکنان است و این شرکت تاکنون حدود ۲.۱ میلیارد دلار از آن را ثبت کرده است. مدیر مالی اوراکل اعلام کرد که این اقدامات برای ساده‌سازی و افزایش کارایی جهت حفظ حاشیه سود انجام می‌شود. از کل ۱۴۱ هزار کار员 اوراکل، حدود ۹۲ هزار نفر در خارج از ایالات متحده آمریکا مشغول به کار هستند. همچنین لری الیسون، یکی از مدیران ارشد، برنامه‌ای برای فروش ۵۰ میلیون سهم خود تا تاریخ ۲۴ اکتبر به تصویب رسانده است.