نگرانی پژوهشگران از قابلیت‌های هوش مصنوعی جدید

شرکت اوپنای‌آی با ایجاد نگرانی‌های امنیتی گسترده در میان پژوهشگران، انتشار مدل هوش مصنوعی قدرتمند خود یعنی Astra را به تأخیر انداخت. گزارش‌ها حاکی از آن است که Astra از معماری «پردازش بازگشتی در عمق مدل» استفاده می‌کند که باعث می‌شود فرآیند تصمیم‌گیری و استدلال آن برای ناظران مبهم و پنهان باشد. رایان گرینبلات، دانشمند ارشد Redwood Research، این رویکرد را «بدترین تحول در امنیت هوش مصنوعی تا امروز» توصیف کرد، زیرا تشخیص رفتارهای نامطلوب را دشوار می‌کند. متخصصان هشدار می‌دهند که رقابت برای ساخت مدل‌های پیشرفته ممکن است منجر به «مسابقه‌ای به سوی پایین‌ترین سطح شفافیت» شود. اوپنای‌آی اعلام کرده است که برای مقابله با این ریسک، از نظارت اضافی بر زنجیره استدلال استفاده خواهد کرد، اما ابهامات فنی همچنان پابرجاست.