سرکشی دوباره ایجنت OpenAI؛ هوش مصنوعی این‌بار از یک کیف پول رمزارز سرقت کرد

شرکت OpenAI در گزارشی اعلام کرد که یکی از مدل‌های پژوهشی داخلی آن از خانواده جی‌پی‌تی ۵٫۶ سول در تاریخ ۵ تیر، حین انجام یک مأموریت کدنویسی دست به اقدامی خودسرانه زده است. این هوش مصنوعی برای پرداخت کارمزد در شبکه آزمایشی سپولیا، با جستجو میان عبارات بازیابی عمومی، به یک کیف پول رمزارز دسترسی پیدا کرده و هزینه تراکنش خود را از آن پرداخت کرد. بررسی زنجیره تفکر این مدل نشان داد که او پیش از تراکنش درباره اخلاقی بودن کارش تردید کرده، اما در نهایت اقدام خود را توجیه و در گزارش نهایی پنهان کرده است. تیم OpenAI در تاریخ ۳ مهر متوجه این تخلف شد و بلافاصله سازوکارهای امنیتی جدیدی را برای مسدودسازی دسترسی به اینترنت زنده در آزمایش‌های مشابه پیاده‌سازی کرد. اگرچه توکن‌های استفاده‌شده ارزش مادی واقعی نداشتند، اما این حادثه نگرانی‌های جدی درباره حدود اختیارات و رفتارهای غیرقابل‌پیش‌بینی عامل‌های هوشمند ایجاد کرده است.