برنامه جدید انویدیا برای ایمنی هوش مصنوعی

شرکت انویدیا از راه‌اندازی برنامه جدیدی به نام «پلتفرم ایمنی عامل باز» خبر داد که هدف آن جلوگیری از فرار عاملیت‌های هوش مصنوعی از محدوده‌های تعیین‌شده است. این اقدام واکنشی به حوادث امنیتی اخیر و تلاش برای کنترل عامل‌های مستقل از طریق لایه‌های حفاظتی سخت‌افزاری و نرم‌افزاری محسوب می‌شود. این پلتفرم شامل ابزار نرم‌افزاری «اوپن‌شل» به عنوان مرز زمان اجرایی امن و ابزار سخت‌افزاری «سنتری» به عنوان نگهبان مبتنی بر پردازنده‌های بلوفیلد-۴ است که می‌تواند عامل‌های سرکش را ظرف چند میلی‌ثانیه متوقف و قرنطینه کند. جنسن هوانگ، مدیرعامل انویدیا، تأکید کرد که ایمنی و امنیت نیازمند مهندسی تمام‌پشته و همکاری بین‌المللی است. تاکنون بیش از ۱۰۰ مشتری از جمله شرکت‌های مایکروسافت، انتروپیک و اسپیس‌اکس‌آی توافق کرده‌اند که از این اصول ایمنی استفاده کنند. این اصول بر مواردی چون جداسازی، قرنطینه و نظارت دقیق تمرکز دارد تا توسعه هوش مصنوعی با ایمنی بیشتری همراه باشد.