ابزار جدید شرکت گودفایر برای نظارت بر هوش مصنوعی

شرکت استارتاپ گودفایر ابزار نظارتی جدیدی را برای بررسی درون مدل‌های هوش مصنوعی راه‌اندازی کرد. این سیستم برخلاف روش‌های سنتی که کل خروجی مدل را بازخوانی می‌کنند، سیگنال‌های داخلی مدل را به روشی مشابه اسکنر فرودگاهی بررسی می‌کند. این ابزار جدید روی پلتفرم بستن در دسترس مشتریان قرار گرفته است. در آزمایش‌ها روی مدل کیمی کا ۳، نظارت بر حدود ۱۵۰۰ جلسه حدود ۵۱ دلار هزینه داشت که بسیار ارزان‌تر از روش‌های سنتی است. این کاوشگرها توانستند ۹۴ درصد از جلسات هک مخرب را شناسایی کنند. اریک هو، مدیرعامل گودفایر، اعلام کرد که این مانیتورهای داخلی به دلیل استفاده مجدد از محاسبات موجود، بسیار کم‌هزینه هستند. دان بالسام، مدیر فنی شرکت، افزود که مزیت بزرگ این فناوری تشخیص تخلفات پیش از وقوع آن‌ها است.