بخش خدمات مالی در حال گذار از هوش مصنوعی پاسخ‌گو به هوش مصنوعی عمل‌گرا است که این تحول چالش‌های جدیدی را در زمینه مسئولیت‌پذیری ایجاد می‌کند. طرح پذیرش خدمات مالی دولت از این صنعت می‌خواهد که فراتر از طرح‌های آزمایشی گام بردارد و هوش مصنوعی را در فرآیندهای اصلی خود مقیاس‌بندی کند. عامل‌های هوش مصنوعی اکنون کارهایی مانند بررسی هشدارهای تقلب و پردازش ادعاهای بیمه را انجام می‌دهند اما این روند شفافیت چگونگی تصمیم‌گیری‌ها را دشوارتر ساخته است. طبق آمارهای منتشرشده، ۴۸ درصد از مدیران ارشد مالی در بریتانیا از هوش مصنوعی عامل‌محور استفاده می‌کنند اما بیش از یک چهارم آن‌ها گزارش داده‌اند که هیچ کنترل یا کنترل محدودی برای اطمینان از انطباق با قوانین ندارند. این شکاف قانونی می‌تواند به جریان‌های تصمیم‌گیری جعبه‌سیاه منجر شود که ردیابی مالکان اصلی تصمیمات را دشوار می‌سازد. کارشناسان تأکید می‌کنند که شرکت‌ها علاوه بر قابلیت توضیح مدل هوش مصنوعی، به حساب‌رسی عملیاتی در سراسر جریان کار نیاز دارند تا خطاهای احتمالی شناسایی و کنترل شوند.
