کارکنان حوزه سلامت روان در مرکز پزشکی کایزر پرمننته در کالیفرنیا، از استفاده گسترده از ابزارهای خودکار و الگوریتمی برای تریاژ بیماران انتقاد کردند. متخصصان اعلام کردهاند که جایگزینی نیروی انسانی با هوش مصنوعی منجر به افزایش ناامیدی بیماران، تأخیرهای خطرناک، تشخیصهای اشتباه و تصمیمات درمانی نامناسب شده است. در حالی که برخی از کارکنان خواهان شفافیت بیشتر و جلوگیری از بهکارگیری هوش مصنوعی در تصمیمگیریهای تریاژ هستند، سخنگوی کایزر پرمننته اعلام کرد که فناوریها تنها برای حمایت از قضاوت بالینی هستند و جایگزین متخصصان نمیشوند. این تغییرات باعث شده تا بار هماهنگی مراقبتها به جای پزشکان، بر دوش خود بیماران بیفتد. در حال حاضر، قوانین جدیدی در کالیفرنیا برای ایجاد حفاظهای ایمنی در استفاده از این فناوری در محیطهای پزشکی در حال بررسی است.
