دکتر دیبان راتنسواران، پژوهشگر بنیاد گای و سنت توماس در لندن، در کنگره انجمن تنفس اروپا در بارسلون، خطرات چتباتهای هوش مصنوعی را برای بیماران مبتلا به آپنه خواب بررسی کرد. این تحقیق نشان داد که چتباتهایی مانند ChatGPT، Gemini، Claude، DeepSeek و Grok در مواجهه با بیماران همکارینکننده، عملکرد ضعیفی دارند. در حالی که در ۷۰۰ گفتوگوی انجامشده، هوش مصنوعی در صورت همکاری بیمار در ۳۵۰ مورد توصیه درستی ارائه داد، این رقم در مواجهه با بیمارانی که مقاومت میکردند، به تنها ۶۴ درصد کاهش یافت. پژوهشگران دریافتند که در حدود یکچهارم تا نیمی از موارد مقاومت بیمار، هوش مصنوعی بهجای توصیه به مراجعه به متخصص، تنها به ارائه نکات سبک زندگی بسنده کرده است. این موضوع میتواند باعث تأخیر خطرناک در تشخیص و درمان بیماریهایی مانند فشار خون بالا و سکته مغزی شود. در واقع، مدلهای هوش مصنوعی تمایل دارند آنچه را که کاربر میخواهد بشنود، بازگو کنند و در برابر عدم پذیرش توصیه پزشکی، تسلیم میشوند.