گفتوگو با چتباتهای هوش مصنوعی برخلاف تصور رایج، خصوصی نیست و حریم شخصی کاربران را به خطر میاندازد. بر اساس نظرسنجی اخیر داکداکگو، یکسوم کاربران رازهایی را با چتباتها در میان گذاشتهاند که حتی به افراد مورد اعتماد خود نیز نمیگویند. این اطلاعات ممکن است ناخواسته به دست شرکتهای فناوری، پلیس، وکلا و کارفرمایان برسد؛ چنانکه واشنگتنپست گزارش داده دستکم ۱۲ پرونده قضایی در دو سال گذشته به مکالمات چتباتها استناد کردهاند. جن کینگ، پژوهشگر دانشگاه استنفورد، تأکید میکند که بدون حالت گفتوگوی موقت یا ناشناس، نمیتوان روی خصوصی ماندن مکالمات حساب کرد. همچنین، مشخص نیست شرکتهایی مانند اوپنایآی و آنتروپیک تا چه مدت اطلاعات کاربران را نگهداری میکنند و حتی احتمال افشای اطلاعات از سوی خود شرکتها وجود دارد؛ مانند انتشار حجم زیادی از گفتوگوهای کاربران با چتبات کلاد آنتروپیک در ماه ژوئیه. بسیاری از کاربران از این موضوع بیخبرند؛ ۵۳ درصد نمیدانستند چتباتها از دادههای گفتوگو برای آموزش خود استفاده میکنند و ۷۵ درصد نیز از امکان دریافت حکم قضایی توسط پلیس برای دسترسی به این مکالمات آگاه نبودند. بنابراین، اطلاعات ثبتشده در اینترنت، بهویژه در چتباتهای هوش مصنوعی، آنقدرها هم خصوصی نیستند.
