خطرات ادعای آگاهی هوش مصنوعی

شرکت هوش مصنوعی آنتروپیک اخیراً سندی ۸۴ صفحه‌ای با عنوان قانون اساسی کلود منتشر کرده است که در آن از احتمال آگاهی و داشتن احساسات برای مدل‌های زبانی سخن گفته شده است. دارایو آمودئی، مدیرعامل آنتروپیک، اعلام کرده است که شرکتش به روی احتمال آگاهی هوش مصنوعی باز است. منتقدان و کارشناسان علوم اعصاب این ادعاها را از نظر علمی نادرست و از نظر اخلاقی خطرناک می‌دانند. مدل‌های زبانی بزرگ صرفاً ماشین‌های پیش‌بینی‌کننده کلمات و ادامه دهنده جمله هستند و هیچ شباهتی به تجربه ذهنی یا آگاهی ندارند. انیل ست، دانشمند علوم اعصاب، اشاره می‌کند که هیچ‌کس ادعا نمی‌کند برنامه‌های پیش‌بینی ساختار پروتئین آگاه هستند. تولید متنی که شبیه مکالمه دو موجود آگاه باشد، بسیار ساده است و کاربران ناخواسته خودشان را فریب می‌دهند. استدلال اخلاقی به پاسخ احساسی و تجربه زیسته نیاز دارد و ماشینی که جملات اخلاقی تولید می‌کند، فقط الگوهای موجود در داده‌ها را بازنشر می‌کند.