چرا هوش مصنوعی یک فناوری معمولی نیست؟

یک فایل ۱۵.۵ گیگابایتی حاوی اطلاعات بیش از ۷.۳ میلیون کاربر سایت Chess.com در دو انجمن نشت داده منتشر شده است. تحلیل‌های فنی نشان می‌دهند که این اتفاق احتمالاً ناشی از استخراج داده‌ها (Scraping) بوده است و نه یک هک مستقیم به سیستم‌های سایت. این فایل شامل اطلاعاتی نظیر نام کاربری، ایمیل، نام واقعی، کشور، رتبه شطرنج و وضعیت اشتراک کاربران است. نکته مهم این است که هیچ رمز عبور یا اطلاعات پرداخت بانکی در این مجموعه داده وجود ندارد. همچنین، داده‌های مربوط به بخش‌بندی تبلیغاتی گوگل نیز در این فایل مشاهده شده است که در API عمومی سایت در دسترس نیستند. این حادثه مشابه نشت داده‌ای است که در نوامبر ۲۰۲۳ با ۸۲۸ هزار رکورد رخ داده بود.

گزارشی با عنوان «استفاده سوء و مغرضانه از هوش مصنوعی» به بررسی تهدیدات امنیتی بالقوه ناشی از کاربردهای مخرب این فناوری می‌پردازد. این تحقیق با تحلیل تأثیرات هوش مصنوعی در حوزه‌های دیجیتال، فیزیکی و سیاسی، روش‌هایی را برای پیش‌بینی، پیشگیری و کاهش این تهدیدات پیشنهاد می‌دهد. نویسندگان گزارش، چهار توصیه سطح بالا برای پژوهشگران هوش مصنوعی و سایر ذینفعان ارائه کرده‌اند تا بتوانند از حملات جلوگیری کنند. همچنین، این متن بر اهمیت تحقیق در زمینه‌های نویدبخش برای تقویت دفاع و کاهش اثربخشی حملات تأکید دارد. در نهایت، موضوع تعادل میان مهاجمان و مدافعان در بلندمدت مورد بحث قرار گرفته است.

یک فهرست جامع از منابع مطالعاتی درباره هوش مصنوعی متن‌باز و مدل‌های آزاد تهیه شده است که آخرین به‌روزرسانی آن مربوط به ۱۳ سپتامبر ۲۰۲۶ است. این مجموعه شامل مقالاتی درباره استراتژی‌های تجاری، نقش مدل‌های باز در اقتصاد آینده و تفاوت‌های عملکردی آن‌ها با مدل‌های بسته است. نویسنده در این لیست به دیدگاه‌های مارک زاکربرگ درباره انتشار مدل‌های لاما ۳ و تحلیل‌های ناتان لمبرت درباره روند پذیرش این مدل‌ها اشاره کرده است. همچنین موضوعاتی نظیر تعادل میان انتشار مدل‌های قدرتمند و رعایت ایمنی، و کاهش دسترسی به داده‌های باز نیز بررسی شده‌اند. این منابع برای کسانی که می‌خواهند با وضعیت فعلی و آینده مدل‌های هوش مصنوعی آشنا شوند، یک نمای کلی و کامل ارائه می‌دهند.

شرکت اوپن‌ای‌آی در سال ۲۰۱۹ اعلام کرد که مدل زبانی جی‌پی‌تی ۲ به دلیل نگرانی‌های امنیتی منتشر نخواهد شد. این تصمیم با هدف پیشگیری از سوءاستفاده‌های احتمالی و برنامه‌های مخرب اتخاذ گردید. مدل‌های زبانی پیشرفته همواره خطرات سوءاستفاده در حوزه‌های گوناگون را به همراه دارند. این مطلب در وب‌سایت رسمی اوپن‌ای‌آی منتشر شده بود. کاربران در هک‌نیوز بحث‌ها و امتیازدهی‌هایی را پیرامون این تصمیم انجام دادند. بازتاب‌های این خبر نشان‌دهنده چالش‌های ایمنی در توسعه هوش مصنوعی است.

نشریه آتلانتیک در گزارشی به بررسی خطرات امنیتی و چالش‌های ناشی از اتصال دستیارهای هوش مصنوعی به کارت‌های اعتباری کاربران پرداخته است. این فناوری که با هدف تسهیل خریدهای آنلاین توسعه یافته، نگرانی‌های جدی درباره حریم خصوصی و امنیت مالی ایجاد کرده است. کارشناسان هشدار می‌دهند که واگذاری اطلاعات حساس مالی به سیستم‌های هوش مصنوعی می‌تواند کاربران را در معرض تهدیدهای سایبری قرار دهد. بر اساس این گزارش، پلتفرم‌های تکنولوژی باید پروتکل‌های امنیتی سخت‌گیرانه‌تری برای محافظت از داده‌های کاربران پیاده‌سازی کنند. این موضوع نشان می‌دهد که استفاده از هوش مصنوعی در امور مالی هنوز نیازمند بازنگری‌های امنیتی اساسی است.

بحث‌های فنی پیرامون امکان ثبت‌نام در اپلیکیشن سیگنال بدون نیاز به شماره تلفن در جریان است. برخی کاربران با اشاره به فناوری اثبات با دانش صفر (ZKP)، معتقدند این تکنولوژی می‌تواند حریم خصوصی را در گروه‌ها و پرداخت‌ها حفظ کند. با این حال، نگرانی‌هایی درباره نحوه جداسازی کامل شماره تلفن از نام کاربری و بقای داده‌ها در دستگاه یا سرور وجود دارد. برخی معتقدند ایجاد حساب‌های جدید بدون شماره تلفن می‌تواند راهکار بهتری باشد، اما احتمال سوءاستفاده اسپمرها مطرح است. اگر سیگنال بخواهد این قابلیت را اضافه کند، باید جزئیات فنی و محدودیت‌هایی برای جلوگیری از ایجاد حساب‌های بی‌شمار توسط کلاهبرداران در نظر بگیرد. در نهایت، شفاف‌سازی سازمان سیگنال درباره نحوه پیوند نبودن شماره تلفن با نام کاربری ضروری به نظر می‌رسد.