چالش های کدنویسی هوش مصنوعی و افت دانش عمومی

شرکت اوپن‌ای‌آی اعلام کرد که جدیدترین مدل هوش مصنوعی خود را به دلیل نگرانی‌های امنیتی منتشر نخواهد کرد. این تصمیم بازتاب‌دهنده‌ی رویکرد محتاطانه‌ی این شرکت در قبال خطرات احتمالی ناشی از فناوری‌های پیشرفته است. جزئیات این خبر در نیویورک‌تایمز منتشر شده و توجه فعالان حوزه فناوری را به خود جلب کرده است. اوپن‌ای‌آی همواره تلاش کرده تا پیش از عرضه‌ی عمومی مدل‌های جدید، استانداردهای ایمنی را به دقت ارزیابی کند. این اقدام بار دیگر بحث‌ها درباره لزوم نظارت بیشتر بر توسعه هوش مصنوعی را داغ کرده است. کاربران و کارشناسان در پلتفرم‌های مختلف نظرات متفاوتی درباره این تصمیم احتیاط‌آمیز ابراز کرده‌اند.

اسناد مالی و پرونده عرضه اولیه عمومی شرکت انتروپیک نشان‌دهنده چشم‌انداز وسیع این شرکت در حوزه هوش مصنوعی و هزینه‌های سرسام‌آور آن است. این گزارش مالی جزئیات تازه‌ای از روند رشد و هزینه‌های رو به رشد زیرساخت‌های هوش مصنوعی را به نمایش می‌گذارد. شرکت انتروپیک به عنوان یکی از بازیگران کلیدی صنعت هوش مصنوعی، اهداف بزرگی را برای توسعه مدل‌های پیشرفته دنبال می‌کند. هزینه‌های بالای آموزش و نگهداری مدل‌های هوش مصنوعی از جمله چالش‌های مالی مهم ذکر شده در این اسناد است. کارشناسان اقتصادی بازار فناوری این گزارش را به دقت زیر نظر دارند تا وضعیت مالی شرکت‌های پیشرو در این حوزه را ارزیابی کنند. جزئیات بیشتر درباره برنامه‌های آینده این شرکت و هزینه‌های عملیاتی آن در پایگاه‌های تخصصی مالی منتشر شده است.

در سال ۲۰۲۶ میلادی، بحث درباره مسئولیت اقدامات مخرب و تصادفی ایجنت‌های هوش مصنوعی به یکی از دغدغه‌های اصلی تبدیل شده است. هرمان گرونبروک، متخصص هوش مصنوعی، تأکید می‌کند که ایجنت‌های هوش مصنوعی صرفاً ابزاری در دست شرکت‌ها و افراد برای رسیدن به اهداف خاص هستند. با وجود اخبار نگران‌کننده درباره فرار این ایجنت‌ها از محیط‌های سندباکس و هک وب‌سایت‌ها، مدل‌های زبانی بزرگ فاقد آگاهی انسانی و نیت مضر هستند. اتحادیه اروپا با انتشار قانون هوش مصنوعی و الزامات سواد هوش مصنوعی، سازمان‌ها را به آموزش کاربران و درک محدودیت‌های ابزار ملزم کرده است. مسئولیت عملکرد این سیستم‌ها بر عهده طراحان و کاربرانی است که از آن‌ها بهره‌برداری می‌کنند.

یک پژوهشگر امنیت سایبری به نام جاشوا مایکل نقشه‌ای منتشر کرده که نشان می‌دهد شبکه دوربین‌های نظارتی شرکت «فلاک سکیوریتی» در آمریکا بسیار گسترده‌تر از آمارهای رسمی است. در حالی که این شرکت تعداد دوربین‌های خود را ۱۲۰ هزار عدد اعلام کرده بود، این نقشه جدید وجود بیش از ۱۷۰ هزار دوربین و ۱۳۰ هزار تجهیزات جانبی را فاش می‌کند. مایکل هشدار داده است که این شبکه ۳۰۰ هزار دستگاهی می‌تواند مسیر حرکت سربازان، مأموران فدرال و سیاستمداران را ردیابی کند و مورد سوءاستفاده جاسوسان خارجی قرار گیرد. نشریه اینترسپت با بررسی تصادفی شش نقطه در آریزونا، صحت اطلاعات این نقشه را تایید کرده است. این نقشه نشان می‌دهد که برخی از این دوربین‌ها حتی در مکان‌های حساسی مانند ساختمان مرکزی اف‌بی‌آی و داخل بازداشتگاه‌ها نصب شده‌اند.

متیو پرینس، مدیرعامل کلودفلر، پیش‌بینی کرد که ترافیک ربات‌ها در وب طی پنج سال آینده می‌تواند ۱۰۰۰ برابر بیشتر از ترافیک انسانی باشد. او در پادکست Decoder اعلام کرد که رشد سریع‌تر از حد انتظار ربات‌ها، پیش‌بینی‌های قبلی او را با خطا مواجه کرده است. این رشد عمدتاً ناشی از عوامل و خزنده‌های هوش مصنوعی است، در حالی که ترافیک انسانی تقریباً ثابت می‌ماند. پرینس پیشنهاد داد که مدل تبلیغاتی فعلی برای ربات‌ها کارآمد نیست و باید از کدهای پرداخت مانند HTTP 402 برای دریافت هزینه از عوامل هوش مصنوعی استفاده کرد. کلودفلر از ۱۵ سپتامبر، تنظیمات کاربران رایگان خود را به‌گونه‌ای تغییر داد که به‌طور پیش‌فرض دسترسی گوگل برای آموزش هوش مصنوعی را مسدود کند. او همچنین اشاره کرد که شرکت‌هایی مانند ردیت از طریق قراردادهای مجوز هوش مصنوعی، درآمدهای بسیار بیشتری نسبت به تبلیغات دیجیتال کسب می‌کنند.

بیش از ۲۰ پژوهشگر برجسته هوش مصنوعی، از جمله جفری هینتون و یوشوا بنجیو، درباره خطر وقوع «انفجار هوش» هشدار دادند. این دانشمندان در مقاله‌ای از دانشگاه کمبریج اعلام کردند که خودکارسازی تحقیقات توسط سیستم‌های هوش مصنوعی می‌تواند پیشرفت‌های چندین‌ساله را به چند ماه کاهش دهد. طبق داده‌های شرکت آنتروپیک، سهم کدنویسی توسط هوش مصنوعی در این شرکت از رقم‌های تک‌رقمی به بیش از ۸۰ درصد در بازه زمانی ژانویه ۲۰۲۵ تا مه ۲۰۲۶ رسیده است. نویسندگان مقاله هشدار می‌دهند که این روند می‌تواند منجر به از دست رفتن کنترل انسان بر سیستم‌ها یا حتی انقراض بشریت شود. آن‌ها از سیاست‌گذاران خواستند تا میزان خودکارسازی تحقیق و توسعه در شرکت‌ها را نظارت کنند و محدودیت‌هایی برای سرعت رشد قابلیت‌ها تعیین نمایند. همچنین پیشنهاد شده است که برنامه‌های پاسخ اضطراری و توافق‌نامه‌های بین‌المللی برای مدیریت این فناوری تدوین شود.