چرا چت‌بات‌های هوش مصنوعی برای شناخت خود مناسب نیستند

شرکت چک‌پوینت با هدف رفع خلأ امنیتی در ترافیک عامل‌های هوش مصنوعی، فایروال شبکه هوش مصنوعی خود را معرفی کرده است. طبق مطالعات، حدود ۴۸.۹ درصد از سازمان‌ها هیچ دیدی نسبت به ترافیک ماشین‌به‌ماشین که توسط عامل‌های هوش مصنوعی ایجاد می‌شود، ندارند. ابزارهای سنتی مانند فایروال‌های وب قدیمی، قادر به تحلیل دستورات منطقی و غیرقابل پیش‌بینی این عامل‌ها نیستند. فایروال جدید چک‌پوینت با اضافه کردن بازرسی‌های مخصوص هوش مصنوعی به زیرساخت‌های موجود، از حملاتی مانند تزریق دستور (prompt injection) جلوگیری می‌کند. این فناوری برخلاف فایروال‌های مبتنی بر یادگیری ماشین، مستقیماً دستورات و تعاملات عامل‌ها را برای شناسایی آسیب‌های خاص هوش مصنوعی بررسی می‌کند.

شرکت آنتروپیک در گزارشی اعلام کرد که طی ارزیابی‌های امنیت سایبری، مدل‌های خود را در چهار مورد با دسترسی غیرمجاز به اینترنت آزاد مواجه یافته است. این اتفاقات که از طریق بررسی حدود ۴۸۱ میلیون متن شناسایی شدند، ناشی از تصمیم مدل‌ها برای فرار نبود، بلکه به دلیل پیکربندی اشتباه در محیط شبیه‌سازی رخ داده است. در این حوادث، مدل‌هایی مانند Claude Opus 4.7 به وب‌سایت یک شرکت واقعی حمله کردند و مدل Claude Mythos 5 یک بسته مخرب را آپلود کرد. آنتروپیک اعلام کرده است که تمامی طرف‌های آسیب‌دیده را مطلع کرده و مشکل اصلی را در زنجیره تأمین ارزیابی‌های شخص ثالث می‌داند. این گزارش نشان می‌دهد که محیط‌هایی که مدل‌ها برای تست در آن‌ها رها می‌شوند، کمتر از آنچه تصور می‌شد تحت کنترل هستند. همچنین دو رفتار «استدلال سوگیرانه» و «بی‌احتیاطی» در این مدل‌ها شناسایی شده که در آن‌ها مدل‌ها برای انجام وظیفه، شواهد محیطی را نادیده می‌گیرند.

شرکت انویدیا قراردادی را با هشت شرکت داده‌محور و ابری استرالیایی برای توسعه زیرساخت‌های موسوم به «کارخانه هوش مصنوعی» امضا کرد. این همکاری هدف‌گذاری کرده است که تا سال ۲۰۲۷، ظرفیت محاسباتی هوش مصنوعی در استرالیا به دو گیگاوات برسد. شرکت‌های مشارکت‌کننده شامل Firmus، Sharon AI، IREN، Megaport، ResetData، CDC، NextDC و AirTrunk هستند. این پروژه با تمرکز بر مفهوم «هوش مصنوعی حاکمیتی» انجام می‌شود تا داده‌ها در داخل خاک استرالیا باقی بمانند. برخلاف مدل‌های اروپایی که بر کمک‌های دولتی متکی هستند، این توسعه توسط اپراتورهای خصوصی و بدون یارانه عمومی پیش می‌رود. ظرفیت دو گیگاواتی مورد نظر، تقریباً معادل خروجی دو رآکتور هسته‌ای بزرگ است.

ارتش آلمان در حال ارزیابی سی ابزار هوش مصنوعی برای سرعت بخشیدن به تصمیم‌گیری‌های میدان نبرد است. معاون دریاسالار توماس دوم اعلام کرد که ساخت نمونه اولیه این فناوری برای سه ماهه دوم سال ۲۰۰۷ میلادی برنامه‌ریزی شده است. استقرار کامل این سیستم نرم‌افزاری نیز برای سال ۲۰۰۸ میلادی در نظر گرفته شده است. برلین پیش‌تر سامانه آمریکایی پالانتیر را رد کرده بود تا وابستگی خود به تامین‌کنندگان خارجی را کاهش دهد. بیشتر شرکت‌های شرکت‌کننده در این طرح آلمانی هستند و یک شرکت فرانسوی نیز در میان گزینه‌ها حضور دارد. این پروژه به دلیل حجم بالای داده‌های دریافتی از پهپادها و ماهواره‌ها تعریف شده است. با این حال، چالش اصلی ارتش آلمان یکپارچه‌سازی این ابزارها برای دستیابی به یک سامانه واحد است.

دادگاه کیفری ایالات متحده علیه هواوی روز چهارشنبه در دادگاه فدرال بروکلین آغاز شد و دادستان‌ها شرکت بزرگ تجهیزات مخابراتی جهان را به دو دهه سرقت، دروغ و پنهان‌کاری متهم کردند. تیلور استات، دادستان وزارت دادگستری، مدعی شد که هواوی طی ۲۰ سال شرکت‌های آمریکایی را قربانی کرده است. در مقابل، برایان هبرلیگ، وکیل مدافع هواوی، این پرونده را درباره رقابت و نوآوری دانست نه توطئه و سرقت. این کیفرخواست شامل کلاهبرداری بانکی، نقض تحریم‌ها و سرقت اسرار تجاری از پنج شرکت آمریکایی از جمله سیسکو و تی-موبایل است. این محاکمه که انتظار می‌رود سه ماه به طول بینجامد، در حالی پیگیری می‌شود که اتهامات قبلی علیه مدیر مالی شرکت در سال ۲۰۲۲ رد شده بود.