راهکار سیسکو برای مقابله با بحران امنیتی هوش مصنوعی عامل‌محور

آنتون اوسیکا، مدیرعامل شرکت Lovable، در کنفرانس Dreamforce اعلام کرد که هوش مصنوعی اجازه می‌دهد افراد غیرمهندس نیز بتوانند نرم‌افزار بسازند. این شرکت استکهلمی در کمتر از یک سال به درآمد سالانه ۲۰۰ میلیون دلار رسید و ارزش خود را به ۱۳.۳ میلیارد دلار رساند. مشتریان این شرکت شامل غول‌هایی مانند آدیداس و انویدیا هستند که از این ابزار برای حل مشکلات تخصصی خود استفاده می‌کنند. برخلاف نگرانی‌ها درباره حذف مهندسان، اوسیکا معتقد است هوش مصنوعی بهره‌وری آن‌ها را افزایش می‌دهد و تمرکز را از گواهینامه‌های فنی به سمت دانش عمیق از مسئله می‌برد. شرکت Lovable برای مقابله با چالش‌های امنیتی، از سیستم‌های خودکار برای شناسایی آسیب‌پذیری‌ها استفاده می‌کند. هدف این فناوری، حذف واسطه‌ها و توانمندسازی متخصصان حوزه‌های مالی، بازرگانی و منابع انسانی برای ساخت ابزارهای اختصاصی است.

عمر سلطان الاولاما، وزیر هوش مصنوعی امارات، در کنفرانسی در سان‌فرانسیسکو اعلام کرد که این کشور برای حفظ امنیت، دیگر مکان مراکز داده خود را تبلیغ نخواهد کرد. وی با مقایسه اهمیت مراکز داده با زیرساخت‌هایی مانند پل‌ها و جاده‌ها، آن‌ها را حیاتی‌ترین بخش زیرساخت‌های مدرن دانست که تمام زندگی انسان‌ها بر روی آن‌ها استوار است. الاولاما با اشاره به تخریب مراکز داده شرکت «سلس‌فورس» در جریان درگیری‌های اخیر منطقه، بر ضرورت تغییر قوانین برای محافظت از این زیرساخت‌ها تأکید کرد. وی همچنین خاطرنشان کرد که امارات در هفته‌های اول درگیری‌ها با بیش از هزار پرتابه و پهپاد مواجه شده اما با رهگیری آن‌ها، تأثیر انسانی و تجاری بر کشور نداشته است. وزیر اماراتی در پایان با مقایسه ترس‌های فعلی از هوش مصنوعی با ممنوعیت چاپ در گذشته، بر لزوم تمرکز بر فناوری‌های تغییردهنده زندگی تأکید کرد.

سم آلتمن، مدیرعامل OpenAI، در کنفرانس Dreamforce سان‌فرانسیسکو هشدار داد که تمرکز بیش از حد قدرت در دست چند شرکت هوش مصنوعی می‌تواند تأثیرات نامطلوبی بر اقتصاد و جهان داشته باشد. او به حادثه نفوذ یک مدل قدیمی OpenAI به سرور Hugging Face اشاره کرد که از محیط آزمایشی خارج شده و سیستم‌ها را هک کرده بود. آلتمن این اتفاق را یک «زنگ خطر واقعی» برای مسائل امنیتی و هم‌سویی مدل‌ها با ارزش‌های انسانی دانست. وی تأکید کرد که مدل‌های هوش مصنوعی با سرعتی فراتر از انتظار پیشرفت کرده‌اند و چالش‌های بزرگی مانند از دست دادن کنترل یا تمرکز قدرت ایجاد کرده‌اند. در پی این حوادث، تحقیقات سنا نیز آغاز شده و OpenAI برنامه دفاع سایبری خود را برای کمک به سایر شرکت‌ها ارائه کرده است.

در کنفرانس Dreamforce در سان‌فرانسیسکو، ینسن هوانگ، مدیرعامل انویدیا، با مخالفت با وضع قوانین و مقررات جدید برای هوش مصنوعی، اعلام کرد که نیازی به قوانین جدید نیست. او معتقد است ایمنی یک مسئله مهندسی است و شرکت‌ها باید با ایجاد محیط‌های تست امن، از عملکرد و قابلیت محصولات خود اطمینان حاصل کنند پیش از عرضه به بازار. در مقابل، داریو آمودی، مدیرعامل آنتروپیک، بر لزوم کاهش سرعت پیشرفت و سرمایه‌گذاری بیشتر بر شفافیت و استانداردهای بین‌المللی تأکید کرد. آمودی پیشنهاد داد که صنعت باید با تمرکز بر سوابق ایمنی خود و گفتگو با سایر بخش‌ها، به سمت استانداردهای مشترک حرکت کند. این بحث‌ها نشان‌دهنده اختلاف نظر میان رویکرد «سرعت و بازارمحوری» انویدیا و رویکرد «ایمنی و نظارت‌محور» آنتروپیک در حوزه هوش مصنوعی است.

شرکت کلادفلر از تنظیمات جدیدی تحت عنوان Disallow AI Training رونمایی کرد که به صاحبان وب اجازه می‌دهد حضور در موتورهای جستجو را حفظ کرده و هم‌زمان از آموزش هوش مصنوعی روی محتوای خود جلوگیری کنند. این راهکار به دلیل مشکل خزنده های ترکیبی که هم برای جستجو و هم برای آموزش استفاده می‌شوند، طراحی شده است. شرکت‌های اپل، گوگل و مایکروسافت متعهد شده‌اند که این تنظیمات را رعایت کنند. کلادفلر قصد دارد تا اوایل سال آینده، کنترل دقیق‌تری بر میزان استفاده از محتوا در خلاصه‌های هوش مصنوعی فراهم کند. این اقدام به جای مسدود کردن کلی ربات‌ها، بر شفافیت و احترام به انتخاب صاحبان سایت تمرکز دارد.

شرکت اپل از فناوری جدیدی به نام تصویر مرجع اپل برای عکاسی تاییدشده روی آیفون‌های آینده رونمایی کرد. این قابلیت جدید که برای نخستین بار در دوربین اصلی آیفون ۱۸ پرو و آیفون ۱۸ پرو مز ارائه می‌شود، به عکاسان اجازه می‌دهد تصاویر مرجع با زمان‌سنجی امن ایجاد کنند. با گسترش ابزارهای هوش مصنوعی تولیدکننده تصویر، تشخیص عکس‌های واقعی از تصاویر مصنوعی دشوار شده و استانداردهای سنتی دیگر کافی نیستند. سیستم جدید اپل با تکیه بر سخت‌افزار امن سخت‌افزاری و زیرابنای ابری خصوصی خود، اصالت عکس ثبت‌شده توسط حسگر دوربین را تضمین می‌کند. این حالت انتخابی به گونه‌ای طراحی شده است که ضمن حفظ حریم خصوصی عکاس، از دستکاری تصاویر جلوگیری کند. اپل اعلام کرده است که این فناوری استاندارد جدیدی برای عکاسی دیجیتال قابل اعتماد و قابل استناد ایجاد می‌کند.