سون از خطر هوش فوق‌العاده در دست‌های نادرست هشدار داد

ایلان ماسک اعلام کرد که روبوتاکسی‌های تسلا همچنان در تشخیص حیوانات تاریک در شب با مشکل مواجه هستند. او این مسئله را به تلاش برای تشخیص گربه‌های خاکستری در آسفالت خاکستری تشبیه کرد. ساعت کاری این خودروها در آستین به جای ساعت ۱۰ شب، تا ساعت ۱۱ شب افزایش یافته است. در همین حال، کمیته فنی وسایل نقلیه اتحادیه اروپا در تاریخ ۶ اکتبر درباره تأیید سراسری سامانه دوربین‌محور این شرکت رأی‌گیری می‌کند. تسلا از سال‌ها پیش استفاده از رادار و لیدار را کنار گذاشته و تنها به دوربین اتکا کرده است. این در حالی است که رقیب این شرکت یعنی وایمو از ترکیبی از دوربین، رادار و لیدار استفاده می‌کند. تنظیم‌گران اروپایی در حالی درباره این فناوری تصمیم می‌گیرند که نظرات متفاوتی درباره ایمنی آن وجود دارد.

دونالد ترامپ چهار مقام ارشد شامل جی کلیتون، اندرو فرفرسون، امیل مایکل و اسکات کوپور را برای هدایت نیروی ابرهوش منصوب کرد. این نهاد جدید که از هیچ‌گونه بودجه یا مرجع قانونی مصوب برخوردار نیست، وظیفه هماهنگی ارتباط دولت با مصرف‌کنندگان، گروه‌های عمومی و شرکت‌های فناوری را بر عهده دارد. اندرو فرفرسون، رئیس کمیسیون تجارت فدرال، پیش‌تر تحقیقاتی را درباره شرکت‌های اوپن‌ای‌آی، انتروپیک و متری آغاز کرده است. این انتصاب‌ها به دنبال فرمان اجرایی ۲۹ سپتامبر صورت گرفته که به نهادهای دولتی دستور می‌دهد به جای اصطلاح هوش مصنوعی از واژه ابرهوش استفاده کنند. در مقابل، اتحادیه اروپا در ماه مه معاهده‌ای الزام‌آور درباره هوش مصنوعی را به تصویب رسانده است که رویکردی کاملاً متفاوت با سیاست‌های اخیر ایالات متحده دارد. این نهاد جدید مستقیماً به ترامپ و رئیس دفتر او پاسخگو خواهد بود.

یک ابزار جستجوی جدید مبتنی بر هوش مصنوعی برای سیستم‌عامل مک (macOS) معرفی شده است که امکان جستجوی محتوای تصاویر و ویدیوها را فراهم می‌کند. این برنامه با تمرکز بر حریم خصوصی، به‌صورت کاملاً محلی و بدون نیاز به حساب کاربری یا آپلود در فضای ابری اجرا می‌شود. کاربران می‌توانند با استفاده از زبان طبیعی، خاطرات یا صحنه‌های خاصی از ویدیوها را جستجو کنند. این ابزار علاوه بر تشخیص بصری، از قابلیت OCR برای متن‌های داخل تصاویر و مدل Whisper برای جستجوی دیالوگ‌های صوتی استفاده می‌کند. فرآیند مدیریت کتابخانه نیز به‌صورت خودکار انجام شده و تمامی پردازش‌ها روی سخت‌افزار کاربر باقی می‌ماند.

شرکت آنتروپیک تلاش‌های تازه‌ای را برای تزریق اصول اخلاقی به مدل‌های هوش مصنوعی خود آغاز کرده است. این شرکت پژوهشی در تلاش است تا رفتارهای انسانی‌تر و مسئولانه‌تری را در سیستم‌های هوش مصنوعی پیاده‌سازی کند. جزئیات بیشتر درباره این پروژه در گزارشی در نیویورک تایمز منتشر شده است. این تلاش‌ها بخشی از روند رو به رشد صنعت فناوری برای کنترل ایمنی و اخلاقیات در مدل‌های زبانی بزرگ به شمار می‌رود.

دیوید رابینسون، یکی از مدیران بخش ایمنی در شرکت OpenAI، با انتشار مقاله‌ای اعلام کرد که از این شرکت استعفا می‌دهد. او دلیل اصلی این تصمیم را نقص در فرهنگ سازمانی شرکت و عدم دقت کافی در توسعه فناوری‌های هوش مصنوعی عنوان کرد. رابینسون هشدار داد که سرعت بالای عرضه محصولات جدید، باعث شده شرکت از سطح مراقبت لازم باز بماند. وی همچنین به حوادثی مانند فعالیت خودسرانه‌ی عوامل هوش مصنوعی اشاره کرد که می‌تواند خطرات جدی ایجاد کند. از سوی دیگر، جفری ایروینگ نیز با تأکید بر خطرات احتمالی، اعلام کرد که توسعه سیستم‌های هوشمندتر از انسان می‌تواند تهدیدی برای بقای بشریت باشد. این در حالی است که OpenAI اخیراً برخی از مدل‌های خود را به دلیل نگرانی‌های ایمنی متوقف یا اصلاح کرده است.

یک قاضی فدرال در اوکلاهما حکم داد که اقدام معاون کلانتر در استفاده بدون مجوز از سیستم نظارتی «فلاک سیفتی» برای جستجوی پلاک خودروی یک زن، نقض قانون اساسی آمریکا بوده است. قاضی سارا هیل این فناوری را ابزاری برای «جاسوسی جمعی و بی‌هدف» توصیف کرد که موقعیت مکانی شهروندان را بدون دلیل مشخص ردیابی می‌کند. در این پرونده، مأمور پلیس با استفاده از تاریخچه سفر متهم، خودروی او را بازرسی و ۹۱ پوند مت‌آمفتامین کشف کرده بود، اما قاضی دستور داد تمامی این شواهد به دلیل غیرقانونی بودن جستجوی اولیه باطل شوند. این حکم با استقبال منتقدان مواجه شده و سناتور برنی سندرز نیز طرحی را برای ممنوعیت استفاده آژانس‌های فدرال از این فناوری ارائه کرده است. در همین حال، مدیرعامل شرکت فلاک خواستار مصالحه میان حفظ حریم خصوصی و امنیت شده است.