هرگز به تنهایی محصول را عرضه نکنید

دانیل دینز، بنیانگذار شرکت یوآی‌پث، کتاب جدید خود با عنوان «کاری که باقی می‌ماند» را در حوزه هوش مصنوعی منتشر کرد. او در این اثر استدلال می‌کند که شرکت‌ها باید اجازه دهند عامل‌های هوش مصنوعی کارها را آماده کنند در حالی که تصمیمات حساس بر عهده انسان‌هاست. دینز پیش‌بینی کرده است که تا پایان سال ۲۰۲۸ میلادی، تمامی شرکت‌های بزرگ تنظیم‌شده از محیط‌های مهندسی‌شده برای جریان‌های کاری خود استفاده خواهند کرد. او همچنین به این نکته اشاره کرد که ۷۵ درصد پروژه‌ها پیش از مرحله تولید متوقف می‌شوند. این کتاب با همکاری مدل‌های هوش مصنوعی کلود و چت‌جی‌پی‌تی به نگارش درآمده است.

هوش مصنوعی بیش از پیش این واقعیت را آشکار می‌کند که نوشتن کد با مهندسی نرم‌افزار تفاوت اساسی دارد. نوشتن کد تنها به معنای تبدیل ایده‌ها به دستورات رایانه‌ای است، در حالی که مهندسی نرم‌افزار با مدیریت پیچیدگی و معماری سیستم سر و کار دارد. انتخاب معماری مناسب و تصمیم‌گیری درباره سازوکار پردازش داده‌ها، چالش اصلی توسعه‌دهندگان به شمار می‌رود. نیازهای کسب‌وکار، مقیاس کاربران و محدودیت‌های زمانی نقش تعیین‌کننده‌ای در طراحی نهایی سیستم ایفا می‌کنند. به عنوان مثال، دو شرکت با نیازهای ظاهراً مشابه ممکن است به دلیل تفاوت در تعداد کاربران و منابع موجود، راهکارهای کاملاً متفاوتی را انتخاب کنند. بنابراین، حل یک مسئله واحد می‌تواند به راه‌حل‌های متعددی منتهی شود که هر کدام سازش‌های خاص خود را دارند.

پژوهشگران امنیت سایبری کشف کردند که فایل‌های مستندات بیش از ۱۰۰ وب‌سایت حاوی محتوای اجرایی خطرناکی است که به صورت خودکار توسط ایجنت‌های هوش مصنوعی نصب می‌شوند. این محتوای بالقوه خطرناک در فایل‌های استاندارد llms.txt و llms-full.txt قرار دارد که برای ارائه خلاصه‌های ماشین‌خوان به کار می‌روند. محققان یک استارت‌آپ در اسرائیل پس از اسکن بیش از ۶ هزار دامنه زنده، متوجه شدند که ۱۲۰ فایل به بسته‌های کد ثبت‌نشده اشاره می‌کنند. پس از ثبت برخی از این نام‌ها، سیستم‌های آن‌ها پاسخ‌هایی از شرکت‌های بزرگ از جمله مجموعه‌های حاضر در فهرست فرچون ۵۰۰ دریافت کردند. آلون هرتز، یکی از پژوهشگران، تأکید کرد که مدل اعتماد در این حوزه شکسته شده و ایجنت‌های هوش مصنوعی مستندات فروشندگان را بدون پرسش به عنوان حقیقت می‌پذیرند.

پروتکل AC2 به عنوان یک راهکار جدید مبتنی بر سخت‌افزار برای حل مسائل اعتماد در حوزه هوش مصنوعی معرفی شده است. این پروژه منبع‌باز توسط بنیاد الگورند توسعه یافته و بر ارتباطات همتا به همتا تمرکز دارد. استفاده از این پروتکل مستلزم مدیریت شخصی کلیدها و عبارت بازیابی توسط کاربر است. توسعه‌دهندگان تأیید کرده‌اند که امکان بازیابی کیف پول در صورت مفقود شدن دستگاه وجود ندارد و کاربران باید تمامی نکات امنیتی را رعایت کنند. انجام تراکنش‌ها در شبکه الگورند غیرقابل بازگشت بوده و نوسانات دارایی‌های دیجیتال به عهده خود کاربر است. همچنین استفاده از تجارت ایجنت‌ها نیازمند توجه به خطرات احتمالی کلاهبرداری و رعایت قوانین انطباق است.

پژوهش‌ها نشان می‌دهد مدل‌های پیشرفته هوش مصنوعی در زمینه کدنویسی و وظایف عاملی بهبود یافته‌اند، اما عملکرد آن‌ها در نگارش عمومی متن افت چشمگیری داشته است. ماز احمدی، بنیان‌گذار ویزارد لبز، اعلام کرده است که ارتقای مدل‌ها باعث پسرفت قابل‌توجهی در معیارهای متنی سفارشی مشتریان شده است. بر اساس آمارهای شرکت مک‌کینزی، با وجود اینکه ۴۴ درصد سازمان‌ها از هوش مصنوعی در سطح سازمانی استفاده می‌کنند، تنها ۳۷ درصد تأثیر آن را بر سود عملیاتی خود مشاهده کرده‌اند. در حالی که شرکت‌های فناوری مدل‌های خود را برای کارهای منطقی و برنامه‌نویسی بهینه‌سازی می‌کنند، نوشتن متن‌های عمومی به حاشیه رانده شده است. شرکت آنتروپیک نیز اعلام کرده است که مدل‌های آینده کلود برای تطابق با قوانین اتحادیه اروپا از نشانه‌گذاری آماری برای متون تولیدی استفاده خواهند کرد. با این حال، کارشناسان معتقدند بهینه‌سازی مدل‌ها برای الزامات قانونی و کدنویسی ممکن است کیفیت نگارش را برای کسب‌وکارها کاهش دهد. شکاف میان گسترش فناوری هوش مصنوعی و ارزش واقعی ایجاد شده برای شرکت‌ها همچنان در حال افزایش است.

شرکت اپل اعلام کرد که از سپتامبر امسال هشدارهای امنیتی مربوط به بدافزارهای جاسوسی را مستقیماً روی صفحه قفل و تنظیمات دستگاه کاربران نمایش می‌دهد. این هشدارها به کاربران اطلاع می‌دهد که ممکن است هدف حملات بدافزاری تجاری و حکومتی قرار گرفته باشند. اپل تأکید می‌کند که این هشدارها به معنای موفقیت قطعی حمله نیست، بلکه مانند آژیر خطر عمل می‌کند. به کاربران توصیه می‌شود در صورت دریافت این پیام‌ها فوراً از کمک‌های تخصصی و نهادهای امنیتی معتبر بهره ببرند. انجام بررسی‌های دیجیتال و حفظ شواهد موجود برای مقابله با این تهدیدها امری ضروری است.