هابی‌تکستHUBBYTEXT اپ کانال اختصاصی بساز
تکنولوژی

تأثیر واترمارک هوش مصنوعی بر عملکرد مدل‌های زبانی

مطالعات جدید شرکت «لاسو» نشان می‌دهد که استفاده از واترمارک هوش مصنوعی روی مدل‌های زبانی بزرگ، می‌تواند به طور ناخواسته رفتار آن‌ها را تغییر دهد. این پژوهش که روی مدل «سینت‌آی‌دی‌تکست» گوگل دیپ‌مایند انجام شد، ثابت کرد واترمارک‌ها بر میزان امتناع مدل از پاسخ به درخواست‌های مضر و آسیب‌پذیری در برابر تزریق پرامپت تأثیر می‌گذارند. با وجود این پیامدهای پیش‌بینی‌نشده، شرکت آنتروپیک اعلام کرد که نسل‌های آینده مدل «کلود» نیز برای تطابق با قانون هوش مصنوعی اتحادیه اروپا از واترمارک استفاده خواهند کرد. محققان این پدیده را «رانش نمونه‌برداری» می‌نامند که می‌تواند تصمیم‌گیری مدل‌ها را دستخوش تغییر کند. به توسعه‌دهندگان توصیه می‌شود پیش از به‌کارگیری سراسری، ارزیابی‌های امنیتی و آزمون‌های محک را دوباره اجرا کنند.
منبع: TechRadar

خبرهای مرتبط RELATED

تکنولوژی
تکنولوژی
پژوهشگران امنیت سایبری با استفاده از هوش مصنوعی کلود شرکت آنتروپیک موفق شدند به سیستم‌های شرکت OpenAI نفوذ کنند. این حمله توسط یک تیم سه‌نفره از استارتاپ هک‌ترون‌ AI و در قالب برنامه پاداش آسیب‌پذیری OpenAI انجام شد. محققان با بهره‌گیری از آسیب‌پذیری در نرم‌افزار انجمن گفت‌وگوی OpenAI توانستند به حساب‌های کاربری برخی کارمندان دسترسی پیدا کنند. شرکت OpenAI پس از دریافت گزارش، این نقص‌ها را برطرف کرد و پاداشی معادل ۶۵۰۰ دلار به این تیم پرداخت. مت فردریکسون، مدیرعامل شرکت امنیت سایبری گری‌سوان، در این باره گفت که با هزینه ماهانه ۲۰۰ دلار می‌توان از این ابزارها برای نفوذ به شرکت‌های بزرگ استفاده کرد. این رویداد بار دیگر نگرانی‌ها درباره سطح ایمنی و خطرات ناشی از پیشرفت فناوری‌های هوش مصنوعی را افزایش داده است.
منبع: TechCrunch
تکنولوژی
آژانس امنیت سایبری و زیرساخت آمریکا به سازمان‌ها توصیه کرد که برای شناسایی نفوذ هکرها و سرگرم کردن آن‌ها با مطالب جعلی، از تله‌های سایبری استفاده کنند. این راهنمایی جدید به کسب‌وکارها در اندازه‌های مختلف کمک می‌کند تا با استقرار طعمه‌ها، سیستم‌های فریبنده و توکن‌های عسلی، فعالیت مهاجمان را ردیابی کنند. به گفته مقام‌های این نهاد، بسیاری از سازمان‌ها در شناسایی مهاجمانی که از ابزارهای بویژه و اعتبارنامه‌های مشروع استفاده می‌کنند، با مشکل مواجه هستند. استفاده از این تجهیزات فریبنده رویکرد اعتماد صفر را تکمیل کرده و با ایجاد هشدارهای دقیق، خستگی ناشی از هشدارها را کاهش می‌دهد. این راهنما همچنین از فریم‌ورک‌های MITRE ATT&CK و MITRE Engage برای پیاده‌سازی مقیاس‌پذیر این راهبردها استفاده کرده است. کارشناسان امنیتی بر این باورند که این ابزارها بدون نیاز به تغییرات بزرگ معماری قابل implementation هستند.
منبع: TechRadar
تکنولوژی
شرکت خودروسازی مازراتی برنامه‌ریزی برای تولید دو مدل خودروی تمام‌برقی جدید شامل یک شاسی‌بلند سایز متوسط تا بزرگ و یک کوپه بزرگ را با همکاری هواوی و جک موتورز کلید زد. این اتحاد سه‌جانبه بر پایه تامین فناوری توسط هواوی، مهندسی و تولید توسط جک و اشتراک‌گذاری طراحی و شبکه توزیع توسط مازراتی شکل گرفته است. محصولات جدید در بازار چین با نشان تجاری ماکسترو و در بازارهای بین‌المللی با لوگوی مازراتی عرضه خواهند شد. بدنه خودروهای نیمه‌منفصل در کارخانه جک در چین تولید و برای مونتاژ نهایی به ایتالیا فرستاده می‌شوند تا در بازارهای اولیه نظیر خاورمیانه و کشورهای اروپایی به فروش برسند. این تصمیم استراتژیک پس از ثبت آمار ضعیف فروش کمتر از ۸۰۰۰ دستگاه و زیان عملیاتی ۱۹۸ میلیون یورویی در سال ۲۰۲۵ اتخاذ شده است. مدل کوپه بر پایه گرنتوریسمو فولگوره در اولویت عرضه قرار دارد تا هویت اسپرت این برند لوکس ایتالیایی تقویت شود.
منبع: زومیت
تکنولوژی
شرکت OpenAI از نسخه ویژه مدل هوش مصنوعی خود با نام Astra for Law رونمایی کرد که برای فعالیت‌های حقوقی طراحی شده است. این سرویس با استفاده از مدل قدرتمند GPT-6 Astra، امکان مشاوره در قراردادها، ارزیابی اختلافات و تدوین راهبردهای حقوقی را فراهم می‌کند. این ابزار با همکاری سازمان Free Law Project، به مجموعه‌ای شامل بیش از ۲۳۰ میلیون آدرس اینترنتی، قوانین و تصمیمات اداری دسترسی دارد. مشتریان از طریق رابط API می‌توانند محصولات و گردش‌کارهای هوشمند حقوقی خود را بر پایه این زیرساخت توسعه دهند. در تست‌های انجام شده، این مدل در بررسی صحت پاسخ‌ها ۵۴ درصد موفقیت داشت که نسبت به استفاده از جستجوی وب به تنهایی، بهبود چشمگیری محسوب می‌شود. این سرویس در کنار محصولات تخصصی موجود در بازار، به شرکت‌های حقوقی و فناوری کمک می‌کند.
منبع: دیجیاتو
تکنولوژی
شرکت سامسونگ از گوشی هوشمند گلکسی اس ۲۶ اف ای با قیمت پایه ۷۰۰ دلار رونمایی کرد که نشان دهنده افزایش قیمت ۵۰ دلاری نسبت به مدل قبلی است. این گوشی دارای صفحه نمایش ۶.۷ اینچی اولد با نرخ تازه سازی ۱۲۰ هرتز و حداکثر روشنایی ۱۹۰۰ نیت است. در بخش سخت افزاری، این دستگاه از تراشه اگزینوس ۲۵۰۰، هشت گیگابایت رم و حافظه داخلی ۱۲۸ گیگابایتی بهره می برد. طراحی بدنه نسبت به نسل قبل تغییرات جزئی داشته و از یک جزیره دوربین یکپارچه استفاده شده است. بررسی ها نشان می دهد که این مدل در اجرای بازی های سنگین با چالش هایی روبه رو می شود. با این حال، سامسونگ تلاش کرده است تا تعادلی میان ویژگی های پرچمدار و قیمت مناسب در سری هواداران ایجاد کند.
منبع: Engadget
📲 کانال اختصاصی علایق خودت را رایگان بساز