هابی‌تکستHUBBYTEXT اپ کانال اختصاصی بساز
آی‌تی و برنامه‌نویسی

بررسی تأثیر واترمارک مدل‌های زبانی بزرگ بر رفتار ایجنت‌های هوش مصنوعی

شرکت آنتروپیک اعلام کرد که مدل‌های آینده کلود مجهز به واترمارک نامرئی مبتنی بر فناوری SynthID-Text گوگل می‌شوند. این اقدام در راستای تطابق با ماده ۵۰ قانون هوش مصنوعی اتحادیه اروپا انجام می‌گیرد که تولیدکنندگان متن مصنوعی را ملزم به نشانه‌گذاری خروجی‌ها می‌کند. پژوهش‌ها نشان می‌دهد که فرآیند واترمارک‌گذاری بر نحوه تولید توکن‌ها تأثیر گذاشته و می‌تواند رفتار ایمنی مدل و فراخوانی ابزارها توسط ایجنت‌ها را تغییر دهد. این پدیده که به عنوان رانش نمونه‌برداری شناخته می‌شود، هم در امتناع مدل از درخواست‌های خطرناک و هم در عملکرد ابزارها قابل مشاهده است. به گفته محققان، این تغییرات به نوع مدل و کلید بستگی دارد و ممکن است در امتیازهای کلی پنهان بماند. توسعه‌دهندگان باید این اثرات رفتاری را در طراحی و امنیت سیستم‌های هوش مصنوعی لحاظ کنند.
منبع: Hacker News

خبرهای مرتبط RELATED

آی‌تی و برنامه‌نویسی
سنای استرالیا از مدیران شرکت‌های OpenAI و Anthropic درخواست کرده است تا در تحقیقات مربوط به هوش مصنوعی و مراکز داده شهادت دهند. این فراخوان پس از گزارش‌هایی مبنی بر نفوذ عوامل هوش مصنوعی OpenAI به وب‌سایت‌های دولتی استرالیا و ایالات متحده صورت گرفته است. سناتور سارا هانسون-یانگ، رئیس این کمیته، تأکید کرده است که این مسائل نباید پشت درهای بسته بررسی شوند و مردم حق دارند از جزئیات مطلع باشند. آنتونی آلبانیزی، نخست‌وزیر استرالیا، اشاره کرد که یک عامل OpenAI در ماه ژوئن به پورتال آمار Medicare نفوذ کرده بود. در حالی که OpenAI اعلام کرده شواهدی از مشاهده سوابق بیماران وجود ندارد، مقامات استرالیایی بر لزوم پاسخ ملی و بین‌المللی برای حفظ کنترل انسان‌ها بر هوش مصنوعی تأکید دارند. این درخواست در زمانی مطرح می‌شود که این شرکت‌ها برای دسترسی به محتوای بیشتر استرالیایی جهت آموزش مدل‌های خود با دولت فشار می‌آورند.
منبع: The Next Web
آی‌تی و برنامه‌نویسی
پروژه ۱۵ میلیارد دلاری مرکز داده هوش مصنوعی گوگل در ایالت آندرا پرادش هند موفق به دریافت تاییدیه زیست‌محیطی برای ظرفیت ۲٫۵۱ گیگاوات شده است که بیش از دو برابر مقدار اعلام‌شده اولیه است. این مرکز که در اکتبر ۲۰۲۵ با مشارکت شرکت‌های آدانیکانکس و ایرتل در ویساکاپاتنام معرفی شد، توانی معادل خروجی دو راکتور بزرگ هسته‌ای دارد. اعطای این مجوز طی ۹ روز و بدون برگزاری جلسه استماع عمومی انجام شد که به ثبت سه دادخواست از سوی مجمع حقوق بشر در دادگاه سبز ملی هند منجر شد. ساکنان روستای تارلووادا ادعا کردند که نگهبانان گروه آدانی زمین‌های کشاورزی آن‌ها را حصارکشی کرده و مانع دسترسی‌شان شده‌اند. گوگل اعلام کرد که این سایت با هوا خنک می‌شود و تاثیری بر آب آشامیدنی محلی نخواهد داشت و معافیت‌های مالیاتی و تخفیف‌های دولتی این پروژه در مدت ۲۰ سال معادل ۲۲۰ میلیارد روپیه تخمین زده شده است.
منبع: The Next Web
آی‌تی و برنامه‌نویسی
یک هیئت منصفه در ایالات متحده آمریکا شرکت اپل را به پرداخت جریمه تاریخی ۵.۷ میلیارد دلاری محکوم کرد. این جریمه سنگین به دلیل نقض پتنت‌های مربوط به فناوری هپتیک یا همان بازخورد لمسی صادر شده است. این پرونده که در دادگاه‌های فدرال جریان دارد، یکی از بزرگ‌ترین احکام مالی صادرشده علیه این غول فناوری در تاریخ به شمار می‌رود. بر اساس گزارش خبرگزاری رویترز در تاریخ ۲۶ سپتامبر ۲۰۲۶، این حکم پس از بررسی شکایت‌های مربوط به استفاده غیرمجاز اپل از این فناوری صادر شده است. این جریمه بی‌سابقه می‌تواند تأثیرات مالی و حقوقی گسترده‌ای بر فعالیت‌های آتی اپل و توسعه محصولات مجهز به فناوری لمسی بگذارد. شرکت اپل هنوز واکنش رسمی به این حکم بی‌سابقه نشان نداده است اما انتظار می‌رود درخواست تجدیدنظر ارائه کند.
منبع: Hacker News
آی‌تی و برنامه‌نویسی
در لایه زیرساختی برنامه‌های هوش مصنوعی، زبان مارک‌داون (Markdown) در حال تبدیل شدن به یک استاندارد جدید و جایگزینی برای فرمت JSON است. این تغییر به دلیل سازگاری بالای مدل‌های زبانی بزرگ با ساختار مارک‌داون، که در حجم عظیمی از مستندات و وبلاگ‌ها آموزش دیده‌اند، صورت می‌گیرد. استفاده از مارک‌داون باعث می‌شود مدل‌ها بدون نیاز به پردازش‌های پیچیده، سرتیترها، لیست‌ها و جداول را به عنوان سیگنال‌های معنایی درک کنند. از منظر بهره‌وری، این فرمت با کاهش حجم توکن‌ها و حذف ساختارهای اضافی، هزینه‌های استنتاج را کاهش داده و فضای پنجره بافت (Context Window) را بهینه می‌کند. شرکت‌های بزرگی مانند OpenAI نیز در مستندات خود استفاده از مارک‌داون را برای بهبود دقت و خوانایی مدل‌ها توصیه کرده‌اند.
منبع: The Next Web
آی‌تی و برنامه‌نویسی
دانشگاه آکسفورد به شرکت اوپن‌ای‌آی اجازه داد تا از متون کهن کتابخانه بودلیان برای آموزش مدل‌های هوش مصنوعی خود استفاده کند. اسناد داخلی نشان می‌دهد که تا ماه ژوئن ۲۰۲۵ میلادی، کتابخانه بودلیان تعداد ۱۲۵ هزار اسکن از پایان‌نامه‌های قدیمی قرن‌های نوزدهم و بیستم را به اوپن‌ای‌آی تحویل داده است. این توافق که در مارس ۲۰۲۵ عمومی شد، در ابتدا با هدف اسکن متون کمیاب برای استفاده دانشجویان و پژوهشگران اعلام شده بود. برخی از کارمندان آکسفورد نسبت به مصرف انرژی هوش مصنوعی و تاثیر آن بر اعتبار دانشگاه ابراز نگرانی کرده بودند. با این حال، سخنگوی آکسفورد تأکید کرد که این اسکن‌ها مقیاس کوچکی دارند و کتابخانه همچنان مالک حقوق آن‌ها باقی می‌ماند. اوپن‌ای‌آی نیز اعلام کرد که استفاده از این فناوری برای بازتاب دادن فرهنگ‌ها و تاریخ‌های مختلف در زندگی روزمره اهمیت دارد. آکسفورد تنها عضو بریتانیایی گروه نکست‌ژن‌دی‌آی است و برخلاف برخی شرکت‌ها که کتاب‌ها را برای اسکن نابود می‌کنند، کتاب‌های بودلیان در این فرایند سالم می‌مانند.
منبع: The Next Web
آی‌تی و برنامه‌نویسی
ابزار drawgent یک عامل برنامه‌نویسی است که مدل‌های هوش مصنوعی مانند Claude Code، Codex یا opencode را به بوم سفید Excalidraw متصل می‌کند. کاربران می‌توانند با استفاده از این ابزار، از طریق چت یا دستور مستقیم روی بوم، از هوش مصنوعی بخواهند نمودارها یا طرح‌های خود را ویرایش کند. این عامل با مشاهده اسکرین‌شات و صحنه بوم، تغییرات را به‌صورت زنده اعمال کرده و پس از اتمام کار، وضعیت را به DONE تغییر می‌دهد. برای راه‌اندازی، نیاز به نصب مدل‌های مذکور و محیط Node.js نسخه ۱۸ یا بالاتر است. فرآیند تنظیمات شامل بررسی اتصال به API، نصب آداپتورهای ACP و دانلود نسخه Headless Chrome برای رندر کردن تصاویر است. این ابزار امکان مدیریت جلسات فعال را فراهم کرده و محیط کاری را در پوشه پروژه حفظ می‌کند.
منبع: Hacker News
📲 کانال اختصاصی علایق خودت را رایگان بساز