هابی‌تکستHUBBYTEXT اپ کانال اختصاصی بساز
آی‌تی و برنامه‌نویسی

عرضه یک درگاه متن‌باز برای مدیریت مدل‌های هوش مصنوعی

ابزار متن‌باز اکسپرینشال به عنوان یک درگاه و مسیریاب برای مدیریت جریان‌های کاری عامل‌های هوش مصنوعی عرضه شده است. این پلتفرم به کاربران امکان می‌دهد تا از مدل‌های میزبانی‌شده، محلی و شخصی‌سازی‌شده از طریق یک رابط برنامه نویسی کاربردی سازگار با اوپن‌ای‌آی استفاده کنند. کاربران می‌توانند نحوه مصرف، هزینه‌ها و دسترسی کاربران و عامل‌ها به مدل‌های مختلف را به دقت کنترل کنند. نصب این درگاه محلی با دستور ساده پایپ اینستال اکسپرینشال و اجرای دستورهای مربوطه امکان‌پذیر است. همچنین پلتفرم ابری این ابزار خدمات مشابهی را در نشانی مشخص شده ارائه می‌دهد تا توسعه‌دهندگان بتوانند کلیدهای استنباطی خود را متصل کنند. این درگاه با جمع‌آوری داده‌های ردیابی و بهینه‌سازی ترافیک تولیدی، به عامل‌های کدنویسی و برنامه‌نویسان کمک می‌کند تا عملکرد مدل‌ها را از نظر کیفیت، سرعت و هزینه مدیریت کنند.
منبع: Hacker News

خبرهای مرتبط RELATED

آی‌تی و برنامه‌نویسی
ابزار جدیدی به نام Janas که توسط مائوریتسیو کامالری توسعه یافته، امکان اجرای مدل‌های زبانی بزرگ را روی رایانه‌های معمولی با حافظه رم محدود فراهم کرده است. این ابزار که به زبان سی و بدون وابستگی خارجی نوشته شده، مدل‌های زبانی بزرگ مخلوطی از متخصصان را بدون نیاز به پردازنده‌های گرافیکی گران‌قیمت اجرا می‌کند. در این روش، وزن‌های مدل روی دیسک باقی می‌مانند و بخش‌های مورد نیاز از روی حافظه اس‌اس‌دی پرسرعت استریم می‌شوند. برای نمونه، یک مدل ۸۰ میلیارد پارامتری با سرعت بالا روی لپ‌تاپی با ۳۲ گیگابایت رم اجرا شده و عملکردی بسیار سریع‌تر از ابزار معروف llama.cpp ثبت کرده است. این پروژه آزمایشی هم‌اکنون برای سیستم‌عامل‌های لینوکس و ویندوز در دسترس قرار دارد و کاربران می‌توانند آن را به صورت رایگان دریافت کنند.
منبع: Hacker News
آی‌تی و برنامه‌نویسی
شرکت اینتل از شتاب‌دهنده گرافیکی جدید خود با نام «دی ۲۷۰» رونمایی کرد که برای پردازش‌های سنگین هوش مصنوعی در مراکز داده طراحی شده است. این پردازنده گرافیکی مجزا که عضوی از خانواده سری دی اینتل به شمار می‌رود، به حافظه پرسرعت LPDDR5X مجهز شده است. ظرفیت حافظه این شتاب‌دهنده قدرتمند تا سقف ۴۸۰ گیگابایت ارتقا می‌یابد که پهنای باند فوق‌العاده‌ای را برای مدل‌های بزرگ زبانی فراهم می‌کند. اینتل با معرفی این محصول، گام بلندی در جهت رقابت با غول‌های بازار تراشه‌های هوش مصنوعی برداشته است. این شتاب‌دهنده با تمرکز بر بهینه‌سازی مصرف انرژی و افزایش کارایی در پردازش داده‌های حجیم، گزینه‌ای ایده‌آل برای زیرساخت‌های ابری مدرن محسوب می‌شود.
منبع: Hacker News
آی‌تی و برنامه‌نویسی
شرکت بازی‌سازی اپیک گیمز به کارکنان خود دستور داده است تا برای اتمام پروژه بازی دیزنی از هوش مصنوعی استفاده کنند. این بازی که شامل شخصیت‌های مارول و جنگ ستارگان است، با تاخیر مواجه شده و اکنون به یک پروژه «مبتنی بر اولویت هوش مصنوعی» تبدیل شده است. این تصمیم پس از آن اتخاذ شد که اپیک گیمز در ماه مارس گذشته، به دلیل کاهش مشارکت کاربران در بازی فورتنایت و با هدف کاهش هزینه‌ها، ۱۰۰۰ نفر از کارکنان خود را اخراج کرد. گزارش‌ها نشان می‌دهند که این شرکت نیروی کار مورد نیاز برای تولید این بازی را که قرار بود در ماه مارس عرضه شود، دست‌کم گرفته بود. اکنون با کمبود نیروی انسانی ناشی از اخراج‌های گسترده، این پروژه با تاخیر مواجه شده است. مدیریت شرکت برای جبران این عقب‌ماندگی، کارکنان باقی‌مانده را به استفاده گسترده از ابزارهای هوش مصنوعی ملزم کرده است.
منبع: Hacker News
آی‌تی و برنامه‌نویسی
مارتین اودرسکی سخنرانی کلیدی خود را با عنوان «پایان برنامه‌نویسی؟» ارائه داده است که ویدیو و جزئیات آن در پلتفرم‌های مختلف منتشر شده است. این ارائه به بررسی تحولات صنعت نرم‌افزار و آینده شیوه کدنویسی با ظهور فناوری‌های نوین پرداخته است. نظرات و بازخوردهای مختلفی پیرامون این موضوع در میان برنامه‌نویسان و فعالان حوزه فناوری شکل گرفته است. این نشست به عنوان یکی از مباحث داغ در جوامع تخصصی برنامه‌نویسی توجه مخاطبان زیادی را به خود جلب کرده است.
منبع: Hacker News
آی‌تی و برنامه‌نویسی
مرورگر فایرفاکس از نسخه ۲۸ به بعد که در سال ۲۰۱۴ عرضه شد، به طور پیش‌فرض زمان انتظار پاسخ شبکه را روی ۳۰۰ ثانیه تنظیم کرده است. این تنظیمات باعث بروز اختلال در ادامه دانلودهای حجیم و کاهش پایداری آن‌ها می‌شود. برای حل این مشکل، کاربران می‌توانند با مراجعه به بخش تنظیمات پیشرفته مرورگر، مقدار این گزینه را به صفر یا عددی بسیار بزرگ تغییر دهند تا قابلیت ادامه دانلود فعال شود. البته این راهکار تنها در صورتی کارساز است که سرور مبدأ نیز از قابلیت ادامه دانلود پشتیبانی کند. نویسنده اشاره می‌کند که ناپایداری دانلودها در فایرفاکس مشکلی قدیمی از سال ۲۰۰۵ است و به عنوان یک راهکار جایگزین، استفاده از ابزار خط فرمان وی‌گت را پیشنهاد می‌دهد.
منبع: Hacker News
آی‌تی و برنامه‌نویسی
پژوهشگران ویلیام ژو و دنیل فریمن در آزمایش‌های خود دریافته‌اند که مدل‌های هوش مصنوعی کوچک ممکن است تنها چند ماه با توانایی تکثیر خودکار بر روی دستگاه‌های اینترنت اشیاء تجاری فاصله داشته باشند. مدل‌های هوش مصنوعی با پارامترهای ۳۰ میلیارد و کمتر در حال حاضر قادر به تکمیل بسیاری از مراحل انفرادی تکثیر هستند و مدل‌های قوی‌تر مانند GLM-5.2 توانایی تکثیر سرتاسری را نشان داده‌اند. این تکثیرکنندگان مبتنی بر وزن می‌توانند بدون نیاز به دیتاسنترها و روی سخت‌افزارهای ضعیف و ارزان‌قیمت نیز عمل کنند. پژوهشگران توانستند مدل Gemma4-26B-A4B را روی ۱۵ باکس اندروید تی‌وی ارزان‌قیمت توزیع کرده و با سرعت صفر و چهار صدم توکن در ثانیه اجرا کنند. برخلاف بدافزارهای غیرهوشمند، این عامل‌های خودمختار می‌توانند دستگاه‌های ناآشنا را شناسایی کرده و خود را بدون کنترل انسانی منتشر کنند. این پدیده نگرانی‌های دیرینه درباره تکثیر و سازگاری خودمختار را در فضای سایبری افزایش داده است.
منبع: Hacker News
📲 کانال اختصاصی علایق خودت را رایگان بساز