چگونه روی رایانه شخصی خود چت‌بات اجرا کنیم؟

کاربر می‌خواهد چکیده خبری از متن انگلیسی داده شده به فارسی، طبق قوانین مشخص. اول باید ببینم اطلاعات کلیدی چیه: موضوع اجرای چت‌بات و مدل‌های زبانی بزرگ به صورت محلی روی کامپیوتر شخصی.
اول، شروع کنم با اینکه مدل‌های زبانی بزرگ که پایه چت‌بات‌هایی مثل چت‌جی‌پی‌تی و جمینی هستند، حالا می‌توانند به صورت محلی روی کامپیوتر شخصی اجرا شوند. بعد مزایاشون: دسترسی آفلاین، حریم خصوصی بیشتر چون داده به ابر ارسال نمی‌شود، هزینه ماهیانه یا استفاده محدود ندارند، مدل‌های رایگان زیادی از شرکت‌هایی مثل متا و گوگل برای دانلود موجود هستند اگرچه سرعت و پیشرفتشان کمتر از نسخه‌های پولی است.
بعد نیازمندی‌های سخت‌افزاری: حداقل رم ۸ گیگابایت، ۱۶ گیگابایت بهتر و برای مدل‌های بزرگ و سریع ۳۲ گیگابایت یا بیشتر لازم است. کارت گرافیک اختصاصی با حداقل ۸ گیگابایت VRAM نیز عملکرد را بهبود می‌دهد، به خصوص کارت‌های انویدیا برای پردازش‌های هوش مصنوعی مناسب هستند. سیستم‌عامل‌های ویندوز، مک اواس و لینوکس پشتیبانی می‌شوند و مک اواس به دلیل یکپارچگی بیشتر و تراشه‌های اپل سیلیکون که واحدهای پردازش را ترکیب می‌کنند، محبوب‌تر است.
بعد نرم‌افزارهای لازم: برای مبتدیان LM Studio Bionic برای مک و ویندوز به صورت رایگان بهترین گزینه است، گزینه‌های دیگر شامل vLLM، Llama.cpp، Ollama و GPT4All هستند که برای همه سیستم‌عامل‌ها در دسترسند. برای پیدا کردن مدل‌ها می‌توان از مخازن آنلاین مثل هگینگ فیس با بیش از ۳ میلیون مدل موجود استفاده کرد.
بعد مثال عملی: برای نصب روی ویندوز، پس از دانلود و اجرای LM Studio Bionic، با کلیک روی Create Project پروژه جدید ساخته می‌شود، سپس از قسمت Choose a model می‌توان مدل محلی را انتخاب کرد که بر اساس اندازه، محبوبیت و ویژگی‌های خود لیست می‌شود و مدل‌های کوچک‌تر سریع‌تر دانلود می‌شوند و فضای کمتری اشغال می‌کنند. رابط کاربری این نرم‌افزار مشابه چت‌بات‌های معمولی است و از قسمت تنظیمات می‌توان نحوه مدیریت چت‌های حذف شده و عناصر رابط کاربری را شخصی‌سازی کرد، همچنین از قسمت کتابخانه می‌توان مدل‌های موجود را مدیریت کرد و از قسمت Explore مدل‌های جدید پیدا کرد. نوار کناری سمت راست برای مدیریت فایل‌ها در پروژه‌ها و دسترسی به سیستم فایل کامپیوتر استفاده می‌شود.
حالا باید این‌ها را در ۵ تا ۸ جمله بچینم، خبری، بی‌طرف، روان