هابی‌تکستHUBBYTEXT اپ کانال اختصاصی بساز
هوش مصنوعی

پیشگیری از سه‌گانه مرگبار هوش مصنوعی

مدل‌های زبانی بزرگ (LLM) به دلیل عدم تمایز بین «کد» و «داده»، در معرض حملات «تزریق پرامپت» قرار دارند. این حملات می‌توانند از خنده‌دار تا مخرب باشند. «سه‌گانه مرگبار» زمانی شکل می‌گیرد که یک LLM دسترسی به داده‌های غیرقابل‌اعتماد، اسرار ارزشمند و ارتباط با دنیای بیرون داشته باشد. مهندسان هوش مصنوعی باید مانند مهندسان سازه فکر کنند و با «بیش‌سازی» (افزونگی) در طراحی، از خطرات جلوگیری کنند. این روش شامل استفاده از مدل‌های قدرتمندتر یا محدودکردن دسترسی به منابع بیرونی است.
منبع: هوشیو

خبرهای مرتبط RELATED

هوش مصنوعی
اقتصاد هوش مصنوعی نیازمند توجه ویژه به زیرساخت‌ها و بخش‌های پشتیبان است. مهدی محمدی، مدیرعامل گرینوب، در یادداشتی تأکید کرد که توان پردازشی، ذخیره‌سازی، شبکه و برق نقش کلیدی در قیمت و سرعت توسعه دارند. تکیه بر خدمات زیرساختی مشترک می‌تواند بار مالی تیم‌های توسعه‌دهنده را کاهش دهد. همچنین ارزیابی کسب‌وکارهای زیرساختی باید بر مبنای میزان استفاده واقعی از ظرفیت‌ها و درآمدهای مستمر انجام شود. سیاستگذاری‌های روشن و قوانین قابل‌پیش‌بینی برای جذب سرمایه‌گذاری در این حوزه امری ضروری است. در نهایت، بلوغ این بازار در گرو تبدیل سرمایه‌گذاری به خدمات قابل اتکا و تقاضای ماندگار است.
منبع: هوشیو
هوش مصنوعی
فرزین فردیس، عضو هیئتیسه اتاق بازرگانی تهران، هشدار داد که غفلت از هوش مصنوعی می‌تواند سازمان‌ها را به سرنوشت نوکیا دچار کند. او تأکید کرد که سازمان‌های بزرگ باید با تغییرات فناوری، قوانین و انتظارات مشتریان سازگار شوند. فردیس هوش مصنوعی را موج بعدی سرمایه‌گذاری در جهان توصیف کرد و پیش‌بینی کرد که ۶۵ درصد سرمایه‌گذاری خطرپذیر در سال ۲۰۲۵ به این حوزه اختصاص خواهد یافت.
منبع: هوشیو
هوش مصنوعی
معاون وزیر نیرو بر ضرورت استفاده هدفمند از هوش مصنوعی در صنعت آب و برق تأکید کرد. ماشاءالله تابع‌جماعت در نشستی با مدیران توانیر بیان کرد که این فناوری باید به جای پروژه‌های مقطعی، برای حل مسائل واقعی مانند مدیریت مصرف و کاهش تلفات به کار گرفته شود. او همچنین بر تدوین نقشه راهی منسجم و متناسب با نیازهای این صنعت تأکید کرد. در این نشست موضوعاتی همچون حکمرانی داده، ارتقای امنیت سایبری و استفاده از ظرفیت شرکت‌های فناور بررسی شد. حاضران خواستار تعیین برنامه‌های کوتاه‌مدت و میان‌مدت و شاخص‌های سنجش عملکرد شدند. نتایج به‌کارگیری هوش مصنوعی باید در افزایش بهره‌وری و بهبود کیفیت خدمات قابل ارزیابی باشد. توسعه این فناوری پیشگامی صنعت برق را به دنبال خواهد داشت.
منبع: هوشیو
هوش مصنوعی
مدیران سازمان‌ها همواره برای غلبه بر اطلاعات ناقص و منابع محدود به دنبال ابزارهای نوین تصمیم‌گیری هستند. هوش مصنوعی به عنوان مجموعه‌ای از فناوری‌های پیشرفته، فرآیندهایی نظیر تحلیل داده‌ها و پیش‌بینی تقاضا را دگرگون کرده است. با این حال، ارزش این فناوری تنها به سرعت و کاهش هزینه محدود نمی‌شود و منطق اداره سازمان‌ها را تغییر می‌دهد. نسخه ۲۰۲۶ گزارش موسسه دلوییت نشان می‌دهد که ۸۱ درصد مدیران ارشد بهبود سرعت تصمیم‌گیری را تجربه کرده‌اند. در مقابل، تنها ۲۵ درصد از تحول عمیق کسب‌وکار خود با هوش مصنوعی خبر داده‌اند. این فاصله نشان می‌دهد که استفاده از فناوری لزوماً به معنای تغییر ساختار مدیریتی نیست. کاربردهای این فناوری در سطوح مختلفی از جمله تقویت مدیریت و خودکارسازی فعالیت‌ها دسته‌بندی می‌شوند.
منبع: هوشیو
هوش مصنوعی
علیرضا محمدزاده، معاون آموزش سازمان نهضت سوادآموزی، از طراحی سکوی ملی آموزش بزرگسالان با استفاده از هوش مصنوعی خبر داد. او تأکید کرد که این فناوری می‌تواند مسیر یادگیری را بر اساس نیازهای فردی تنظیم کند، اما نمی‌تواند جای ارتباط معلم و یادگیرنده را بگیرد. محمدزاده سواد دیجیتال، تفکر نقادانه و حل مسئله را از نیازهای آموزشی امروز دانست. او توسعه زیرساخت‌های فناوری، تولید محتوای مهارتمحور و توانمندسازی نیروی انسانی را سه محور اصلی تحول در آموزش بزرگسالان برشمرد.
منبع: هوشیو
هوش مصنوعی
گوگل اعلام کرد مدارس باید قابلیت‌های هوش مصنوعی جمنای را برای دانش‌آموزان فعال کنند تا دسترسی به موتور جستوجو گوگل را داشته باشند. این سیاست شامل حساب‌های دانش‌آموزان از پیش‌دبستانی تا پایان دبیرستان است. مدیران مدارس نمی‌توانند هوش مصنوعی را غیرفعال کرده و در عین حال دسترسی به موتور جستوجو را حفظ کنند. گوگل همچنین قصد دارد قابلیت «یادگیری هدایت‌شده» را برای راهنمایی دانش‌آموزان در حل مسئله اضافه کند.
منبع: هوشیو
📲 کانال اختصاصی علایق خودت را رایگان بساز