مقایسه مدل‌های یادگیری ماشین جدید با الگوریتم XGBoost

بررسی‌های جدید نشان می‌دهد که مدل‌های یادگیری ماشین TabPFN و TabICL توانسته‌اند در ۱۴ مجموعه داده از بنچمارک Grinsztajn، الگوریتم محبوب XGBoost را شکست دهند. این مدل‌های پایه جدولی (Tabular Foundation Models) بدون نیاز به آموزش مجدد روی هر جدول جدید، پیش‌بینی‌های دقیقی انجام می‌دهند. برخلاف روش‌های سنتی، این مدل‌ها از یادگیری در متن (In-context learning) استفاده کرده و داده‌های جدید را به عنوان زمینه برای پیش‌بینی در یک مرحله پردازش می‌کنند. این دستاورد می‌تواند فرآیند جستجوی ابرپارامترها را از یک مرحله اجباری به یک انتخاب لوکس تبدیل کند. کاربردهای این مدل‌ها در حوزه‌های حیاتی مانند تشخیص تقلب در تراکنش‌ها، پیش‌بینی ریزش مشتریان، ارزیابی اعتبار مالی و تحلیل داده‌های پزشکی بسیار گسترده است. این مدل‌ها حتی در مجموعه‌داده‌هایی با بیش از ۳۲٬۰۰۰ ردیف نیز عملکرد خود را حفظ می‌کنند.