شرکت هوگینگ فیس (Hugging Face) اخیراً نشان داده است که با استفاده از تکنیکی به نام **مقیاس‌پذیری در زمان تست (Test-Time Scaling)**، مدل‌های زبانی کوچک می‌توانند در زمینه‌هایی مانند ریاضیات و کدنویسی عملکردی فراتر از انتظار ارائه دهند. این دستاورد قابل توجه، راهکاری را به توسعه‌دهندگان پیشنهاد می‌دهد که بتوانند بدون نیاز به مدل‌های زبانی بزرگ (LLMs)، خروجی‌های قدرتمندی داشته باشند.
### مقیاس‌پذیری در زمان تست چیست؟
ایده‌ی اصلی این تکنیک بر این اساس است که به مدل‌های زبانی کوچک، زمان بیشتری برای “تفکر” داده شود. به جای محدود کردن مدل به یک پاسخ مشخص، این رویکرد به آنها امکان می‌دهد برای یک مسئله خاص، پاسخ‌های متعددی تولید کنند و سپس این پاسخ‌ها را بررسی و ارزیابی کنند. نتیجه؟ مدلی که می‌تواند با بررسی چندباره، بهترین پاسخ ممکن را ارائه دهد و حتی در برخی موارد، مدل‌های بزرگ‌تر را شکست دهد.
### مزایای استفاده از این تکنیک
1. **صرفه‌جویی در منابع**: مدل‌های زبانی بزرگ، اگرچه توانایی بیشتری دارند اما به منابع محاسباتی قابل توجهی نیاز دارند. در نقطه مقابل، مدل‌های زبانی کوچک‌تر کم‌هزینه‌تر و بهینه‌تر هستند.
2. **دقت بالاتر در وظایف خاص**: زمانی که مقیاس‌پذیری در زمان تست به‌کار گرفته می‌شود، مدل‌های کوچک می‌توانند در وظایفی مانند مسائل ریاضی و تحلیل کدنویسی، خروجی‌های دقیق‌تری داشته باشند.
3. **انعطاف‌پذیری بیشتر**: اجرای این تکنیک نیازمند زیرساخت خاصی نیست و می‌توان آن را در سیستم‌های مختلف پیاده‌سازی کرد.
### مثال‌هایی از عملکرد
یکی از کاربردهای کلیدی این تکنیک، حل مسائل ریاضی پیچیده است. به این صورت که مدل چندین بار پاسخ تولید می‌کند و در نهایت، بهترین پاسخ را تایید یا انتخاب می‌کند. به همین ترتیب، در حوزه کدنویسی، مدل‌های کوچک می‌توانند پیشنهادهای متعددی برای یک قطعه کد ارائه دهند و عملکرد خود را با دقت بیشتری بسنجند.
### تاثیر در آینده هوش مصنوعی
این رویکرد جدید می‌تواند نقطه‌عطفی در توسعه‌ی مدل‌های زبانی باشد. به جای تلاش برای توسعه مدل‌های بسیار بزرگ و پیچیده، تمرکز بهینه‌تر روی استفاده از ظرفیت مدل‌های کوچک می‌تواند باعث افزایش بهره‌وری و کاهش هزینه‌های توسعه هوش مصنوعی شود. تحقیقاتی نظیر این، راه را برای فناوری‌های مقرون به صرفه‌تر و دسترس‌پذیرتر باز می‌کند.
برای مطالعه بیشتر، می‌توانید به [اینجا](https://venturebeat.com/ai/hugging-face-shows-how-test-time-scaling-helps-small-language-models-punch-above-their-weight/) مراجعه کنید.