این روزا و از سر کنجکاوی ذهنم درگیر Fine-tuning مدل‌های کوچیکه دیدم می‌شه یک Llama 7B رو روی dataset خودمون tune کرد که عملکرد بهتری نسبت به GPT-4 داشته باشه البته برای domain specific tasks من یک dataset از ۱۰ هزار sample سوال و جواب پزشکی جمع کردم، با LoRA fine-tune کردم نتیجه‌ش جالب بود، توی medical queries دقت ۸۵ درصدی داشت در حالی که GPT-4 حدود ۷۲ درصد می‌زد نکته مهم اینه که GPU requirement خیلی کمتره با یک RTX 4090 می‌شه fine-tune کرد ولی data preparation اصل ماجراس، اگه quality dataset نداشته باشی، هر چی train کنی بی‌فایده‌س
این روزا و از سر کنجکاوی ذهنم درگیر Fine-tuning مدل‌های کوچیکه دیدم می‌شه یک Llama 7B رو روی dataset خودمون tune کرد که عملکرد بهتری نسبت به GPT-4 داشته باشه البته برای domain specific tasks من یک dataset از ۱۰ هزار sample سوال و جواب پزشکی جمع کردم، با LoRA fine-tune کردم نتیجه‌ش جالب بود، توی medical queries دقت ۸۵ درصدی داشت در حالی که GPT-4 حدود ۷۲ درصد می‌زد نکته مهم اینه که GPU requirement خیلی کمتره با یک RTX 4090 می‌شه fine-tune کرد ولی data preparation اصل ماجراس، اگه quality dataset نداشته باشی، هر چی train کنی بی‌فایده‌س
Done! Now you’re the proud owner of a Telegram channel. The next step is to set up and customize your channel. Channel login must contain 5-32 characters How to Create a Private or Public Channel on Telegram? A few years ago, you had to use a special bot to run a poll on Telegram. Now you can easily do that yourself in two clicks. Hit the Menu icon and select “Create Poll.” Write your question and add up to 10 options. Running polls is a powerful strategy for getting feedback from your audience. If you’re considering the possibility of modifying your channel in any way, be sure to ask your subscribers’ opinions first. Content is editable within two days of publishing
from us
