PyTorch Howsam

PyTorch Howsam

تیم ElevenLabs تا الان چند بار پکیج تخفیف برای سرویس‌های مختلف ارائه کرده که به تازگی نسخه چهارم هم منتشر شده. ابزارهای زیادی شامل تخفیف عالی شدن. مثل 50 دلار کردیت برای استفاده از modal (سرویس اجاره GPU) یا تخفیف 50 درصدی روی همه پلن‌های n8n و ... https…

فکر می‌کنم پیام بالایی جدی گرفته نشده! :)

دقت کنید که شما می‌تونید با یک ایمیل، 80 دلار کردیت توی modal بگیرید و از GPU-های جذابش لذت ببرید! GPU-هایی مثل H100 و A100... ضمن اینکه، هر ماه اکانت شما 30 دلار شارژ میشه.

حدودا یک روز طول کشید که قلق کار کردن با Modal دستم بیاد و بتونم کد و مدل دوره ChatGPT رو روی GPU-هاش اجرا کنم. با تنظیمات یکسان، روی سیستم شخصی در هر ثانیه حدود 6 بچ پردازش میشد، روی H100 حدود 36 بچ! یک Epoch روی سیستم شخصی 50 دقیقه طول می‌کشید، ولی الان سه Epoch حدود 25 دقیقه طول میکشه! :)

البته که می‌تونم بچ‌سایز رو بسیار بزرگ کنم و همچنین از تکنولوژی‌های جدید توی GPU-های رده بالا استفاده کنم. فعلا این کارها رو نکردم...

www.tgoop.com/pytorch_howsam/678

2.13K viewsMay 20 at 10:40

فکر می‌کنم پیام بالایی جدی گرفته نشده! :)

دقت کنید که شما می‌تونید با یک ایمیل، 80 دلار کردیت توی modal بگیرید و از GPU-های جذابش لذت ببرید! GPU-هایی مثل H100 و A100... ضمن اینکه، هر ماه اکانت شما 30 دلار شارژ میشه.

حدودا یک روز طول کشید که قلق کار کردن با Modal دستم بیاد و بتونم کد و مدل دوره ChatGPT رو روی GPU-هاش اجرا کنم. با تنظیمات یکسان، روی سیستم شخصی در هر ثانیه حدود 6 بچ پردازش میشد، روی H100 حدود 36 بچ! یک Epoch روی سیستم شخصی 50 دقیقه طول می‌کشید، ولی الان سه Epoch حدود 25 دقیقه طول میکشه! :)

البته که می‌تونم بچ‌سایز رو بسیار بزرگ کنم و همچنین از تکنولوژی‌های جدید توی GPU-های رده بالا استفاده کنم. فعلا این کارها رو نکردم...

BY PyTorch Howsam