tgoop.com/pytorch_howsam/406
Create:
Last Update:
Last Update:
💣 تاثیر بچ‌نرمالیزیشن روی شبکه چیه؟
به تصویر نگاه کنید؛ دو نمودار لاس ترین داریم که یکی برای شبکه بدون بچ‌نرم (آبی) هست و دیگری شبکه با بچ‌نرم (قرمز)...
بچ‌نرم تکنیکی هست که باعث میشه شبکه عصبی سریع‌تر ترین بشه. این مساله به وضوح در نمودارهای لاس دیده میشه.
در شبکه بدون بچ‌نرم (آبی)، حدودا ایپاک 150 به لاس 0.3 رسیدیم. درحالی‌که در شبکه با بچ‌نرم (قرمز)، خیلی زود (زیر 100 ایپاک) به لاس 0.3 رسیدیم. این اثر بچ‌نرم هست.
❓حالا چند تا سوال:
چرا نمودار قرمز یک مقداری نوسانی شده؟
بچ‌نرم رو باید کجا قرار بدیم؟
🌐 منابع:
wikipedia
towardsdatascience
better deep learning
deep learning 2022 howsam
✅ چطور بود؟ بازم بذاریم؟؟ 🤪
@pytorch_howsam
BY PyTorch Howsam
Share with your friend now:
tgoop.com/pytorch_howsam/406