Библиотека собеса по Data Science | вопросы с собеседований

⏯ Зачем использовать функции потерь, нечувствительные к масштабу ошибки, например Huber loss, вместо стандартной MSE в регрессии

Среднеквадратичная ошибка (MSE) сильно штрафует большие отклонения, из-за чего становится очень чувствительной к выбросам. Один аномальный объект может доминировать в градиентах и «утащить» всю модель.

Huber loss — это гибрид MSE и MAE:
❇️ При малых ошибках она ведёт себя как MSE — гладко и удобно для градиентных методов.
❇️ При больших — как MAE, линейно, не позволяя выбросам слишком сильно влиять на обучение.

Это особенно полезно, когда:
❇️ Данные содержат редкие, но сильные шумы (например, сенсоры, человеческие ошибки, аномалии).
❇️ Вы хотите получить модель, устойчивую к искажениям, но всё ещё удобную для оптимизации.

Библиотека собеса по Data Science

Please open Telegram to view this post

VIEW IN TELEGRAM

❤2

www.tgoop.com/ds_interview_lib/1060

349 viewsJul 8 at 17:49

⏯ Зачем использовать функции потерь, нечувствительные к масштабу ошибки, например Huber loss, вместо стандартной MSE в регрессии

Среднеквадратичная ошибка (MSE) сильно штрафует большие отклонения, из-за чего становится очень чувствительной к выбросам. Один аномальный объект может доминировать в градиентах и «утащить» всю модель.

Huber loss — это гибрид MSE и MAE:
❇️ При малых ошибках она ведёт себя как MSE — гладко и удобно для градиентных методов.
❇️ При больших — как MAE, линейно, не позволяя выбросам слишком сильно влиять на обучение.

Это особенно полезно, когда:
❇️ Данные содержат редкие, но сильные шумы (например, сенсоры, человеческие ошибки, аномалии).
❇️ Вы хотите получить модель, устойчивую к искажениям, но всё ещё удобную для оптимизации.

Библиотека собеса по Data Science