Среднеквадратичная ошибка
Запишетесь на полный курс Машинного обучения на Python по адресу [email protected]
Качество моделей машинного обучения для решения задач регрессии (предсказания определенного значения) часто измеряют с помощью среднеквадратичной ошибки, которая считает квадрат отклонения прогноза модели от истинного ответа и усредняет эти квадраты отклонений по всем объектам обучающей выборки.
Можно показать, что среднеквадратичная ошибка — это выпуклая и гладкая функция. Из выпуклости следует, что у нее всего 1 минимум, а из гладкости следует, что в каждой ее точке можно посчитать градиент, и поэтому можно использовать градиентный спуск для оптимизации.
Благодаря этим качествам эту метрику достаточно часто выбирают как для оптимизации гиперпараметров модели машинного обучения, так и для оценки качества работы модели.
RMSE считается как корень квадратный из среднеквадратичной ошибки (MSE).
В ряде случаев использование квадрата разности плохо влияет на оценку большого диапазона значений, если нам требуется посчитать среднюю относительную ошибку. Тогда используют вместо разности значений разность логарифмов значений - RMSLE.
Эта функция работает только для положительных значений, но MSLE также является гладкой и выпуклой (подходит для градиентного спуска).