End-to-end regression and uncertainty on tabular data without any decision trees | Иван Бондаренко
Темы, рассмотренные в докладе:
1) Способы решения ML-задач (в частности, регрессионных) на классических табличных данных только с помощью end-to-end глубоких нейронных сетей, без замысловатого задачно-специфичного фича-инжиниринга и, главное, без "деревянных" ансамблей типа градиентного бустинга, которые многие считают "вершиной эволюции" применительно к обработке табличных данных.
2) Умение алгоритма оценивать собственную неуверенность в ответе. Преимущество глубоких нейронных сетей перед другими алгоритмами, в т.ч. деревьями решений
3) Проблема смещения-дисперсии в классических и нейросетевых алгоритмах
4) Регуляризация, ансамблирование и затухание/взрыв градиентов в глубоких нейросетях
Все данные подкреплены примерами из трека Weather Prediction на соревновании Shifts https://research.yandex.com/shifts/, организованном совместно компанией Yandex, Кембриджским и Оксфордским университетами.