Лекция №14 "Explainability"
Четырнадцатое занятие на курсе «Нейронные сети и их применение в научных исследованиях» для группы НС262 шестого потока обучения.
Преподаватель: Сергей Колпинский
Дата: 08.02.2024
00:00 Заставка
00:49 Мотивация использования Explainability
06:42 Объяснимость моделей классического ML
07:21 Оценка важности признаков для линейных моделей
11:13 Оценка важности признаков для деревьев решений
16:30 Методы, изучающие отклик модели на изменение входных данных
17:18 ICE (Individual Conditional Expectation)
21:45 LIME (Local Interpretable Model-agnostic Explanations)
40:35 SHAP (SHapley Additive exPlanations)
01:05:02 Градиентные методы
01:05:47 Vanilla Gradient
01:14:11 SmoothGrad
01:15:46 Integrated Gradients
01:17:55 Grad-CAM
01:24:46 Критика градиентных методов
01:29:02 Методы, специфичные для трансформеров
01:34:59 Attention rollout
01:37:13 Attention Flow
01:37:43 Gradient-weighted Attention Rollout
Материалы лекции:
Открыть в Colab: https://colab.research.google.com/dri...
Открыть в HTML-формате: https://msu.ai/explainability
Сайт: https://msu.ai
VK: https://vk.com/msu_ai
Telegram: https://t.me/msu_ai_channel
Лекция на Rutube: https://rutube.ru/video/bbac6af56cc06...
Лекция на VK видео: https://vk.com/video-204135333_456239250
#MSU_AI#Фонд_Интеллект