На занятии обсудим задачу языкового моделирования и то, какую роль языковые модели играют сегодня в NLP. Помимо этого обсудим различные подходы к языковому моделирования - от простейших статистических до нейросетевых на основе архитектуры трансформер.