相关性05：BERT模型 (Part 2) - 模型训练
【禁止搬运】
目前（2024年）搜索引擎主流的相关性模型是BERT，包括交叉BERT、双塔BERT。这节课的内容是模型的训练，具体分为以下4个步骤。
1. 预训练：用 MLM 等任务预训练模型。
2. 后预训练：利用用户的点击、交互数据训练模型。
3. 微调：用人工标注的相关性数据训练模型。
4. 蒸馏：得到更小的模型，加速线上的推理。
课件地址：
https://github.com/wangshusen/SearchE...