预训练和微调

预训练：在完成预训练的模型基础上，用领域特定数据继续训练，让模型适应某个任务或专业场景（如法律问答、医学摘要、选矿数据分析等）。在大规模通用语料（如网络文本、百科、新闻等）上训练模型，让模型学习语言的基础知识，如语法、词义、上下文关系等。

微调：在完成预训练的模型基础上，用领域特定数据继续训练，让模型适应某个任务或专业场景（如法律问答、医学摘要、选矿数据分析等）。

（p.s.微调就是利用预训练好的参数值作为初始参数训练）