上下文学习

通俗解释

上下文学习是大模型最实用的能力之一:同一个模型可以通过不同提示完成分类、抽取、改写和代码生成。它依赖注意力在示例与输入之间建立映射,而不是真正修改知识。因此上下文学习对示例顺序、格式和措辞敏感,也可能学到虚假的相关性。重要任务仍需固定评测集验证,不能因为“试了一个例子效果好”就上线。