知识画像研究区分模型未学习与未能回忆

谷歌研究团队提出知识画像框架，用来区分语言模型答错事实时的两种原因：训练中没有形成相关知识，或已编码…

谷歌研究团队提出知识画像框架，用来区分语言模型答错事实时的两种原因：训练中没有形成相关知识，或已编码信息未被正确调取。传统准确率通常难以把两者分别观察。

研究对前沿模型进行行为评估，发现不少错误与回忆过程有关。团队指出，这一区分有助于选择改进方向：补充训练数据和扩大模型，或通过后训练及推理阶段方法更有效地利用已有知识。