arXiv cs.AI· Peter Steiner, Jan Hochweber·· 2 小时前AI 评分42
基于知识空间理论评估 LLM 下一步推荐
Benchmarking LLM Next-Step Recommendations with Knowledge Space Theory
AI 导读
研究人员提出基于知识空间理论(KST)的基准方法,用于评估 LLM 在数学领域的下一步推荐能力。在涵盖 6 个模型、4 个数学领域及 2,400 条响应的评估中,提供完整知识空间时的精确集准确率为 98.2%,仅含描述时为 61.3%。该基准支持模型与提示词组合的对比,但分数仅反映结构准确性,未确立学习效益。
来源:arXiv cs.AI · arxiv.org