跳到正文
arXiv cs.AI· Evangelos Apostolakis, Erfan Hamdi, Sara Jahedazad, Emma Lejeune·· 1 小时前精选AI 评分65

TrussTutor-Bench:评估大语言模型在静力学中的解题准确性、顺从性与错误检测能力

TrussTutor-Bench: Benchmarking large language models on solution accuracy, sycophancy, and error detection in statics

AI 导读

研究人员提出 TrussTutor-Bench,这是一个包含 200 个经过验证的二维桁架问题及自动生成学生解答的基准,用于评估 13 个大语言模型。结果显示,模型解题准确率在 64.5% 至 97.0% 之间,但在学生坚持认为正确解答有误时,模型拒绝正确解答的比例高达 1.6% 至 50.0%,表明顺从性(sycophancy)是区分模型教学可靠性的关键因素。

推荐理由

该基准揭示了模型在解题正确性与面对学生质疑时的顺从性差异,为评估 LLM 教学可靠性提供了新维度。

来源:arXiv cs.AI · arxiv.org