优化引文幻觉的AI来了


本报讯 一个新推出的开源语言模型OpenScholar,在进行准确文献综述方面可超越商用大语言模型(LLM)。比如,实验中,GPT-4o会在78%~90%的情况下出现引文幻觉,而新的人工智能(AI)工具的引文准确率却与人类专家相仿。虽然仍需进一步优化,但该工具有望帮助科学家处理复杂且日益繁重的科学文献综述任务。相关研究成果2月5日发表于《自然》。

科学文献综述对于支持循证决策、微调科学过程和引导新发现都很重要。然而,文献发表数量的增长使研究人员很难掌握全部资讯。LLM可以提供协助,但很容易出错,如归因能力有限和引文幻觉。

为了生成准确、全面、透明的科学文献综述,美国西雅图华盛顿大学的Akari Asai、Hannaneh Hajishirzi和同事推出了OpenScholar。该模型是专为科研任务设计的检索增强语言模型。其他系统也用过这个框架,但作者将其与一个包含4500万篇最新开放获取科研论文的专业数据库以及一个自我评估机制相结合,从而优化其输出。作者还创建了名为ScholarQABench的基准工具来评估文献综述的自动化。研究显示,OpenScholar的准确率比GPT-4o和PaperQA2(一个文献综述工具)这类现有系统分别高出6.1%和5.5%。此外,OpenScholar生成的答案在50%~70%的情况下比专家注释器的答案更有用。作者总结道,以上结果和引文幻觉大幅下降证明了OpenScholar有望支持和推动科学家的研究工作。

作者指出该系统仍有局限性,并强调基于语言模型的系统无法使科学文献综述完全自动化。他们向学界同时开放了ScholarQABench和OpenScholar,以鼓励进一步研究和优化。

(赵熙熙)

相关论文信息:

https://doi.org/10.1038/s41586-025-10072-4

            <!-- 非定向300*250按钮    17/09  wenjing  begin -->
            <!-- 非定向300*250按钮  end -->
        </div>



Source link

未经允许不得转载:紫竹林-程序员中文网 » 优化引文幻觉的AI来了

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址
关于我们 免责申明 意见反馈 隐私政策
程序员中文网:公益在线网站,帮助学习者快速成长!
关注微信 技术交流
推荐文章
每天精选资源文章推送
推荐文章
随时随地碎片化学习
推荐文章
发现有趣的