科技讯
自我发现方法:DeepMind框架允许法学硕士发现和使用任务内在推理结构

  DeepMind introduces SELF-DISCOVER, which allows LLMs to find and use task-intrinsic reaso<em></em>ning structures

  谷歌DeepMind项目的一组人工智能研究人员与南加州大学的一名同事合作,开发了一种工具,允许大型语言模型(llm)找到并使用任务内在推理结构,作为改善返回结果的一种手段。

  该小组撰写了一篇论文,描述了他们的框架,概述了迄今为止测试的情况,并将其发布在arXiv预印本服务器上。他们还在机器学习和数据科学平台“拥抱脸”上发布了这篇论文的副本。

  大型语言模型,如ChatGPT,能够通过在互联网上搜索信息,并通过模仿人类的写作方式,以类似人类的方式创建文本,从而对用户的查询返回类似人类的响应。但是由于这些模型本身的简单性,它们的能力仍然非常有限。在这项新研究中,DeepMind的研究人员对法学硕士使用的模型进行了调整,以提高结果。

  为了让法学硕士们有更多的工作,研究小组给了他们一种通过复制人类使用的解决问题的策略来进行自我发现的方法。他们通过赋予他们使用推理模块的能力来做到这一点,这些推理模块是通过其他研究努力开发出来的。更具体地说,他们给了他们使用模块的能力,这些模块允许批判性思维和/或逐步分析手头的问题。这使得法学硕士可以构建明确的推理结构,而不是简单地依赖于其他人在创建文档时进行的推理。

  为了进行这种处理,研究小组采用了两步流程。第一个是教法学硕士如何创建与给定任务相关的推理结构,然后使用适当的推理模块。第二步涉及允许法学硕士遵循自我发现的道路,这将导致它想要的解决方案。

  对新方法的测试表明,它极大地改善了结果——将它与多个llm(包括GPT-4)和几个知名的推理任务一起使用,自我发现方法的表现始终优于思维链推理和其他当前方法,最高可达32%。研究人员还发现,它通过将推理计算减少10到40倍来提高效率。

  更多信息:周沛等,自发现:大型语言模型自组成推理结构,arXiv(2024)。期刊信息:arXiv .2402.03620

  ?2024 Science X Network

  引用一种自我发现的方法:DeepMind

  框架允许llm发现和使用任务内在原因

  ning structures(2024年2月9日)检索自https://techxplore.com/news/2024-02-discovery-approach-deepmind-f

  framework -llms.html这个文档

  作品受版权保护。除为私人学习或研究目的而进行的任何公平交易外,未经书面许可,不得转载任何部分。的有限公司

  内容仅供参考之用。

点击分享到

热门推荐