Meta开源用于数学等复杂推理AI Agent—HUSKY

添加书签

专注AIGC领域的专业社区,关注微软&OpenAI、百度文心一言、讯飞星火等大语言模型(LLM)的发展和应用落地,聚焦LLM的市场研究和AIGC开发者生态,欢迎关注!

Meta、华盛顿大学和阿伦AI实验室的研究人员联合开源了,专用于数学、表格等复杂推理的AI Agent—HUSKY。

与传统AI Agent不同的是,HUSKY采用了一个统一的行动空间,无论是数值计算、表格分析还是基于知识的推理,都能够通过一系列预定义的自动化行动来完成。这种统一性极大提升了AI Agent的泛化能力,使其能够跨领域解决多种难题。

此外,HUSKY还使用了一种迭代推理的方法,通过在行动生成和执行之间不断迭代,可以像人类那样分层次地拆解、解决难题,在处理超复杂任务时非常高效。

开源地址:https://github.com/agent-husky/Husky-v1

论文地址:https://arxiv.org/abs/2406.06469

行动生成相当于HUSKY的“大脑”。在这一阶段,行动生成器作为核心组件,承担着预测任务解决过程中下一步行动的部署计划。它接收输入的问题和已有的解决方案历史,通过精准的预测,确定接下来需要采取的步骤和相应的工具。

在预测过程中主要借鉴了GPT-4使用的”few-shot prompting”技术,无需额外训练就能帮助HUSKY能够通过少量示例快速学习并适应新任务。

完成行动部署后,HUSKY便开始进入执行阶段,通过一些特定的专家模型来执行具体任务。这些专家模型,包括代码生成器、数学推理器、查询生成器和常识推理器,分别对应不同的业务需求,相当于HUSKY的工具箱。

例如,当面临数值计算任务时,代码生成器将生成代码片段,由代码解释器执行;而在需要检索信息时,查询生成器则生成搜索查询,由搜索引擎执行来获取所需知识;需要执行复杂的微积分、几何、代数等复杂难题时,数学推理器便开始执行。

HUSKY不仅体现在单个模块的能力上,更在于模块间的协调与合作。行动生成器需要理解问题需求,预测出合理的行动和工具使用顺序;而专家模型则需精确执行这些行动,并将结果反馈给行动生成器。这种紧密的协作是HUSKY解决复杂问题的关键。

也就是说,HUSKY的行动生成与执行是一个不断迭代、反馈的闭环,在执行的过程中协同工作,不断生成和执行行动,同时更新解决方案状态。

这一迭代过程持续进行,直到行动生成器在解决方案历史中识别出最终答案,HUSKY便达到终端状态并返回最终结果。

研究人员对HUSKY在不同类型推理任务上的进行综合测试,包括数值推理、表格推理、知识基础推理以及混合工具推理任务等。

结果显示,在数值推理任务中,HUSKY展现出了卓越的推理和泛化能力,成功处理了从基础数学问题到高难度的竞赛数学题,涵盖了GSM-8K、MATH、Google DeepMind Mathematics和MathQA等数据集。

在表格推理任务中,HUSKY同样表现出色。成功处理了TabMWP、FinQA、TAT-QA和MultimodalQA等数据集。在HotpotQA、CWQ、Musique、Bamboolge和StrategyQA等数据集上,HUSKY同样展现了卓越的数据检索和查询能力。

本文素材来源HUSKY论文,如有侵权请联系删除

END

本篇文章来源于微信公众号: AIGC开放社区