首页
学习
活动
专区
圈层
工具
发布
技术百科首页 >Agent 评估 >GAIA 基准在 Agent 评估中重点考察哪些能力?

GAIA 基准在 Agent 评估中重点考察哪些能力?

词条归属:Agent 评估

1. 任务结构

  • 共 466 道人工标注任务,答案为唯一可验证短文本,采用精确匹配评分
  • 分三级难度:一级少于 5 步、二级 5~10 步多工具、三级 10 步以上(任意长短)的长程规划

2. 考察能力

  • 网页浏览、文件处理(PDF / 表格 / 图片 / 音频)、计算、跨多源信息综合与逻辑推理

3. 表现水平

  • 人类基线整体约 92%;2026 年领先 Agent(如 HAL 榜 Claude Sonnet 4.5)整体约 74.6%,一级约 82%、二级约 73%、三级约 65%,整体仍显著低于人类 92%,三级差距揭示当前 Agent 在长程推理上的主要短板
相关文章
GAIA 测评体系
GAIA 全称是 “General AI Assistant”。它的目标不是只评估一个大语言模型(LLM)能不能写一段自然语言回答,而是评估它能不能像“智能助理”一样,去完成一项现实世界的小型任务。
吃猫的鱼Code
2025-11-04
2.2K0
Manus 刷屏,全网求邀请码!这款 AI Agent 究竟有多强?
北京时间 3 月 6 日凌晨 Monica 团队推出了 Manus -- 全球首款通用型 AI Agent。Manus 能够独立思考、规划和执行复杂任务,并直接交付完整的任务成果,而不是仅仅提供建议或答案。Manus 拥有强大的工具调用能力,能自主完成从任务规划到执行的全流程,如文件处理、数据分析、代码编写、内容创作等。Manus 的产品名,意思为“手”,来自拉丁文 "mens et manus",象征着将知识从脑中转化为实际行动。
Se7en258
2025-05-21
7090
统一20+多智能体方法,MASLab震撼发布
OpenAI 在通向 AGI(通用人工智能)的五大阶段中,将「组织级」智能列为最终目标:即 AI 能像一个组织般管理复杂流程、决策高层任务、协调大规模操作。 近两年来,大量多智能体系统(Multi-Agent Systems, MAS)研究陆续涌出,不断朝这这一里程碑迈进。
机器之心
2025-06-15
4980
人类考92分的题,GPT-4只能考15分:测试一升级,大模型全都现原形了
GPT-4 自诞生以来一直是位「优等生」,在各种考试(基准)中都能得高分。但现在,它在一份新的测试中只拿到了 15 分,而人类能拿 92。
机器之心
2023-11-27
8930
解放双手!OSCAR让操作系统交互实现自然语言「自由」
本文作者王晓强,加拿大蒙特利尔大学(Université de Montréal)和 Mila 人工智能研究所博士生,师从刘邦教授。博士期间的主要研究方向为自然语言处理,重点关注大语言模型的能力评估及其在智能体中的应用。目前已在自然语言处理领域的顶级会议 ACL、EMNLP 等发表多篇论文。
机器之心
2025-02-05
7720
点击加载更多
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
领券