苹果Personal Agent新研究:能帮你干活儿,不等于真了解你 - KAIYUN体育

苹果Personal Agent新研究:能替你完成任务,未必真正懂你

目前,Personal Agent已能独立完成多项复杂操作,但在决策时仍面临一个难题:何时该自行推断,何时需向用户进一步询问。

举例来说,用户要求预订常去的餐厅,Agent可从历史记录中判断具体是哪家,也能识别出需要确认的聚餐时间和人数。若擅自猜测,可能偏离用户的真实意图;若对历史中已明确的信息反复追问,又会使自动化流程变得冗长,降低使用效率。

在这项研究中,苹果团队推出了 iPrefBench,专门用于评估移动端Agent在处理这类模糊请求时的“推断与询问”能力。该基准运行在可执行的iOS环境中,涵盖26个应用、130个未完全指定的任务,以及围绕同一用户构建的3051条活动记录。Agent只能从用户历史中获取已有信息,并可通过ask_user动作向模拟用户提问。

论文链接:https://arxiv.org/abs/2610.34735

iPrefBench的核心设计,是为每项被省略的用户相关信息标注唯一来源。 一类信息能从历史活动中恢复,例如用户常选的餐厅、座位或出行方式;另一类信息只能由用户在当前情境下提供,如这次聚餐的时间和人数。Agent必须先识别任务中哪些决策仍未确定,再判断这些决策应从历史中推断,还是通过提问获得。

图|iPrefBench同时评估推断偏好与主动询问能力

这一区分填补了传统计算机使用Agent评测中的空白。许多评测使用信息完整的任务,Agent无需推断,也无需提问。另一些个性化评测提供用户历史,却不允许Agent与用户交互;交互式评测允许提问,但没有足够的用户历史来判断某个问题是否多余。iPrefBench将两种信息源置于同一环境中,分别衡量任务是否完成、是否符合特定用户,以及Agent是否只在必要时打扰用户。

研究团队使用同一套移动端Agent Harness评估了7个前沿模型。结果显示,Agent的执行能力和个性化能力之间存在明显差距。 表现最好的Claude Opus 5,动作完成率达91.6%,但完整任务成功率仅为47.7%。Agent往往能完成预订、购买或填写等操作,却未必做出符合该用户意图的选择。

图|iPrefBench基准上的主要结果

所有受测Agent在处理必须通过询问用户才能获取的信息时,表现均明显较弱。以Claude Opus 5为例,对于能从历史记录中推断的信息,其任务完成率为76.3%;对于必须向用户询问才能获得的信息,完成率则降至51.3%。

整体来看,各Agent平均每个任务仅发起0.08至0.35次询问,而每个任务平均包含0.89项必须向用户确认的信息。对于这类信息,询问召回率最高仅为44.3%。这表明,Agent经常在需要向用户确认时,直接做出决定。

不过,询问次数少只是问题的一部分。各模型的询问精确率介于60.4%至77.1%之间,说明它们提出的问题中,仍有相当一部分并无必要,例如相关答案已存在于历史记录中,询问内容与当前任务无关,或重复询问已有信息。因此,Agent需要具备的关键能力,是准确判断哪些信息可从现有记录中推断,哪些信息确实需要向用户确认。

研究团队还设计了三类扰动任务,用于测试Agent是否会盲目照搬历史偏好。第一类是当前指令与长期习惯冲突;第二类是近期行为显示偏好已发生变化;第三类是原本偏好的选项在当前环境中不可用。评测结果显示,Agent在前两类任务中的个性化得分低于整体水平,而环境扰动反而促使它们明显增加提问。当首选项无法使用时,Agent平均发起的问题数量达到原来的2.3倍,对只能询问的信息的处理也有所改善。

图|iPrefBench三类扰动任务子集上的表现

错误分析进一步揭示了四种典型失败。面对只能询问的信息,Agent有时意识到信息缺失,却仍然自行猜测,有时甚至没有将缺失信息识别为需要决策的事项,直接沿用应用默认值。面对能从历史推断的信息,Agent也可能完全没有发现相关偏好,或发现后却从历史中得出错误结论。研究团队认为,当前Agent面临两个相互关联的难题:先找出所有尚未解决的用户相关选择,再为每个选择决定应当推断还是询问。

图|个性化失败在两个维度上的分布

研究团队还测试了一个执行前澄清阶段,让Agent在开始操作前集中识别疑点并提问。实验结果显示,Claude Sonnet 5加入该阶段后,完整任务成功率从39.2%提升到53.8%,对只能询问信息的处理得分从25.7%提升到85.0%;但询问精确率从60.4%降至42.5%,平均每个任务的问题数量从0.24个增加到1.37个。Qwen3.8-27B也出现类似变化。提前澄清能减少漏问,却同时增加了不必要的问题。

图|在执行前加入明确澄清阶段对Claude Sonnet 5和Qwen3.8-27B的影响

用户历史的数量也并非越多越好, 实验显示,提供少量与任务相关的历史事件,就能明显改善可推断偏好的处理;继续加入完整历史并不会带来同等幅度的收益。更多历史有助于Agent避免询问那些已能推断的信息,却没有帮助它发现哪些信息仍然只能由用户提供,甚至可能降低对这类信息的询问召回率。

图|向Agent上下文提供不同数量用户历史记录的影响

iPrefBench揭示了当前移动端Agent面临的一项普遍挑战:它们已能较好地执行界面操作,却仍不擅长处理用户意图中的未知信息。真正个性化的Agent,需要结合历史记录与当前情境理解用户需求,既要避免机械套用过去的习惯,也要减少不必要的追问。如何在自主执行与主动确认之间做出准确判断,是提升Agent个性化能力的关键。

本文来自微信公众号 “学术头条”(ID:SciTouTiao),作者:学术头条,36氪经授权发布。

3条评论

  • exomos
    2022年12月8日

    KAIYUN体育围绕KAIYUN体育不断创新,回应用户的真实需求。

    回复
    • KAIYUN体育以开云为核心,带来高效便捷的体验。
      2022年12月8日

      精选开云体育官方网站内容,KAIYUN体育与你一同发现更多精彩。

      回复
  • exomos
    2022年12月8日

    KAIYUN体育专注KAIYUN SPORTS,为用户提供专业可靠的体验。

    回复

想了解更多开云体育相关内容,尽在KAIYUN体育。