微软研究院播客:AI 评估中的“意外失败”能教会我们什么
微软研究院播客中,partner research manager Jennifer Neville 与首席应用科学家 Chad Atalla 对谈,讨论评估如何推动 AI 系统突破传统 benchmark 的性能边界,以及模型在超出常规测试时出现的“意外失败”。她结合自身从数学、物理、认知科学到计算机科学的曲折经历,分享使用当前 AI 系统的实用建议,并强调结果偏离预期时应仔细检查数据。
微软研究院播客中,partner research manager Jennifer Neville 与首席应用科学家 Chad Atalla 对谈,讨论评估如何推动 AI 系统突破传统 benchmark 的性能边界,以及模型在超出常规测试时出现的“意外失败”。她结合自身从数学、物理、认知科学到计算机科学的曲折经历,分享使用当前 AI 系统的实用建议,并强调结果偏离预期时应仔细检查数据。
UC Berkeley 团队提出,推理成本已从 GPT-4 级约 $30/百万 token 降至不足 $1,部分厂商低于 $0.10,正进入"智能近乎免费"时代。文章据此提出三类数据系统挑战:为智能体重设计(多智能体重复子查询占 80-90%,可复用结果或返回近似答案)、支撑智能体群体长期任务的状态管理与共识、以及让智能体自行合成可信数据系统。
伯克利 AI 研究团队综述了并行推理领域的最新进展,重点分析自适应并行推理——让模型自行决定何时分解并并行化子任务、开启多少并发线程以及如何协调。现有方法如 self-consistency、Best-of-N、Tree of Thoughts、MCTS、ParaThinker、GroupThink 和 Hogwild! Inference 的并行结构多由外部设定,而非模型自主选择。