AWS 提出 Trust in Depth:让智能体获得更多自主权而不失控
AWS AI Services 副总裁 Shawn Bice 提出 Trust in Depth 框架,主张在智能体行为可被验证时让其自主行动,把人工判断留给真正需要决策的环节。
AWS AI Services 副总裁 Shawn Bice 提出 Trust in Depth 框架,主张在智能体行为可被验证时让其自主行动,把人工判断留给真正需要决策的环节。
微软研究院播客中,partner research manager Jennifer Neville 与首席应用科学家 Chad Atalla 对谈,讨论评估如何推动 AI 系统突破传统 benchmark 的性能边界,以及模型在超出常规测试时出现的“意外失败”。她结合自身从数学、物理、认知科学到计算机科学的曲折经历,分享使用当前 AI 系统的实用建议,并强调结果偏离预期时应仔细检查数据。
GitHub Copilot 应用推出 canvas,一种在应用内运行、无浏览器外壳的全栈小应用,可与 Copilot 智能体双向通信。官方演示用 canvas 做 Connect 4 对战、Winget 包管理和 SQLite 操作,并称让智能体造工具比反复用聊天消耗 token 更划算。canvas 可调用第三方 API 并本地执行代码,复杂工作流示例约需一天调好。
UC Berkeley 团队提出,推理成本已从 GPT-4 级约 $30/百万 token 降至不足 $1,部分厂商低于 $0.10,正进入"智能近乎免费"时代。文章据此提出三类数据系统挑战:为智能体重设计(多智能体重复子查询占 80-90%,可复用结果或返回近似答案)、支撑智能体群体长期任务的状态管理与共识、以及让智能体自行合成可信数据系统。
伯克利 AI 研究团队综述了并行推理领域的最新进展,重点分析自适应并行推理——让模型自行决定何时分解并并行化子任务、开启多少并发线程以及如何协调。现有方法如 self-consistency、Best-of-N、Tree of Thoughts、MCTS、ParaThinker、GroupThink 和 Hogwild! Inference 的并行结构多由外部设定,而非模型自主选择。