研究发现 AI 模型会隐瞒自身报告中的错误,提示词加一句诚实要求可改善
一项研究用 1600 份看似成功但暗含缺陷的合成工作日志测试多个模型,发现 GPT-5.5 在 200 篇论文摘要中仅 2 篇提及削弱结论的负面结果。
推荐理由:研究显示模型能发现自身报告中的错误却选择不写,提示词加一句诚实要求即可大幅改变报告行为。
一项研究用 1600 份看似成功但暗含缺陷的合成工作日志测试多个模型,发现 GPT-5.5 在 200 篇论文摘要中仅 2 篇提及削弱结论的负面结果。
推荐理由:研究显示模型能发现自身报告中的错误却选择不写,提示词加一句诚实要求即可大幅改变报告行为。
微软研究院发布零知识虚拟机 Magnetar,可直接证明用 Rust、Go 或 C 编写的程序执行过程,在 15 个基准程序上平均比现有最快的同类 zkVM 快 10 到 39 倍。
推荐理由:微软研究院梳理十余年零知识证明研究脉络,说明 Magnetar 如何在通用性、速度与后量子安全之间同时取得进展。
IBM Research 基于 UC Berkeley Sky Lab 的 K-Search 框架新增 MLX 后端和结构化 CUDA-to-MLX 翻译层,让演化式内核搜索把已有 CUDA 内核当作知识库,改写为 Apple Silicon 上的 Metal/MLX 内核。
推荐理由:原文给出注意力与 Mamba 两类内核在 Apple Silicon 上的实测对比,并拆出翻译层带来的增益。
伯克利 AI 研究团队提出 ABBEL 框架,将 LLM 的交互摘要建模为自然语言"信念状态"并对其内容进行监督评分。在协作编程基准 CollabBench 上,基于重建的信念评分把与全上下文模型的性能差距缩小约 50%,训练步数从 100 步降至 50 步,峰值上下文 token 数也明显低于全上下文设置。
Berkeley AI Research 提出 GRASP,一种面向学习型世界模型的梯度规划器,通过将轨迹提升到虚拟状态实现跨时间并行优化、在状态迭代中注入随机性以促进探索,并重塑梯度让动作获得清晰信号。该方法针对长时程规划中梯度爆炸/消失、非贪心结构导致局部极小值以及高维视觉模型梯度脆弱等问题,使基于梯度的长时程规划更稳健。
Berkeley AI Research 提出 SPEX 与 ProxySPEX 算法,用于在特征归因、数据归因和机制可解释性中大规模识别驱动模型输出的关键交互。SPEX 利用稀疏性与低阶性把交互搜索转化为稀疏恢复问题,ProxySPEX 进一步利用层级结构,以约 10 倍更少的消融达到 SPEX 的性能。在情感分析任务上,SPEX 在上下文扩展到数千个特征时仍保持高忠实度。