我们是否过度相信 AI 说“不”的能力
MIT Technology Review 发文质疑 AI 安全过度依赖“拒绝”机制:模型经训练可拒绝大量有害提示词,但拒绝是概率性的,仍会失败,且模型本身保留暴力与网络攻击等能力。文章指出,拒绝边界由 AI 公司秘密划定,政府也将介入,可能被用于压制合法言论。
MIT Technology Review 发文质疑 AI 安全过度依赖“拒绝”机制:模型经训练可拒绝大量有害提示词,但拒绝是概率性的,仍会失败,且模型本身保留暴力与网络攻击等能力。文章指出,拒绝边界由 AI 公司秘密划定,政府也将介入,可能被用于压制合法言论。
MIT Technology Review 与 Aventine 合作的文章指出,尽管马斯克称 Tesla Optimus 每人成本可低至 2 万美元、或于 2027 年底前开售,但许多机器人研究者认为,靠语言和图像训练的 AI 难以应对物理世界的无限变化。Yann LeCun 直言,做人形机器人的公司“没有一家”知道如何让机器人足够聪明、真正有用。