Microsoft Research· Ganesh Ananthanarayanan, Matthew Balkwill, Xenofon Foukas, Sanjeev Mehrotra, Bozidar Radunovic, Connor Settle, Ankit Verma, David White, Shawn Cicoria, Mark Martin, Rachel Johnson, Mayur Patel·· 25 天前精选AI 评分66
微软研究院研究物理 AI 机器人推理卸载并加入 Physical AI Toolchain
Offloaded inference for real-world physical AI robotics
AI 导读
微软研究院系统研究了移动操作机器人工作负载的推理部署,发现把推理从机器人端侧 GPU 卸载到边缘或云端 GPU 可提升任务表现和续航。
推荐理由
微软研究院系统测量机器人端侧 GPU 推理的瓶颈,并给出把推理卸载到边缘或云端的开源工具链。
来源:Microsoft Research · microsoft.com