无问芯穹联合清华、上交开源具身端侧推理引擎APXInf
无问芯穹联合清华大学、上海交通大学开源具身智能端侧推理引擎APXInf，首发支持PI 0.5与WALL-OSS，在Jetson Thor上将PI 0.5 FP8端到端推理延迟从278ms降至26ms以内。
AI 编撰 · 内容基于所列来源，重要信息请以原文为准
无问芯穹联合清华大学、上海交通大学正式开源把代码、数据集或硬件设计公开给所有人免费使用。机器人公司常用开源来换取开发者和科研生态的支持。◆ 小白科普 · 现身具身智能Embodied AI让 AI 通过机器人身体感知并作用于真实世界，不只在屏幕里回答问题。◆ 小白科普 · 现身端侧推理引擎APXInf，定位为具身智能从模型AI 模型的简称，指经过训练、能从输入算出输出的程序。机器人的模型输入画面和指令，输出动作。◆ 小白科普 · 现身能力走向规模化落地的端侧推理环节。该引擎支持RTX 4090、Jetson Orin、Jetson Thor等主流计算平台，覆盖模型开发、效果验证到机器人本体部署把机器人真正放到工作现场长期干活，而不只是在实验室演示。部署规模决定了数据回流和经验积累的速度。◆ 小白科普 · 现身的链路。
性能方面，官方披露APXInf已实现PI 0.5 FP8在Jetson Thor上端到端指「从眼睛到手」由一个 AI 模型直接完成的技术路线：输入画面和指令，直接输出动作，中间不再由工程师人工拆分步骤。◆ 小白科普 · 现身推理延迟从278ms降低至26 ms以内，在FP8下达到38.46Hz推理频率，称可满足机器人多场景实时控制对推理频率和响应延迟的要求。优化手段包括Pipeline、Graph、Kernel及量化等多层优化，并采用Agent4Kernel技术进行融合算子优化。
架构上，APXInf采用Rust构建极简运行时并封装Python接口，官方称借助Rust内存安全特性提升引擎稳定性，同时保留开发者熟悉的调用方式；系统设计以适配Agentic Engineering研发流程为出发点，通过冗余特性、功能隔离、工具箱模型等方法降低新模型接入与优化成本。
开源清单显示，APXInf首发支持PI 0.5与WALL-OSS两款具身模型，硬件支持Jetson Orin、Jetson Thor及RTX 4090，并提供统一的模型接入方式。路线图包括支持VLA、VLM、世界模型等更多模型（Qwen、Groot已在适配中）、nvfp4性能优化、国产指原本依赖进口的零部件改由中国厂商生产。核心部件国产化，是这两年机器人大幅降价的最大推手。◆ 小白科普 · 现身芯片算力后端与国产机器人操作系统适配，以及AMD等主流芯片适配。
APXInf将作为RLinf开源生态中的端侧推理项目首发。2025年9月，无问芯穹联合清华大学等团队开源了面向具身智能的大规模强化学习一种 AI 训练方法：让机器人在亿万次「试错」中自己摸索，做对了就给奖励。机器人走稳路、跑酷空翻，大多是这么练出来的。◆ 小白科普 · 现身训练开源框架，APXInf衔接模型训练与评测之后的机器人端侧推理与部署环节。