让机器人动作更流畅!广和通达成VLA端侧推理2.6倍加速
研究团队在具身智能领域取得突破:基于自研FiboVLA框架,在多个主流VLA模型上推理加速2.6倍,并部署GR00T N1.5至边缘侧高算力平台。成果经LIBERO仿真及真机验证,为端侧高效运行提供工程基础。以下详述技术路径。

模型参数规模激增,端侧实时推理成为瓶颈
VLA(视觉-语言-动作模型)是具身智能的关键技术方向,它将视觉输入、语言指令与动作生成相融合,使机器人能根据环境与任务实时生成动作。
随着VLA能力增强,模型参数规模与推理成本同步攀升。对机器人来说,推理速度直接决定动作响应、任务衔接及运行流畅度。
此外,机器人还受制于算力、功耗、散热及系统资源约束。因此,如何使复杂VLA模型在端侧高算力主控上稳定高效运行,是具身智能落地必须攻克的关键难题。
FiboVLA框架:压缩视觉Token,优化推理链路
为解决VLA模型端侧推理负载过高的问题,研究团队采用自研FiboVLA压缩框架,从模型语义层实施Token级优化。
VLA推理过程中,视觉与语言信息包含大量冗余表征。FiboVLA通过对视觉Token进行精细化筛选与压缩,剔除低价值信息,仅保留与任务理解、环境判断及动作生成强相关的关键内容。
该框架减少了推理中的无效计算,在维持模型决策精度、跨模态理解与动作生成能力的同时,显著降低了计算负载。
团队还结合推理链路调度与端侧推理引擎优化,进一步提升了模型在机器人端侧的运行效率。验证表明,该框架不依赖特定模型架构,已在多个主流前沿VLA模型上获得有效验证,推理吞吐量提升2.6倍,端到端时延显著压缩。
打通“大模型+小终端”的最后一公里
此次突破的核心价值在于,将原本对算力要求较高的VLA大模型,成功引入机器人端侧系统运行。
基于FiboVLA框架与端侧推理优化技术,研究团队成功将GR00T N1.5部署至边缘侧高算力主控平台,并完成运行验证。
在LIBERO仿真基准数据集上,该框架保证了推理加速后的任务效果;在真实物理环境中,同样在桌面双臂机器人场景中完成了GR00T N1.5真机运行验证。
这意味着机器人能在端侧更快完成感知、决策与动作生成,形成低延迟、连续化的推理闭环。这不仅是模型速度的提升,更是在真实机器人平台上完成的一次关键工程验证。
从推理加速迈向机器人“本能”
FiboVLA框架的成功应用,进一步积淀了研究团队在端侧AI与具身智能方向的核心能力,涵盖模型压缩、推理引擎优化、机器人平台验证及系统协同能力。
面向具身智能加速发展的产业趋势,研究团队将持续结合无线通信、边缘算力、AI工具链与Fibot平台能力,助力机器人与各类智能终端获得更高效、更稳定的本地智能,为具身智能进入真实系统运行提供坚实工程支撑。这一系列技术进展,标志着端侧推理能力迈上新台阶,为机器人智能化广泛落地奠定了坚实基础。