端云协同推理

DeDelayed：通过设备端校正消除远程推理延迟

DeDelayed: Deleting Remote Inference Delay via On-Device Correction

提出一种端云协同推理框架，将远程模型（处理延迟帧）与本地模型（处理当前帧）联合优化，并利用自编码器压缩传输比特率，为实时视频理解任务在资源受限平台上的低延迟部署提供了可复用的系统级方案。