提出FlashRT系统,通过链式编程范式引导编码代理将参考实现转换为中间表示并进行静态分析,在测量门控优化循环中迭代实现和验证,从而为实时多模态应用自动生成高效的多GPU部署,在NVIDIA B200上实现最高70倍延迟降低和2.8倍吞吐量提升,在AMD MI355X上实现最高70倍延迟降低和3.6倍吞吐量提升。
机构:CMU
来源:arXiv 2607.18171 | AI4Papers 论文推荐平台
AI4Papers 是一个以每日 arXiv 论文发现为入口的 AI 科研工作流平台,帮助研究者用最短时间掌握最新 AI/ML 前沿动态。
核心功能完全免费。高级 AI 功能(对比分析、深度研究、灵感工作台)支持自带兼容 API Key(如 OpenAI、通义千问)无限使用。
免费注册 | 使用教程