提出AsyncFC执行层框架,通过基于Future的异步函数调用解耦LLM解码与函数执行,在无需修改模型的前提下显著降低端到端延迟(如BFCL v4加速1.26倍、SWE-bench Lite加速1.44倍)并保持任务准确率。
机构:伯克利
来源:arXiv 2605.15077 | AI4Papers 论文推荐平台