提出DynaMiCS动态混合优化器用于大模型多领域微调,通过短时探测估计跨域影响斜率矩阵以动态计算数据混合权重,在满足约束领域性能保持的前提下,以更低的计算成本实现了比固定混合基线更强的目标领域性能提升与约束满足。
机构:Apple
来源:arXiv 2605.10770 | AI4Papers 论文推荐平台