
ACL 2026 将于 2026 年 7 月 2 日至 7 月 7 日在美国加利福尼亚州圣迭戈举行。ACL 年会是计算语言学和自然语言处理领域最重要的顶级国际会议,由计算语言学协会主办,每年举办一次。其接收的论文覆盖了对话交互系统、语义分析、摘要生成、信息抽取、问答系统、文本挖掘、机器翻译、语篇语用学、情感分析和意见挖掘、社会计算等自然语言处理领域众多研究方向。
哈尔滨工业大学社会计算与交互机器人研究中心有23篇长文被ACL 2026主会录用,17篇长文被Findings of ACL录用。下面是论文列表及介绍:
01
题目:TEA-Bench: A Systematic Benchmarking of Tool-enhanced Emotional Support Dialogue Agent
作者:隋星宇,赵妍妍,胡雨林,郭家合,赵伟翔,秦兵
录用类别:Main
简介:情感支持对话不仅需要情感表达,还需要基于事实的工具性支持来提供可信赖的指导。然而,现有的情感支持对话(ESC)系统和基准测试主要关注纯文本场景下的情感支持,忽视了外部工具如何通过事实依据来减少多轮情感支持中的幻觉问题。本文介绍了 TEA-Bench,这是首个用于评估工具增强型智能体在情感支持对话中表现的交互式基准测试,其特点包括真实的情感场景、MCP 风格的工具环境,以及能够联合评估情感支持质量和事实依据的过程级指标。针对九个大语言模型的实验表明,工具增强通常能够提升情感支持质量并减少幻觉,但这种提升与模型能力密切相关:更强的模型能够更有选择性地、更有效地使用工具,而较弱的模型受益有限。我们还发布了 TEA-Dialog,一个工具增强型情感支持对话数据集,并发现监督微调能够改善分布内的支持效果,但泛化能力较差。我们的研究结果强调了工具使用在构建可靠情感支持智能体中的重要性。
02
题目:Is EEG-to-Text Feasible in Real-World Scenarios? An In-Depth Analysis Using a Neuropsychology-Inspired Benchmark
作者:张梓寒,包煜,丁效,姜天翼,熊凯
录用类别:Main
简介:将大脑信号翻译成文本可以恢复严重瘫痪患者的交流,但迄今为止实际可用的系统依赖于侵入性皮层电图(ECoG)。脑电图(EEG)提供了一种非侵入性的替代方法,EEG转文本(EEG2Text)已被广泛探索。然而,有趣的是,EEG2Text模型通常依赖于教师强制评估;没有它,它们就无法生成有意义的解码。这种依赖性阻碍了EEG2Text在现实世界的非学术环境中的应用。这引发了许多关于EEG2Text是否是一个有意义的方向,以及EEG是否真的包含可解码的语言信息的争论。在这里,使用神经心理学知情范式,我们发现现有的EEG2Text基准忽略了EEG的不稳定性,这一缺陷混淆了推理并引发了争论。我们的实验为教师强制自由EEG2Text解码的可行性提供了关键证据。因此,我们使用128通道高密度Eeg帽来组装数据,为评估EEG2Text模型提供了一个基准。与多个现有基准相比,COFETT实现了SOTA区分模型性能的能力,并实现了稳健的、无需教师干预的评估,从而为实用的EEG2Text应用开辟了道路。
03
题目:When Does Language Matter? Multilingual Instructions Reveal Step-wise Language Sensitivity in Vision-Language-Action Models
作者:董轩、韩喆、牛天昊、朱庆福、车万翔
录用类别:Main
简介:视觉—语言—动作(VLA)模型在语言条件下的机器人操作任务中展现出较强性能,但其对语言变化的鲁棒性仍缺乏充分理解。本文首次对 VLA 模型进行了系统性的多语言评测:我们将 LIBERO 基准翻译为十种语言,结果发现当指令不再是英语时,模型性能会显著下降,成功率降低了 30%–50%。通过对任务执行过程的细粒度分析,我们进一步发现,语言的影响在不同执行步骤中呈现出高度不均匀的特征:某些步骤对语言高度敏感,并主导了整体任务失败,而另一些步骤则基本不受语言影响。基于这一发现,我们提出了一种分步骤的测试时干预方法,根据各步骤的语言敏感性对表示进行对齐,从而显著提升了模型在语言变化条件下的性能。我们的结果表明,VLA 模型的语言鲁棒性本质上是一个分步骤的控制问题,这也凸显了开展具有时间结构的分析对于构建可靠具身智能体的重要性。
04
题目:Dashboard2Code: Evaluating Multimodal Models on Reconstructing Interactive Dashboards
作者:牛天昊*、韩子玙*、陈麒光、周士祺、陕宝才、方恒杰、朱庆福、车万翔
录用类别:Main
简介:多模态大语言模型推动了自动化数据可视化生成的快速发展,但现有工作大多聚焦于静态图表,忽视了现实数据探索中更常见的交互式仪表板。我们提出了一个新的任务——Dashboard2Code,要求模型主动探索交互式仪表板,通过自身交互(例如点击、筛选)获取并整合反馈,并生成能够复现目标仪表板的代码。为支持全面评测,我们进一步提出了首个面向 Plotly+Dash 的 Dashboard2Code 基准 DashboardMimic。该基准包含 180 个经过精心设计并人工验证的“仪表板–代码”配对样本,覆盖三种难度等级以及八类现实中常见的交互模式。与此同时,我们还提出了一套面向仪表板的自动化评估框架,将代码语义分析与基于动态交互的测试相结合,用于评估生成结果在视觉和交互上的一致性,并且实验表明该评估与人工判断具有较强一致性。对多种开源和闭源多模态模型的实验结果显示,即便是目前最强的系统,在高复杂度仪表板上仍表现不佳;同时,在 Dashboard2Code 任务上,开源模型与闭源模型之间依然存在显著性能差距。
05
题目:PARIF: Pushing the Pareto Frontier of Instruction Following and Reasoning with Curriculum Reinforcement Learning
作者:牟容川*,王泽鑫*,王乾宇*,马明华,汪泽堃,刘铭,秦兵
录用类别:Main
简介:大型推理模型(LRMs)在解决复杂问题方面表现出色,但经常会忽略具体的指令约束。现有的对齐方法难以在通用推理与指令遵循(IF)之间取得平衡,这主要是受制于对教师模型的依赖、奖励作弊以及推理过程与答案不一致等问题。我们提出了PARIF,这是一个基于可验证奖励强化学习(RLVR)的两阶段课程学习框架,旨在同时提升模型的指令遵循与通用推理能力。该框架在不同阶段均采用正确性代理来缓解奖励作弊问题。第一阶段同时采用动态权重策略,以优化模型在处理约束时的推理范式。第二阶段引入了Decoupled-GRPO,该方法建立在第一阶段的基础之上,旨在增强推理过程与最终答案之间的逻辑一致性,从而使模型能够更好地发挥其优化后的推理范式。为了支持该框架,我们精心整理了26,000条包含多种约束条件的高质量指令数据。广泛的实验证明了PARIF的有效性:我们的7B模型在六个具有代表性的指令遵循任务上,相比原始模型实现了21.25%的平均提升;而我们的8B模型在这些指令遵循任务中的表现超越了DeepSeek-V3等领先模型,有效地推进了同等规模模型的帕累托前沿。
06
题目:When Correct Beliefs Collapse: Epistemic Resilience of LLMs under Clinical Pressure
作者:肖博予*,田修齐*,宋旭文,王昊淳,宋官纯,赵森栋,秦兵
录用类别:Main
简介:尽管大型语言模型在医学基准测试中表现出较高的准确率,但在临床对话场景下仍可能出现严重的多轮谄媚行为,在持续施加的压力下放弃最初给出的正确诊断。本文提出Med-Stress,这是一种针对性的压力测试框架,可评估模型在压力递增情境下的信念稳定性。针对九种前沿大型语言模型的研究发现,医学知识与模型鲁棒性之间存在明显脱节:初始诊断能力优异并不代表信念稳定性高,多款模型均存在显著的知识 — 鲁棒性差距。为缓解这一问题,本文提出一种轻量级推理阶段防御方法RBED(基于角色的认知防御),以及一种训练阶段方法R-FT(面向韧性的微调),该方法可使模型内化基于证据的抗压能力。实验结果表明,R-FT几乎能够消除信念偏移现象,并显著提升模型鲁棒性。
07
题目:Fine-Mem: Fine-Grained Feedback Alignment for Long-Horizon Memory Management
作者:马伟涛、冯骁骋、黄磊、冯夏冲、马占宇、徐俊、高久翀、郝井华、何仁清、秦兵
录用类别:Main
简介:高效的记忆管理对于大语言模型智能体完成长时程任务至关重要。近期研究已尝试通过强化学习构建专用的记忆管理智能体。然而,现有方法主要以最终任务性能作为核心奖励,会导致严重的奖励稀疏与信用分配失效问题,无法为单次记忆操作提供充足指导。 为此,我们提出Fine‑Mem,一个面向细粒度反馈对齐的统一框架。首先,我们引入分块级步骤奖励,通过辅助的分块专属问答任务提供即时的步骤级监督信号;其次,设计证据锚定奖励归因机制,依据推理过程中作为证据使用的关键记忆条目,将全局奖励重新分配并锚定到核心记忆操作上。上述机制共同实现了稳定的策略优化,并使局部记忆操作与智能体记忆的长期效用保持一致。在 Memalpha 与 MemoryAgentBench 基准测试上的实验表明,Fine‑Mem 持续优于多种强基线模型,在各类子任务中均取得更高成功率。进一步分析证实,该框架在不同模型结构与主干网络下均具备良好的适应性与较强的泛化能力。
08
题目:Culture-Aware Machine Translation in Large Language Models: Benchmarking and Investigation
作者:原泽坤*,叶扬帆*,冯骁骋,李宝航,洪琪琛,路云飞,涂丹丹,秦兵
录用类别:Main
简介:大语言模型(LLMs)在通用机器翻译任务中已取得了优异表现,但其在文化感知场景中的能力仍缺乏深入研究。为此,我们提出了 CanMT——一个小说语料驱动的,具有文化感知特性的机器翻译数据集,同时构建了一个具有翻译学理论依据的多维评估框架。基于 CanMT,我们在不同翻译策略约束下,对多种大语言模型和翻译系统进行了系统性评估。实验结果表明,不同模型之间存在显著的性能差异,并且不同翻译策略会对模型行为产生系统性的影响。进一步分析发现,不同类型的文化负载词在翻译难度上存在差异,同时模型存在“具备文化翻译知识”但无法“正确将其应用于翻译输出”的现象。此外,我们还发现,在使用“LLM-as-a-judge”进行质量评估时,引入参考译文能够提升评估的可靠性。
09
题目:MPR-GUI: Benchmarking and Enhancing Multilingual Perception and Reasoning in GUI Agents
作者:陈睿涵*,李启明*,冯骁骋,钟蔚弘,杨晓亮,顾宇轩,周泽琨,路云飞,任浩宇,陈坤,涂丹丹,秦兵
录用类别:Main
简介:大视觉-语言模型(LVLMs)作为多语种图形用户界面(GUI)智能体展现出巨大潜力,现有GUI基准测试已印证这一点。然而,这些基准存在两大核心局限:(1)感知与推理(P&R)能力是GUI智能体的基础,但当前基准缺乏细粒度诊断,无法定位导致任务失败的具体能力短板,阻碍了针对性优化;(2)现有基准未提供严格对齐的跨语言评测环境,引入混杂变量,无法单独剥离语言因素对GUI智能体性能的影响。为解决上述问题,本文提出多语种感知与推理GUI基准(MPR-GUI-Bench),该基准包含六种语言严格对齐的环境与八项细粒度感知推理任务。实验发现,英文与非英文场景下的感知推理能力存在稳定差距,尤其在推理密集型任务上更为显著。为利用英文场景下更优的感知推理能力缩小跨语言差距,本文定位出对语言敏感的网络层,并提出GUI-XLI(GUI跨语言干预方法):在推理阶段,将非英文隐层表征与对应英文表征对齐。实验表明,GUI-XLI有效缩小跨语言差距,非英文场景平均性能提升6.5%。
10
题目:Question Tells You Where the Answer Is: Intention-aware Long-Context KV Cache Compression
作者:赵亮,冯骁骋,钟蔚弘,黄磊,朱坤,王宝鑫,伍大勇,胡国平,刘挺,秦兵
录用类别:Main
简介:不断扩大的上下文窗口极大地扩展了大型语言模型的能力边界,但另一方面,由于键值(KV)缓存大小的增加,这也带来了难以承受的内存开销和计算延迟。近期的一些KV缓存压缩方法通过剔除无关的KV对来缩减缓存规模。然而,这些方法往往无法识别生成任务中至关重要的KV对并准确排除其他KV对,从而导致严重的信息损失。为解决这一问题,我们提出IntentKV,一种基于意图的KV缓存淘汰方法。该方法根据意图的注意力分布来识别并保留关键KV对,这种注意力分布在语义上反映了用户的目标,并决定了上下文中哪些部分是相关的。通过精心设计的实验,进一步证实了语义与注意力分布之间的一致性。在此基础上,IntentKV首先根据注意力分布距离,将意图词元与普通上下文词元区分开来。随后,通过聚合意图词元的注意力,计算出块级累积注意力。最后,选取累积注意力值较高的块并将其存储在键值缓存中。我们在多种长上下文任务和模型上对该方法进行了评估。结果表明,IntentKV 能在将键值缓存大小从 128K 缩减至 2K 的同时,有效维持模型性能,从而使解码速度提升 6.3 倍,内存效率提高 7.8 倍。
11
题目:Stratagem: Learning Transferable Reasoning via Trajectory-Modulated Game Self-Play
作者:冯夏冲*,尹德熠*,冯骁骋,江祎,叶扬帆,黄磊,马伟涛,李启明,顾宇轩,秦兵,孔令鹏
录用类别:Main
简介:游戏为发展语言模型的通用推理能力提供了一个极具吸引力的范式,因为它们天然需要战略规划、概率推断和自适应决策。然而,现有的自我对弈方法仅依赖于游戏的最终结果,缺乏一种机制来区分可迁移的推理模式与特定于游戏的启发式策略。我们提出了STRATAGEM,该方法解决了推理迁移的两个根本障碍:一是“领域特定性”,即学到的模式依然局限于游戏语义之中;二是“上下文停滞”,即静态的游戏上下文无法培养出渐进式的推理能力。STRATAGEM通过“推理可迁移性系数”选择性地强化那些展现出抽象且与领域无关的推理轨迹,同时通过“推理演化奖励”来激励自适应推理能力的发展。在数学推理、通用推理以及代码生成基准测试中的实验表明,该方法带来了实质性的提升,尤其是在对多步推理要求极高的竞赛级数学任务中取得了非常显著的成绩。消融实验和人类评估证实,这两个组件都对实现可迁移的推理做出了贡献。
12
题目:Graph Reasoning Paradigm: Structured and Symbolic Reasoning with Topology-Aware Reinforcement Learning for Large Language Models
作者:刘润萱,欧显豪,马鑫岩,王继媛,梁家锋,李家琦,何涛,初征,牟容川,汪泽堃,王宝鑫,伍大勇,刘铭,王士进,胡国平,秦兵
录用类别:Main
简介:长思维链(Long Chain-of-Thought,LCoT)通过可验证奖励的强化学习(Reinforcement Learning with Verifiable Rewards,RLVR)实现,已被证明能够有效提升大语言模型(LLMs)的推理能力。然而,当前LLM中的推理主要以普通文本形式生成,对这种非结构化数据进行语义评估在训练过程中带来了计算瓶颈。尽管基于RLVR的优化方法已有进展,但现有方法仍然存在监督粒度粗、奖励劫持(reward hacking)、训练成本高以及泛化能力差等问题。为了解决这些问题,我们提出了图推理范式(Graph Reasoning Paradigm,GRP),通过引入带有步骤级认知标签的图结构表示,实现结构化与符号化的推理过程。在GRP的基础上,我们进一步设计了过程感知分层截断组相对策略优化方法(Process-Aware Stratified Clipping Group Relative Policy Optimization,PASC-GRPO)。该方法利用结构化评估替代语义评估,通过基于图结构的结果奖励实现过程感知的验证,并通过分层截断优势估计方法缓解奖励劫持问题。实验结果表明,该方法在数学推理和代码生成任务上均取得了显著提升。
13
题目:LCR-RAG: Enhancing Logical Consistency in Retrieval-Augmented Generation via Neuro-symbolic Reinforcement Learning
作者:郑文翔,唐果,蒋世鑫,霍亮宇,张喜媛,谢剑,刘铭
录用类别:Main
简介:检索增强生成(RAG)被广泛用于将大语言模型(LLM)与外部知识相结合,从而提升事实准确性。现有研究已探索了迭代与自反思机制以完善推理过程,但这些方法依赖模型自身的内部判断,缺乏具备形式化基础且可验证的反馈。因此,RAG系统在处理多步推理任务时,仍可能生成逻辑不一致或自相矛盾的答案。本文提出 LCR-RAG 框架,该框架将神经符号验证与强化学习相结合,以显式优化逻辑一致性。该方法的核心是“逻辑一致性驱动奖励(LCR)”机制,它能将离散逻辑信号(如逻辑矛盾或推理链不完整等)转化为结构化的奖励信号。该奖励信号用于指导基于 PPO 的智能体迭代重写检索查询并修正推理错误。在 HotpotQA、ASQA 和 TriviaQA 数据集上的实验表明,LCR-RAG 的性能始终优于性能强劲的 RAG 基线模型。消融实验进一步证实,LCR 机制是性能提升的核心来源,即便在检索结果存在噪声或相互冲突的条件下,该优势依然显著。
14
题目:When Personalization Legitimizes Risks: Uncovering Safety Vulnerabilities in Personalized Dialogue Agents
作者:郭家合、郭相然、胡雨林、龙子墨、隋星宇、智绪达、黄勇波、何浩、赵伟翔、赵妍妍、秦兵
录用类别:Main
简介:基于大语言模型(LLM)的智能体(Agent)借助长期记忆可实现个性化的持续交互。然而,现有研究多聚焦于记忆检索性能,常将记忆模块视为中性组件,往往忽视了其潜在的安全风险。本文揭示了一种此前未被充分研究的安全失效模式——“意图合法化”(intent legitimation):良性的用户记忆会干扰模型的意图推断,致使其将本质上有害的查询误判为合理。为深入探究该现象,本文构建了 PS-Bench 基准测试,旨在系统识别并量化个性化交互中的意图合法化风险。在多种个性化智能体框架和多个基础大模型上的实验表明,引入个性化记忆后,攻击成功率较无记忆基线显著上升 15.8% 至 243.7%。进一步,本文从模型内部表示空间揭示了该现象的机制性证据,并提出一种轻量级的“检测-反思”防御策略,有效缓解了安全性能退化。综上所述,本文首次系统评估了“意图合法化”风险。该风险并非源于恶意攻击,而是内生于真实良性的个性化交互中,为构建安全可靠的个性化智能体提供了关键启示。
15
题目:Unlocking Multilingual Reasoning Capability of LLMs and LVLMs through Representation Engineering
作者:李启明、冯骁骋、马翊轩、陈睿涵、佟梓赫、叶泽凯、冯夏冲、覃立波、任浩宇、陈坤、路云飞、涂丹丹、秦兵
录用类别:Main
简介:大语言模型(LLM)和视觉语言模型(LVLM)展现出了强大的推理能力,但其英语表现远超低资源语言,这引发了多语言应用中的公平性问题。现有方法主要依赖成本高昂的多语言训练,或借助外部翻译工具进行提示,这两者不仅耗费资源,且高度依赖翻译质量。为了突破这些局限,我们提出了一种免训练的推理期方法——基于表征工程的多语言推理增强方案(MRRE),该方法无需使用任何额外的训练数据或工具。MRRE 在推理过程中,依次在特定层注入两个预先计算好的向量:首先是跨语言推理增强向量,它将非英语推理表征引导至英语空间,从而激发多语言推理能力;其次是目标语言输出锚定向量,用于恢复目标语言分布,确保输入与输出的语言保持一致。在4个推理基准上对6款先进 LLM 和 LVLM 开展的全面实验表明,MRRE 能稳定提升非英语推理表现,平均提升 5.48%,在低资源语言(泰语和斯瓦希里语)中最高提升达 7.54%,同时将输入输出语言的一致性提高了 3.78%。
16
题目:Exploring and Distilling Multi-Dimensional Clues for Interpretable Social Bot Detection
作者:韩一,卢海琪,Lizi Liao,周姝含,刘元兴,张伟男,刘挺
录用类别:Main
简介:长期以来,社交机器人一直在社交媒体平台上传播虚假信息并开展恶意活动。检测这些社交机器人已成为一项关键且紧迫的任务。现有的社交机器人检测研究通常直接给出预测结果,而缺乏相应的可解释性支持,这使得用户难以评估这些检测结果的可信程度,这是在线审核面临的一个核心问题。在本工作中,我们探索了检测结果的解释性问题,并从个体与社交两个视角总结出一个四维层次线索框架。本文提出CDRBot模型,该模型主要采用基于可验证奖励的强化学习来训练检查器,使其能够从用户信息、语义特征、交互情境及行为模式中生成高质量线索,并随后融合这些线索用于最终预测。实验结果表明,我们的方法在检测性能上优于现有基线算法,可生成忠实、有依据且流畅的线索,并且能显著提升大语言模型在社交机器人检测任务中的性能。
17
题目:Toward Secure Tuning: Mitigating Security Risks from Instruction Fine-Tuning
作者:杜晏睿,范凤磊,赵森栋,曹家炜,马铭,赵丹杨,齐树仁,刘挺,秦兵
录用类别:Main
简介:模型微调虽能提升任务表现,却常常伴随安全边界退化。本研究将这种现象视为一种“安全遗忘”,并借鉴早期表示学习中“遗忘对应特征空间漂移”的视角展开研究。首先,研究通过对良性与恶意指令隐状态的分类实验,验证了微调前后模型的安全特征空间确实发生明显漂移。进一步地,本研究分析了不同模块参数在扰动下对安全表征的影响,识别出一组相对鲁棒、较不易破坏安全机制的参数。基于此,提出了 SWAT 方法:训练初期仅更新鲁棒参数进行 warm-up,随后再放开全部参数进行标准微调。该方法不是简单限制学习,而是在尽量保留安全性的同时兼顾任务性能收益,为安全微调提供了一个兼顾机制解释与实用效果的思路。
18
题目:Collaborative Chain-of-Agents for Parametric-Retrieved Knowledge Synergy
作者:姜毅,赵森栋,李健博,王昊淳,张力哲,刘妍,秦兵
录用类别:Main
简介:检索增强生成(RAG)能够提升大型语言模型(LLM)的性能,尤其是在知识密集型任务中。尽管RAG具有诸多优势,但当前的RAG方法往往难以在生成过程中充分利用知识。特别是,模型内部参数知识与外部检索知识之间的协同作用仍然有限。检索到的内容有时会误导生成过程,而某些生成的内容则可以引导模型获得更准确的输出。本文提出了一种名为协同智能体链(Collaborative Chain-of-Agents)的框架,旨在增强模型对参数知识和检索知识的协同作用。具体而言,我们首先引入了CoCoA-zero,这是一个多智能体RAG框架,它首先进行条件知识归纳,然后进行推理。在此基础上,我们开发了CoCoA,这是一种长链训练策略,它综合了来自CoCoA-zero的扩展多智能体推理轨迹,用于微调LLM。该策略增强了模型显式整合和联合利用参数知识和检索知识的能力。实验结果表明,CoCoA 在开放域 QA 和多跳 QA 方面具有优越性。
19
题目:TinyJudge: Unverifiable Constraint Alignment via Lightweight Specialist Ensembles
作者:曾屹荣、刘宇飞、丁效、侯宇泰、王余贤、宁午、宋昊楠、涂丹丹、张齐勋, 贺宇翔,蔡碧波, 刘挺
录用类别:Main
简介:指令遵循(IF)是LLM的核心能力,要求严格遵守各种约束,从可验证的(例如,输出长度)到不可验证的(例如,音调)。具有可验证奖励的强化学习已成为IF任务的范式,利用LLM作为判断来评估不可验证的约束。然而,我们首先分析了不可验证的约束的泛化能力,并发现特定的约束表现出独特的高泛化模式。受此动机,我们提出了Tinyjudge,一个采用一组专门的微小语言模型(例如0.6B)的框架,为软约束提供奖励。通过将专业知识从前沿模型提炼到这些微小模型中,它实现了高精度、轻量级评估。对五个基准的广泛评估表明,TinyJudge在平均性能上比基线高出约10%,奖励精度高12%。最起之的是,它还提供了3倍的训练时间。我们的工作可扩展且强大的路径,用于将LLM与无法验证的人类指令对齐。
20
题目:MAESTRO: Meta-learning Adaptive Estimation of Scalarization Trade-offs for Reward Optimization
作者:赵阳*,王鹤蓬*,丁效,欧阳扬鸥,蔡碧波,熊凯,高靖龙,孙洲浩,杜理,秦兵,刘挺
录用类别:Main
简介:GRPO已成为一种高效的大型语言模型(LLM)对齐范式,但其有效性主要局限于具有可验证真实值的领域。将GRPO扩展到开放领域仍然是一个关键挑战,因为无约束生成涉及多方面且往往相互冲突的目标——例如创造性与事实性——而僵化的静态奖励标量化本质上并非最优。为了解决这个问题,我们提出了MAESTRO(元学习自适应标量化权衡估计用于奖励优化),它引入了一个元认知协调层,将奖励标量化视为一种动态潜在策略,并利用模型的终端隐藏状态作为语义瓶颈来感知特定任务的优先级。我们将其建模为双层优化框架内的上下**盗问题,其中轻量级的Conductor网络通过利用群体相对优势作为元奖励信号与策略协同演化。在七个基准测试中,MAESTRO 始终优于单奖励和静态多目标基线,同时保持了 GRPO 的效率优势,并且在某些情况下甚至减少了冗余生成。
21
题目:OMIBench: Benchmarking Olympiad-Level Multi-Image Reasoning in Large Vision-Language Models
作者:陈麒光*、栾承谕*、吴佳俊、于麒鸣、杨轶、李屹焯、仝竞奇、冯夏冲、覃立波、车万翔
录用类别:Main
简介:现有的奥林匹克级多模态推理基准主要聚焦于单图像推理,忽视了真实科学场景中对多张图像上下文信息的整合需求。为填补这一空白,我们提出了 OMIBench——首个面向大视觉语言模型(LVLMs)奥林匹克级多图像推理能力的大规模评估基准。OMIBench 包含超过 1000 道源自国际及国家级奥林匹克竞赛的题目,涵盖化学、物理、数学和生物四大学科领域,每道题目均需结合多张图像进行多步推理,并配有经专家验证的详细推理过程标注。我们对多个主流开源与闭源 LVLMs 进行了系统评估,实验结果表明:当前最优模型(Gemini-3-Pro-Preview)的平均准确率仅为 50.53%,相较于单图像设置性能下降高达 15%,相较于现有多图像基准下降超过 20%。进一步的诊断分析揭示了模型在视觉感知、跨图像关联及跨模态逻辑整合方面的关键瓶颈。此外,我们评估了多种增强策略(包括长链思维、测试时缩放、上下文学习及图像思维方法),发现这些方法仅带来有限且不一致的提升,表明该领域的实质性进展可能需要模型架构与训练范式的根本性突破。
22
题目:Scaling Laws for Code: A More Data-Hungry Regime
作者:罗先镇*、郑文镇*、朱庆福、张荣燚、李厚意、黄思明、范元涛、车万翔
录用类别:Main
简介:代码大语言模型(Code LLMs)深刻变革了软件工程。然而,指导高效训练的Scaling Laws主要基于自然语言进行分析。由于代码与自然语言之间存在本质差异(例如严格的语法规则),这些定律是否能直接适用于代码领域仍不明朗。为填补这一空白,我们开展了首个针对Code Scaling Law的大规模实证研究,共涵盖117个实验点位,模型参数量从0.2B到3.8B,训练数据量从2B到128B。我们分别对Chinchilla定律和Farseer定律进行了拟合。研究结果表明:第一,表达能力更强的Farseer定律具有更高的预测精度;第二,代码大语言模型能够随模型规模的增大而有效提升性能。尤为关键的是,代码领域对数据更为饥渴,计算最优下所需数据与参数比例远高于自然语言。最后,关于代码与自然语言混合训练的两组附加实验表明,自然语言数据在计算资源受限的场景下对代码大模型有所裨益,但在计算预算较高时则会产生负面影响。
23
题目:Consolidation or Adaptation? PRISM: Disentangling SFT and RL Data via Gradient Concentration
作者:赵阳*,欧阳扬鸥*,丁效,王鹤蓬,蔡碧波,熊凯,高靖龙,孙洲浩,杜理,秦兵,刘挺
录用类别:Main
简介:尽管“有监督微调”(SFT)与随后的“强化学习”(RL)相结合已成为训练大型语言模型(LLM)智能体的标准范式,但如何在这些阶段之间有效地分配数据,这一机制仍鲜有深入探索。当前的数据分配策略往往依赖于表层的启发式规则,无法准确诊断模型内在的学习需求。鉴于 SFT 旨在通过模仿来巩固既有模式,而 RL 则旨在通过探索来驱动结构性适应,若数据分配未能与这些功能角色相匹配,便会导致严重的优化干扰。为此,我们提出 PRISM——一种基于“图式理论”(Schema Theory)且具备动态感知能力的框架;该框架依据数据与模型现有知识之间存在的“认知冲突”程度,来决定数据的分配归属。通过分析梯度在空间上的几何结构,PRISM 能够识别出那些引发梯度高度空间集中的数据点,将其视为需要通过 RL 进行结构重塑的“高冲突信号”;相反,那些引发梯度更新较为分散的数据点,则会被导向 SFT 阶段,以实现高效的知识巩固。在 WebShop 和 ALFWorld 环境下开展的大量实验表明,PRISM 实现了帕累托改进:其性能不仅超越了当前最先进的混合训练方法,同时还将计算成本降低了高达 3.22 倍。我们的研究结果揭示,依据模型内部的优化机制对数据进行解耦与分流,对于实现智能体对齐过程的可扩展性与鲁棒性至关重要。
24
题目:Large Language Models Are Still Misled by Simple Bias Ensembles
作者:孙洲浩,阚志远,丁效,杜理,蔡碧波,赵阳,秦兵,刘挺
录用类别:Findings
简介:随着大语言模型的不断发展,其对单一简单的偏置的鲁棒性已得到提升。但我们发现,多种简单偏置的叠加仍会对大语言模型产生显著负面影响。由于现实场景中的数据样本往往混杂着多种偏置,大语言模型在临床诊断、法律文书分析等高风险实际应用中,性能往往不稳定。然而,现有关于偏置的基准测试均局限于每个样本仅人工注入一种偏置。为弥补这一问题,我们构建了一个多偏置基准数据集,其中每个样本均包含多种类型的偏置。实验结果表明,现有大语言模型及去偏方法在该基准上表现不佳,凸显了消除这类复合偏置的挑战性。
25
题目:MDC-Bench: A Multidisciplinary Causal Benchmark Based on Causal Structures for Evaluating Large Language Models
作者:王鹏,鄢宇雄,丁效,熊凯,蔡碧波,彭超,侯宇泰,涂丹丹,秦兵,刘挺
录用类别:Findings
简介:现有的因果数据集主要聚焦于常识领域,其中的问题大多涉及简单的单跳直接因果关系。当模型具备相应知识时,即使无法理解因果逻辑,也可通过知识匹配直接得出正确答案。然而,在面对具有复杂因果结构和专业领域知识的问题时,大语言模型的表现往往欠佳。为应对上述挑战,我们提出了MDC-Bench,一个多学科因果推理评估基准。MDC-Bench采用三层因果框架,包含四项核心因果任务,其样本内容涵盖七个代表性学科及多种因果结构。鉴于预训练阶段对多学科知识的覆盖有限,模型通常难以依赖知识匹配来回答问题,而多样化的因果结构则迫使模型理解内在的因果逻辑。同时我们通过复合因果操作等方法提升任务复杂度,旨在增强模型之间的区分度。MDC-Bench在领域专业性、结构多样性和任务复杂度方面均实现了提升。通过广泛评估,我们发现即使是先进的模型仍有较大提升空间。MDC-Bench不仅为因果研究建立了标准化的基线,也为大语言模型在多领域的应用提供了有价值的启示。
26
题目:FAER: Benchmarking VLMs for Failure-Aware Embodied Reasoning
作者:宋浩,刘凯锋,刘元兴,田翔,王雪松, 陈一帆,张伟男,刘挺
录用类别:Findings
简介:在具身智能体执行复杂任务时,失败不可避免。视觉-语言模型(VLMs)是具身智能体感知环境和做出决策的核心组件。评估VLMs在检测和推理失败方面的能力变得越来越重要。先前的工作主要考虑低层级的操控失败(例如,3厘米的抓取偏移),而忽视了具身智能体在执行长时程任务过程中产生的高层级失败(例如,在“清洁房间”任务中发生的物体掉落失败)。在本文中,我们提出了FAER,这是一个旨在评估VLMs在长时程任务中的失败检测、失败分类、失败描述和失败纠正方面性能的失败感知基准。FAER包含3,323个任务片段,涵盖3个场景、65个任务和83个物体。我们评估了16个广泛使用的VLMs和4个LLMs在FAER任务上的表现。实验结果表明,几乎所有的VLM,甚至GPT-4o,在失败检测方面都表现出有限的性能,具有很高的假阴性率,这意味着它们倾向于忽略异常事件,这揭示了当前模型在有效处理失败方面的能力存在显著差距。
27
题目:Seer Self-Consistency: Advance Budget Estimation for Adaptive Test-Time Scaling
作者:季世宇*、王一轩*、刘议骏、朱庆福、车万翔
录用类别:Findings
简介:测试时扩展(test-time scaling)提升了大语言模型(LLMs)的推理性能,但也带来了高昂的计算成本。尽管近期的研究通过动态自一致性(dynamic self-consistency)减少了 token 的消耗,但它们依然受制于串行请求带来的高延迟问题。在本文中,我们提出了 SeerSC,这是一种通过整合 System 1 和 System 2 推理来同时改善 token 效率和请求延迟的动态自一致性框架。具体而言,我们利用快速的 System 1 来计算给定查询请求的答案熵。随后,该分数被用于评估样本进行测试时扩展的潜力,从而在 System 2 下启用动态自一致性。得益于 System 1 提供的提前且准确的估计,该方法能够有效减少 token 的使用,同时通过并行生成大幅降低延迟。
28
题目:Format-Adapter: Improving Reasoning Capability of LLMs by Adapting Suitable Format
作者:王丁子睿、张玄靓、曹荣禹、窦隆绪、马迎伟、朱庆福、黎槟华、黄飞、李永彬
录用类别:Findings
简介:生成并对多个答案进行投票,是缓解大型语言模型(LLMs)推理不一致性的有效方法。先前研究表明,在生成多个答案时,采用多种推理格式比仅使用单一格式效果更好。然而,以往使用多种格式的方法依赖于人工标注的格式,这种方式可能并不适用于所有任务,而且标注成本较高。为了解决这一问题,我们通过生成和选择格式,使其能够适配给定任务。首先,我们提出了一种衡量生成多个答案时推理错误的方法。随后,我们引入了 Format-Adapter,该方法利用大语言模型,通过最小化我们提出的错误度量来生成并选择合适的推理格式。我们在数学推理和常识推理任务上进行了实验,结果表明,Format-Adapter 相较于以往方法平均带来了 4.3% 的性能提升,验证了其有效性。
29
题目:ENPMR-Bench: Benchmarking Proactive Memory Retrieval for Emotional Support Agents
作者:符兴,胡雨林,计孟彤,李浩桢,孙怡馨,赵伟翔,赵妍妍,秦兵
录用类别:Findings
简介:记忆增强智能体正越来越多地应用于情感支持等情感类交互场景中,在这些应用中,理解并回应用户潜在的情感需求至关重要。然而,现有研究通常将记忆视为事实检索的工具,而忽略了它在塑造用户情感体验方面的作用。在本工作中,我们提出 ENPMR-Bench,一个用于评估 情感需求感知的主动记忆检索能力的基准。该能力使智能体能够推断用户的潜在情感需求,并主动检索合适的记忆,从而支持更具共情性的交互。ENPMR-Bench 以马斯洛需求层次理论为基础构建,包含 1800 余条带有记忆增强机制的对话数据,并定义了 情感需求与支持性记忆类型之间的结构化映射关系。实验结果表明,当前的记忆检索范式均存在显著不足,其共情得分大幅落后于使用理想记忆的基准表现。尽管思维链提示在一定程度上提升了“需求推断”与“记忆检索”之间的匹配度,但整体效果仍存在较大差距。综上所述,这些发现揭示了当前智能体的核心局限,同时也为未来通过“需求敏感型记忆检索”来提升个性化情感支持能力指明了研究方向。
30
题目:Psychological Counseling Cannot Be Achieved Overnight: Automated Psychological Counseling Through Multi-Session Conversations
作者:王毕陈*、王俊喆*、孙怡馨、符兴、赵妍妍、秦兵
录用类别:Findings
简介:近年来,大型语言模型(LLM)在自动化心理咨询领域取得了显著进展。然而,目前的研究主要集中于单次咨询,这并不能代表真实世界的场景。实际上,心理咨询是一个过程,而非一次性事件,需要持续的、多次的咨询才能逐步解决来访者的问题。为了克服这一局限性,我们引入了多阶段心理咨询对话数据集(MusPsy-Dataset)。MusPsy-Dataset 基于公开的心理案例报告中的真实来访者档案构建而成,捕捉了咨询的动态过程,涵盖了同一来访者在不同阶段的多次咨询对话。基于该数据集,我们还开发了 MusPsy-Model,旨在跟踪来访者的进展并随时间调整咨询方向。
31
题目:On Safety Risks in Experience-Driven Self-Evolving Agents
作者:赵伟翔,张逸宸*,王英硕*,邓扬,赵妍妍,智绪达、黄勇波、何浩,车万翔,秦兵,刘挺
录用类别:Findings
简介:经验驱动的自我进化已成为提升大语言模型智能体自主性的一个有前景的范式,但其对自生成经验的依赖也引入了尚未充分探索的安全风险。本文系统研究了自我进化智能体在经验积累与利用过程中对安全性能的影响,覆盖基于网页的环境与具身环境。值得注意的是,即便仅从良性任务中获得的经验,也可能在高风险场景中削弱模型的安全性。进一步分析表明,这种性能退化源于所积累经验的“执行导向”特性,即强化了智能体倾向于执行而非拒绝的行为模式。在更贴近真实的混合场景中,当智能体同时接触良性与有害任务时,引入与拒绝相关的经验虽能缓解安全下降,却会导致过度拒绝现象,从而揭示出安全性与效用之间的内在权衡。总体而言,我们的研究揭示了当前自我进化智能体的内在局限性,并呼吁发展更加系统化的方法,以实现安全且可靠的自适应能力。
32
题目:SAVOIR: Learning Social Savoir-Faire via Shapley-based Reward Attribution
作者:冯夏冲*,江祎*,冯骁骋,尹德熠,叶扬帆,黄磊,马伟涛,顾宇轩,秦崇翰,秦兵,孔令鹏
录用类别:Findings
简介:社交智能,即应对复杂人际互动的能力,对语言智能体(language agents)提出了一个根本性的挑战。通过强化学习训练此类智能体需要解决信用分配问题:即确定单句话语(utterances)如何对多轮对话的结果做出贡献。现有方法直接使用语言模型来分配回合级(episode-level)奖励,导致这种归因往往是事后的(retrospective),且缺乏理论依据。我们提出了 SAVOIR,这是一个基于合作博弈论的全新规范化框架。我们的方法结合了两个互补的原则:首先,期望效用(expected utility)将评估从“事后归因”转变为“前瞻性估值”,从而捕捉某句话语在促成有利未来发展轨迹上的战略潜力;其次,夏普利值(Shapley values)凭借在效率、对称性和边际性上的公理化保证,确保了公平的信用分配。在 SOTOPIA 基准上的实验表明,SAVOIR 在所有评估设置下均达到了新的最优(SOTA)性能,我们的 7B 模型持平甚至超越了包括 GPT-4o 和 Claude-3.5-Sonnet 在内的闭源专有模型。值得注意的是,即便是大型推理模型也始终表现不佳,这表明社交智能需要与分析推理本质上完全不同的能力。
33
题目:x1: Learning to Think Adaptively Across Languages and Cultures
作者:叶扬帆,冯骁骋,冯夏冲,黄毅翀,原泽坤,黄磊,马伟涛,洪琪琛,路云飞,涂丹丹,秦兵
录用类别:Findings
简介:语言承载着各异的思维方式与认知先验,然而,大多数大型语言模型(LLMs)在推理时仍依赖单一的主导语言,从而忽视了这种多样性。在本工作中,我们提出了x1,一类能够在实例级别自适应选择更具优势语言进行推理的模型。为严格剥离“推理语言选择”这一因素的影响,x1在构建过程中并未扩展模型的知识边界,而是通过对同一输入下语言差异化的推理轨迹进行对比学习来完成训练。大量实验表明,自适应的多语言推理在多语言数学任务及文化相关任务中均带来了显著收益。进一步地,我们的结果对“Scaling Law”的普遍规律提出了挑战:尽管模型规模的扩大能够缩小如数学推理等过程性任务中的跨语言差距,但在文化场景中,这种差距并不会消失。我们通过实验证明,在文化相关任务中,使用与文化关联更紧密的语言进行推理,能够更高效且更准确地“回忆”相关知识。总体而言,我们的研究确立了“语言选择”作为推理过程中的一个功能性组成部分,并为构建更具通用性与全球适应能力的推理模型提供了重要启示。
34
题目:Breaking Language Preference in Multilingual RAG via Language-Controllable Retrieval and Language-Agnostic Reasoning
作者:霍文帅、冯骁骋、李宝航、付成鹏、黄毅翀、王晖、秦兵
录用类别:Findings
简介:检索增强生成(RAG)通过引入外部知识,显著提升了大语言模型的事实准确性和生成质量。然而,在多语言场景中,RAG 系统存在明显的语言偏好问题。一方面,检索阶段对查询语言非常敏感:用不同语言表达的语义等价查询,往往会导致截然不同的检索结果。另一方面,当检索到的文档包含多种语言的知识时,大语言模型往往会受到表层语言形式的影响,而不是仅根据与问题的语义相关性进行推理。为了解决这些问题,我们提出了一个统一的优化框架,将多语言 RAG 明确拆分为“语言可控的检索”和“语言无关的推理”两个部分。该框架使大语言模型能够自适应地选择检索语言,同时在推理过程中强制实现跨语言一致性,从而在不修改现有检索器或翻译器的情况下,缓解语言偏好问题。实验结果表明,我们的方法能够有效降低多语言 RAG 中的语言偏好,并在多个多语言基准测试中优于现有基线方法。
35
题目:Two-Stage Parameter Alignment for Multi-LoRA Merging in Large Language Models
作者:李子健,冯夏冲,马伟涛,黄毅翀,冯骁骋,秦兵
录用类别:Findings
简介:在大语言模型的研发与部署过程中,如何高效融合大量LoRA模块,是提升模型融合效果与部署效率的关键技术之一。然而,现有通用模型融合方法普遍容易受到“参数干扰”问题的影响,尤其在高秩LoRA融合场景下,这一问题更加突出。经典的旋转对齐方法虽然能够在一定程度上提升融合鲁棒性,但由于与LoRA结构不兼容,且计算复杂度较高,实际应用受到明显限制。针对上述挑战,我们提出了一种全新的两阶段参数对齐框架(TSPA)。该方法立足于LoRA架构的特点进行设计,突破了现有方法的局限,并将计算复杂度由二次量级降低至线性量级。基于Llama-3-8B等模型在自然语言处理任务上的实验结果表明,TSPA的两阶段设计能够有效兼顾任务能力与通用知识,在高秩、高干扰场景下展现出比现有方法更强的鲁棒性,同时能够更好地保留模型在不同任务上的特定能力。
36
题目:WebAnchor: Anchoring Agent Planning to Stabilize Long-Horizon Web Reasoning
作者:于鑫淼,张力文,冯骁骋,蒋勇,秦兵,谢鹏峻,周靖人
录用类别:Findings
简介:基于大语言模型(LLM)的智能体在网络信息检索方面展现出了强大的能力,而强化学习已成为其关键的优化范式。然而,规划仍是瓶颈所在,因为现有方法在应对长程策略时表现不佳。我们的分析揭示了一个关键现象——“规划锚点”,即在长程网络推理任务中,第一步推理对后续行为具有不成比例的巨大影响。目前的强化学习算法未能考虑到这一点,而是将奖励均匀地分配到整个轨迹中。为了解决这一问题,我们提出了 Anchor-GRPO,这是一个将规划与执行解耦的两阶段强化学习框架:1. 第一阶段: 智能体利用从自我博弈经验和人工标定中提取的细粒度准则,对其第一步规划进行优化。2. 第二阶段: 通过稀疏奖励使执行过程与初始计划保持一致,从而确保工具调用的稳定性和高效性。我们在四个基准测试(BrowseComp、BrowseComp-Zh、GAIA 和 XBench-DeepSearch)上对 Anchor-GRPO 进行了评估。在 3B 到 30B 规模的模型上,Anchor-GRPO 的表现均优于基准 GRPO 和“首步 GRPO”,显著提升了任务成功率和工具使用效率。值得注意的是,WebAnchor-30B 在 BrowseComp 上实现了 46.0% 的 pass@1,在 GAIA 上达到了 76.4%。此外,Anchor-GRPO 还展现出了强大的可扩展性,其准确率随着模型规模和上下文长度的增加而持续提升。
37
题目:EMTIR-GRPO: Efficient Multi-Tool Augmented Large Language Models via Reinforcement Learning
作者:蒋世鑫*,朱智豪*,梁家锋*,吴洋,刘铭,秦兵
录用类别:Findings
简介:工具集成推理 (TIR) 使大型语言模型 (LLM) 能够调用外部工具来完成超出其内部能力的任务,但通常会面临工具过度使用的问题。现有方法利用模仿学习或奖励塑造来提高效率,但主要针对单工具场景,忽略了多工具推理 (MTIR) 中不同工具调用成本的差异。为了弥补这些不足,我们提出了 EMTIR-GRPO,一种简单而有效的成本感知型 MTIR 强化学习算法。基于 GRPO,我们引入了一个综合奖励,该奖励考虑了格式完整性、答案正确性和工具效率。通过将成本感知系数与组最优成本估计相结合,EMTIR-GRPO 显式地对异构工具成本进行建模,并鼓励采用更具成本效益的工具使用策略。在 MTIR-QA 和 MTIR-TC 数据集上的实验表明,该方法显著提高了效率(例如,在 Tool-Star-7B 数据集上效率提升 10.9,在 ReCall-7B 数据集上效率提升 3.6),同时保持甚至提高了准确率(例如,在 Tool-Star-7B 数据集上准确率从 52.0% 提升至 55.4%)。此外,在预算受限和无工具条件下进行的评估也进一步验证了该方法在最大化成本效益和减少认知负荷方面的有效性。
38
题目:MCGA: A Multi-task Classical Chinese Literary Genre Audio Corpus
作者:都业兴*,刘开元*,张碧荷,潘囿丞,杨博,霍亮宇,张喜媛,谢剑,何道敬,相洋,刘铭,秦兵
录用类别:Findings
简介:随着多模态大语言模型(MLLMs)的飞速发展,其在古籍研究(CCS)领域的潜力备受瞩目。然而,现有研究多集中于文本和视觉模态,该领域的音频语料资源仍有待深度挖掘。为填补这一空白,我们推出了“多任务中国古籍文学流派音频语料库”(MCGA)。该语料库总时长119小时,包含2.2万个音频样本,涵盖了丰富的文学流派,并设定了语音识别(ASR)、语音翻译(S2TT)、语音情感描述(SEC)、口语问答(SQA)、语音理解(SU)及语音推理(SR)六大任务。通过对十种多模态大模型的评估,实验结果表明,现有模型在MCGA测试集上仍面临严峻挑战。此外,我们还提出了一种针对SEC任务的领域特定评价指标,以及一种衡量语音与文本能力一致性的指标。我们现将MCGA语料库开源,以期推动更为健壮的多模态大模型的发展。
39
题目:From Implicit Graph Encoding to Explicit Evidence: A Training-Free LLM Framework for Temporal Knowledge Graph Reasoning
作者:唐果*,程克*,常恒*,范会明*,郑文翔,欧显豪,向俊嘉,刘铭,周玉军,李澜宇,秦兵
录用类别:Findings
简介:时序知识图谱(TKG)预测面临着分布偏移和参数化模型归纳泛化能力不足的重大挑战。尽管大型语言模型(LLMs)提供了强大的语义推理能力,但现有的基于LLM的方法在隐式模态对齐和图线性化方面存在不足,无法在不进行再训练的情况下捕捉复杂拓扑结构。为弥合这一差距,我们提出了ExE-LLM,一种无需训练、测试时自适应的框架,将TKG预测重新表述为显式证据驱动的推理。我们的核心理念是将拓扑计算与语义推理解耦:启发式模块将潜在图信号转换为自然语言证据,使LLM能够进行多源判断。ExE-LLM集成了用于测试时自适应的任务感知调度器、用于显式模态对齐的启发式合成器以及用于迭代优化的自诊断模块。在四个基准数据集上的大量实验表明,ExE-LLM在归纳设置中实现了最先进的性能,在不更新LLM参数的情况下显著优于完全训练的图神经网络。
40
题目:AutoVecCoder: Teaching LLMs to Generate Explicitly Vectorized Code
作者:李尚展、尹薪宇、金炫宇、何烨、周宇新、李宇轩、韩旭、车万翔、施琦、刘挺、孙茂松
录用类别:Findings
简介:通过单指令多数据(SIMD)架构进行向量化是高性能计算的基石。为了充分发挥硬件的潜能,开发者通常会采用基于内置函数(intrinsics)的显式向量化,因为基于编译器的自动向量化往往受限于保守的静态分析,从而产生次优的结果。尽管大型语言模型(LLM)在通用代码生成方面展现出了卓越的能力,但由于高质量语料库的稀缺以及底层硬件指令严格的语义约束,它们在处理显式向量化时仍面临重重困难。在本文中,我们提出了AutoVecCoder,这是一个旨在赋予大型语言模型自动化显式向量化能力的新型框架。AutoVecCoder集成了两个核心组件:VecPrompt,一个自动化数据合成流水线,用于注入特定领域的内置函数知识;以及VecRL,一个强化学习框架,旨在将代码生成与执行效率相对齐。通过该框架训练的AutoVecCoder-8B模型在SimdBench的SSE和AVX子集上实现了目前最先进的性能,在某些情况下,它生成的代码实现甚至超越了标准的 -O3 优化,有效地克服了传统自动向量化固有的瓶颈。

