每个模型的最佳束具是什么?
HN ⭐ 147 · 65 评论
HN ⭐ 147 · 65 评论
HN ⭐ 154 · 195 评论
HN ⭐ 160 · 147 评论
作者: 韩峰、雅加哈拉·阿亚科、平田健治 | 背景: 生成式大语言模型(LLM)提供了一种基于编码器的临床命名实体识别(NER)的替代方案,但其在细粒度日语提取任务上的性能及对生成设置的敏感性仍存在不确定性。方法: 我们在iCorpus上对比了两种经过微调的BERT-CRF基线与九种开放权重LLM的表现,该数据集包含113个实体类别。评估使用
作者: Ivan Jaen Marquez, Sotirios Panagiotis Chytas, Vikas Singh | 最优运输(OT)为寻找概率分布之间最小成本耦合提供了原则性框架。经典求解器仍是该任务的黄金标准。同时,OT是研究基于学习的摊还模型能否内部化OT类问题结构的理想测试平台。此处有真实数据解,且边际约束 a
作者: 刘锋、杰·加拉、西瓦·雷迪 | 扩展能力是大型语言模型成功的关键,而稀疏专家混合(MoE)架构能够在无需成比例增加计算量的情况下实现更大的参数容量。在大规模场景下,MoE模型依赖专家并行性来在设备间分配专家。在推理过程中,每个MoE层需要两个同步集体通信步骤:调度隐藏s
作者: Zhen-Yu Zhang, Jerry Huang, Gang Niu | 偏好对齐已成为使大语言模型与人类价值观及期望行为保持一致的核心工具,其在线版本可进一步提升其能力,超越仅依赖静态数据所能提供的水平,其方式在于反复生成并标注带有人类反馈的新回应。但高成本、耗时的注释限制了其可扩展性,因此样本效率至关重要,且ex
作者: Sooyeon Song, Jea-Hyun Park | 本研究提出一个Cucker-Smale模型,该模型包含动态网络以及离散$p$-拉普拉斯($p \in (1,2)$),并从理论与实验两个角度分析群聚时间约束与图连通性之间的关系。我们证明该模型可在有限时间内实现群聚,并推导出群聚下界的定量关系。
作者: Zexuan Fei, Zhengnan Guo, Yiming Luo | 大语言模型在个性化教育方面具有巨大潜力,但面向青少年的部署存在产生有害、偏见、误导或发育不适内容的风险。我们认为,教育安全应超越简单的拒绝:学生提问通常具有模糊性或出于好奇心,因此需要情境化指导,而非单纯的阻断。我们引入E
作者: 钟欣瑞、叶帆江、王宇克 | 块级扩散语言模型(DLM)可并行优化多个令牌,从而提供一种替代于逐令牌自回归解码的方案。然而,其长上下文推理仍受内存限制注意力机制的约束:每个去噪步骤都会反复读取不断增长的历史键值缓存。直接应用稀疏注意力并不能完全解决该问题,因为不同
作者: An-Sheng Jhang | 自然语言蕴含与连贯性判断通常取决于事件是否仅仅发生、是否达到目的性终结、是否符合计划要求,或是否在多种语用标准下得到评估。我们在针对Qwen3-8B-Q8_0(16,640个形式化单元,温度=0.0)的四项预先注册、密封形式化实验中,检验了单链过早锁定假设的可观测后果:15项中的1项
作者: Ege Kaya | 手机和笔记本电脑上的聊天模型通常是已评估模型的4位副本,而此类副本的审计结果对量化对拒绝行为产生的影响存在分歧。4位构建是相同规模的多种权重扰动之一,因此其行为变化可能源于其特定的舍入误差或任何较大的扰动。在一项针对三种3-4B聊天模型的预先注册研究中,w
HN ⭐ 8 · 0 评论
HN ⭐ 20 · 8 评论
HN ⭐ 29 · 7 评论
HN ⭐ 54 · 21 评论
HN ⭐ 344 · 208 评论
HN ⭐ 17 · 6 评论
作者: Huawei Lin, Jinting Liu, Tongyan Wang | 视觉智能体通过放大相关区域来回答关于超高分辨率照片的问题。然而,现有智能体通常基于常识作答,而非解读证据。对最终答案的强化学习(RL)无法纠正这一现象,因为猜测获得的奖励与解读证据的奖励相同。我们提出跨输入相对策略优化(CrossRPO),该方法在c上训练智能体。
作者: Ilia Azizi, Frederick Iat-Hin Tam, Marc-Olivier Boldi | 国家飓风中心通常发布热带气旋讨论稿,这些讨论稿有助于了解其热带气旋预报情况。本研究探讨这些讨论稿在超出一套数值预测因子之外的强度预报中的附加价值。针对2002-2023年飓风季的637个大西洋和东北太平洋热带气旋,我们分析讨论稿及其组合
作者: Rohit Gandikota, Arnab Sen Sharma, Adam Belfki | 当视觉语言模型描述一张图像时,它会逐一命名一个物体,且很少重复,然而该模型如何规划这种顺序却并不明显。我们描述了VLM在观看之前决定关注位置的机制。该机制包含四个主要部分。首先,绑定头将相关文本标记与图像进行匹配,并将其转化为对匹配图像的指针。
作者: Brian Yarbrough, Jesse Wayment, Jingbo Wang | 我们介绍Hyperlyve(超平面划分李雅普诺夫验证与枚举),这是一种用于证明非线性动力系统渐近稳定的框架,包括那些带有神经网络控制器的系统。Hyperlyve在反例引导的归纳合成(CEGIS)循环中学习并形式证明连续分段仿射(CPA)神经李雅普诺夫函数。Hy
作者: Blas Eugenio Vicco Zarate, Miguel Hernán Vicco | 持续强化学习需要在变化的环境条件下进行适应,同时在先前遇到的动态条件下保持性能。本研究探讨了由进化搜索生成的专家模型,在结合环境检测与故障驱动搜索时能否提供可复用记忆。进化神经可塑性代理(ENA)在不梯度条件下演化小型神经网络。
作者: Awni Altabaa, John Lafferty, Omar Montasser | 我们研究如何从类别$\mathcal{F}$中学习一个自回归下一个标记生成器$f\colonΣ^\star\toΣ$,给定由$f$生成的长度为$T$的思维链(CoT)演示。我们提出一种基于装袋方法的简单算法,该算法输出经过训练以在训练数据的自助引导样本上符合C
作者: Junhan Sun, Yigui Feng, Mingzhe Liu | 在联合嵌入预测架构(JEPAs)中,一个约束良好的投影器输出本身并不能防止表示崩溃。我们发现,从初始化阶段开始,编码器表示即由不同输入共同共享的组件所主导。批量归一化投影器可消除该组件,因此投影器之后的正则化无法纠正它,且表示之间的差异
作者: Aaron Wang, Olivia Gzamouranis, Vaibhav Lohia | 低温电路设计需要紧凑型晶体管模型,能够复现实测的低温行为并在标准电路仿真器中运行。利用NGSpice的神经替代模型,我们对77 K下SkyWater 130纳米(SKY130)晶体管的实测I-V曲线拟合了BSIM4参数。该替代模型将紧凑模型参数与器件几何结
作者: 曹毅松、莉亚·金、布莱恩·赖特 | 仅考虑职位名称与职位描述,难以充分反映技术岗位在不断变化的就业市场中的差异。为评估此类岗位在工作内容与行业应用方面的差异,我们设计并比较了两种基于深度学习与Transformer表示的方法,运用来自美国LinkedIn的36,081份早期职业生涯职位招聘信息,于2025年12月至2026年10月期间收集。
HN ⭐ 4 · 0 评论