hiw3c 日报精选

星期五 · 73 条
  1. arXiv cs.AI/CL/LG信号源(脚本内置抓取)01:59快照

    阐明LM数据归因的设计框架

    作者:Steven Yu、Sheng-Yu Wang、Kimia Hamidieh | 语言模型的数据归因方法通常是通过诸如事实检索之类的下游任务来评估的。然而,现有的评估方法会同时考虑多个数据集的属性,因此无法准确判断某个归因算法为何会失败。为了诊断这些失败情况,我们探索了语言模型数据归因的设计方案,重点关注评估方面的问题。我们进行了相关研究。

  2. arXiv cs.AI/CL/LG信号源(脚本内置抓取)01:59快照

    提议-过滤-释放:通过私有过滤技术将噪声规模调整至常规敏感度水平

    作者:Moshe Shenfeld, Eliad Tsfadia, Katrina Ligett | 一种估计方法在一般数据情况下可能既准确又稳定,但会对某些特定记录产生敏感影响。差分隐私机制通常会将噪声的影响放大到单条记录可能造成的最坏情况,这样一来,即使其他数据的噪声影响要小得多,这些特殊记录仍然能够影响整体结果。先去除这些特殊记录后,系统就能恢复到更稳

  3. arXiv cs.AI/CL/LG信号源(脚本内置抓取)01:59快照

    在不考虑权重扰动的情况下重新思考神经网络的结构

    作者:Nicolas Dufour、Elouan Gardès、Amil Dravid | 神经束假设认为,预训练的语言模型存在于权重空间中那些与特定任务相关的专家所构成的密集区域中,而随机的高斯扰动可以揭示这些隐藏的模式。我们证实了所报道的改进效果,但表明这些改进并不需要这种几何上的解释。仅仅对单个解码器模块进行扰动就能获得相当大的改进效果,而同时保持整个

  4. arXiv cs.AI/CL/LG信号源(脚本内置抓取)01:59快照

    读取、分配、路由:适用于像素空间生成式变换器的角色耦合式令牌化技术

    作者:Jiongfan Yang, Weichen Fan, Haiwen Diao | 在像素空间生成式Transformer中,通常每个图像块对应一个标记。因此,要捕捉更精细的细节就需要更多的标记,这会让全局注意力计算的成本越来越高。我们发现,精细的细节并不一定需要更多的全局信息交换:低频结构可以通过全局共享来优化,而高频细节则可以在局部进行建模。基于这

  5. arXiv cs.AI/CL/LG信号源(脚本内置抓取)01:59快照

    基于学习得到的密度模型的KL-DRO自适应情景生成方法

    作者:Aron Brenner, Saurabh Amin | 分布式鲁棒优化方法能够针对基于有限数据估计的分布误差,对这两阶段随机规划问题进行校正。标准的不确定性处理方式有所不同,它们对待那些缺失于有限数据中的实际分布处理方式也有所不同。围绕经验分布的发散区域仅包含与有限数据相对应的权重调整结果,而运输球则包含了其他分布信息。

  6. arXiv cs.AI/CL/LG信号源(脚本内置抓取)01:58快照

    行李重新识别:一项针对实际应用策略的研究

    作者:Quentin Dhôte, Romaric Audigier 行李重新识别技术是在视频监控中一项至关重要的技术,广泛应用于法医、安全或边境管理领域,例如识别可疑或被遗弃的行李,以及处理丢失的行李。这项技术能够将在复杂环境如机场、火车站和边境口岸中拍摄到的同一件行李的图像进行关联。虽然exi…

  7. arXiv cs.AI/CL/LG信号源(脚本内置抓取)01:58快照

    从极端天气到人工智能带来的农业影响

    作者:Minghan Yu, Mengyu Dai, Yixin Wen | 极端天气往往可以在几天前就预测到,但其对农业的影响却难以预测:天气预报只能说明风暴会在哪些地方登陆,而具体哪些作物会受到影响、面临多大的风险则难以预测:此外,用于预测的数据来源也多种多样。我们提出了WxCrop这一工具,它是首个能够基于可解释的天气指数来判断农业灾害的工具,并通过因

  8. arXiv cs.AI/CL/LG信号源(脚本内置抓取)01:58快照

    world2vec:通过潜在动态学习实现机制性世界模型

    作者:Tobias Schmidt、Rodrigo Gonzalez Laiz、Krisztián Szuppinger | 世界模型能够在不精确捕捉环境动态的情况下实现强大的控制性能,但这限制了其用于机制性解释和科学发现的能力。在这里,我们介绍了World2vec技术,该技术能够在不依赖直接的观测数据和动作信息的情况下,学习出能够忠实再现真实世界动态的潜在

  9. arXiv cs.AI/CL/LG信号源(脚本内置抓取)01:58快照

    在视觉基础模型中探索空间状态表示方式

    作者:Baiqiao Yin、Zhongang Cai、Ruisui Wang | 观察者只能看到周围世界的一部分,但必须持续关注当前视野之外的景象。因此,空间感知不仅仅涉及识别单个图像,还需要一种能够随着物体的移动而不断更新并用于指导行为的空间状态。视觉基础模型是否能够提供支持这种状态的表征呢?我们通过研究这个问题来探讨这一问题。

  10. arXiv cs.AI/CL/LG信号源(脚本内置抓取)01:56快照

    ShallowDefend:利用浅层安全对齐技术来实现多转防御机制

    作者:Qiyao Ma, Xiaodong Liu, Weiwei Yang | 安全对齐机制使得大型语言模型能够可靠地拒绝有害请求,然而,当这些请求分散在多轮对话中时,仍然有很高的概率被接受。这种脆弱性背后的原因在于:对齐机制过于肤浅,安全行为仅集中在模型的前几个输出令牌上,而现有的防御措施也继承了这一弱点,只是对表面形式进行了监控而已。