贾隆·拉尼尔谈人工智能与社交媒体的相似之处
HN ⭐ 3 · 0 条评论
HN ⭐ 3 · 0 条评论
HN ⭐ 294 · 183 条评论
HN ⭐ 178 · 128 条评论
HN ⭐ 259 · 138 条评论
HN ⭐ 4 · 0 条评论
HN ⭐ 362 · 56 条评论
HN ⭐ 320 · 139 条评论
HN ⭐ 92 · 46 条评论
作者: Jisoo Kim, Chaehyun Kim, Junsu Kim | 从视频中学习通用动作表示需要建模动态特性——这些动态特性在同一动作的不同执行中保持一致,同时对本体形态和外观的变化具有不变性。现有的潜动作模型从视觉转换中推断动作,但其表示常常将底层动作与无关的视觉变化纠缠在一起,限制了跨本体形态的迁移
作者:Hao Fei | 十年来,人工智能的进展一直以机器能自主完成多少任务来衡量。大型基础模型如今能编写代码、执行多步骤任务,个人智能体则代表人采取行动。然而人们依然会忘记曾经掌握的知识,忽略自己没有留意的事物,找不到合适的措辞,在面临艰难抉择时也得不到自身过往经历的帮助,因为
作者:Austin Tsai, Saurav Nanda, Ganapathy Parthasarathy | Direct Nash Optimization (DNO) 通过近似双人偏好博弈的纳什均衡,使语言模型对齐到通用偏好函数。其实用变体DNO-Prct迭代执行在策略采样、基于LLM对样本及教师金标准响应进行评分、大间隔偏好对选择以及DPO式对比更新
作者: Yuhan Liu, Xinqi Liu, Zixuan Dong | 逆运动学(IK)将末端执行器位姿指令转换为关节运动,许多视觉-语言-动作(VLA)策略依赖它来对指定机械臂执行动作,并实现跨具身形态迁移。精确的逆运动学依然十分费时费力:冗余与奇异性使逆映射变得复杂,执行依赖于手动调参的控制器,在实体机器人上采集训练数据的成本也很高。我们提出
作者:Shivin Dass, Kevin Nguyen, Rohan Yelandur | 机器人领域的模仿学习策略基于通过高成本的真实世界遥操作收集的数据集进行训练。通常,数据收集过程缺乏引导,依赖遥操作员的直觉,由此产生的数据对整体策略性能的提升作用有限。近期研究表明,对这类无引导数据集进行筛选整理可显著提升策略性能,但这些方法
作者: Luxi He, Pengcheng Jiang, Jifan Zhang | 不期望的模型行为可能在训练的任何阶段出现或重新出现。一旦观察到这些行为,我们能多有效地抑制它们?为研究这一问题,我们首先构建了两种模式生物——刻意训练以表现出特定对齐偏差的语言模型——二者在触发该行为的因素上有所不同。窄触发模式生物仅在提示包含特定线索时才出现不当行为:它
作者: Teerawat Tongloy, Jiraporn Pongsopa, Rangsan Jomtarak | 当语言模型给出回答时,我们通常只能推测其原因。我们构建了一个Transformer,其中每一步都是玻恩测量——注意力$|\langle q|k\rangle|^4$按每一行归一化,用测量得到的乘积替代前馈非线性函数,以及玻恩读出。在其分母保
作者: Sílvia Casacuberta, Parikshit Gopalan, Varun Kanade | 给定一类机器学习模型以及对带有二元标签的数据分布的采样访问权限,哪个计算任务更困难:训练一个判别模型以区分正、负标签,且性能达到该类中最优模型的水平,还是训练一个生成模型,使其输出对该类的所有成员而言都与真实数据无法区分?我们证明这两个基
作者:Hongyin Luo, Wei Fang, Lijie Yang | 推测性解码一直被纯粹视作一种系统优化手段,用于加速大语言模型解码而不改变模型行为。在这种视角下,训练更优草稿模型方面日益增加的投入仅聚焦于接受率。我们认为,这一观点并不适用于长跨度智能体推理。在复杂智能体任务上对前沿开源权重模型进行评测
作者: Andrew Gao, William Gao | 上下文学习(ICL)使预训练语言模型能够在无需更新参数的情况下,执行由其提示中的示例所指定的任务。在标签任意的情况下,模型必须习得一种它不可能已记忆的映射,因此该学习在单次前向传播中完成。先前的研究找到了候选部分,但并未阐明这些部分如何组合。我们给出了小样本句子分类的组合方
HN ⭐ 213 · 248 条评论
HN ⭐ 1393 · 461 条评论