你能使用自回归扩散来生成市场数据吗?
HN Ÿ 50 · 21 评论
训练侧的门道:数据集构建、合成数据、预训练与后训练方法、算力与训练成本。
已收录 295 条 · 近 30 天 207 条 · 第 3 / 13 页
HN Ÿ 50 · 21 评论
约翰·霍普金斯大学的天体物理学家布莱斯·梅纳德(Brice Ménard)首次使用Anthropic的克劳德科学(Claude Science)在紫外光下绘制了整个天空的地图。人工智能代理从多个太空任务中下载数据,对其进行校准,并使用修补来填补空白。预测与实际测量值的平均偏差约为百分之十。梅纳德将该项目视为研究的一个例子,如果没有人工智能,该项目就无法完成。
答不答得对,得看Token站位
HN ð64· 5 评论
Anthropic为Claude推出了两项新的测试版功能。仪表板将BigQuery和Snowflake等数据源从文本提示变成实时仪表板。Motion从文本和图像生成动画解释器视频。收件箱、幻灯片和设计现在适用于所有计划,包括免费帐户。Claude的文章现在可以根据首先出现在The Decoder上的文本提示生成动画解释器视频和实时数据仪表板。
📌 One-Sentence Summary NVIDIA KGMON 团队通过开发一个简化的代理框架,实现了数据访问的标准化、工具使用的约束以及执行过程的详细追踪,从而在 KDD Cup 2026 中获得第二名。 📝 Summary 本文详细介绍了 KGMON 团队的参赛策略,重点是创建一个持久的 Python 运行环境,并采用统一的 SQL 接口来处理所
作者:Octi Zhang、Mateo Guaman Castro、Patrick Yin|通用机器人必须执行从敏捷移动到灵巧操纵的广泛任务。虽然简单到真实的强化学习(RL)已被证明是实现这一目标的有用工具,但当前的强化学习管道依赖于繁重的工程、每项任务的结构性先验,例如形状奖励和演示。最近的工作表明,多样化的模拟器重置,并结合大规模的参数
作者:Anna Zimmel,Fleur Hendriks,Markus Holzleitner|从结构弯曲到流体和气候动力学,分歧在物理系统中无处不在,但深度学习中基本上尚未对其进行探索。在分裂分歧处,单个输入接受多个同等有效的解,违反了大多数已知物理替代物的一对一假设。我们介绍了Bi-FORK,一个用于学习这些一个一个的生成框架。
作者:李汉阳,唐绍,Daniel Thomas Braithwaite|量化AdamW的优化器状态会减少持久存储,但量化错误会在瞬间循环传播并干扰后续的自适应更新。我们从\{舍入空间}的角度重新设计AdamW的4位优化器状态量化:量化器在相邻重建级别之间进行选择的坐标。对于第二个时刻,局部分析
加:将克劳德的日常工作交给俳句5.5
英伟达研究人员引入了CLAROPD,这是一种按政策提炼方法,可训练多回合LLM代理人避免早期关键错误并从中恢复,并在3个代理人基准上针对13个基线发布最佳平均值。这篇文章首先出现在MarkTechPost上。
具身智能从实验室走向真实工厂、迈向精密制造。 作者丨 邓哲敏 编辑丨 齐铖湧 你有没有想过,机器人也可以走进车间,亲手造出组装一台机器人所需要的零件? 这听起来像个玩笑,实际却是具身智能最硬核的落地命题。机器人的关节、卡盘、精密结构件,无一不是靠 CNC(计算机数控)车床、铣床一道道加工出来的。如果机器人能自主照看这些机床,完成工件的抓取、上料、插入、取出与
一家清华背景公司,成立 7 个月,三轮融资总额 4 亿美元,投后估值 14.2 亿美元。 创下如此记录之时,官网上却只有一句英文标语,竟然一张团队合影、一份产品介绍都没有。 这个创业团队没有接受过任何采访,低调到令人发指。这家公司叫 Naive AI,工商注册名是北京智衍慧生科技有限公司。搜索引擎搜公司名,只能搜到其创始人是清华大学电子工程系副教授代季峰。左
过去一年,“物理AI”几乎成了自动驾驶、车企共同争夺的下一张船票。 世界模型、具身大模型、机器人数据……众多公司从不同切入口布局物理AI,试图成为新风口之下的主角,相比之下,如祺出行选择了一条不那么显眼的路径,不自己训练大模型,而是尝试成为模型背后的数据基础设施。 实际上,如祺出行在2023年就开始思考,除了提供包括Robotaxi等出行服务,一家出行平台还
作者:Saif Punjwani、Micah Goldblum|现代语言模型在已经训练的检查点之上进行具有可验证奖励(WLVR)的强化学习。WLVR的一个关键承诺是发现新的推理策略。原则上,模型可以对其之前训练数据中缺失的新颖想法进行采样。然而,在实践中,通过强大的新颖性激励来增强WLVR的成功有限,并且可能会降低模型质量。B
作者:蔡红如、然伟、王文杰|DeepSeek Engram等条件存储器架构使用输入n-gram来查找学习到的嵌入,以有限的额外计算扩展大型语言模型(LLM)的容量。除了模型扩展之外,该架构还展示了将事实知识存储与通用计算脱钩的潜力,为更新事实知识提供了一种有希望的途径
由马克·扎克伯格和普里西拉·陈支持的研究组织Biohub正在协调一项价值18亿美元的计划,以训练预测细胞行为的人工智能模型。Meta、Google DeepMind、Isomorphic Labs和美国能源部正在为数据、实验室设备和计算提供资金。第一个数据集应该在大约一年内准备就绪。扎克伯格的Biohub领导了一项18亿美元的努力,以建立预测细胞行为的人工智
作者:Aleksandar Armacki,Haoyuan Cai,Ali H. Sayed|重尾噪声在现代机器学习中被广泛观察到,这激发了梯度裁剪和归一化等方法的使用。虽然这些方法在集中式环境中得到了很好的理解,但在分散式环境中人们所知的要少得多,在分散式环境中对局部梯度应用非线性会影响优化和共识。最近关于去中心非凸优化的工作已经
作者:陈哲伟、朱浩、江娇|GNN到MLP的蒸馏旨在保留消息传递教师的预测准确性,同时在推理时部署无图形的MLP。现有的方法主要传输节点预测或使用基于置信度的重新加权,但它们没有指定学生应该在哪里保存教师的图形诱导几何。我们表明,这种遗漏会导致stu中的两种光谱失效模式
作者:Luka Radić、Vikrant Singhal、Amartya Sanyal|机器取消学习要求删除算法,其输出接近于从头开始重新训练,而无需选择的忘记示例。在这项工作中,我们研究了仅遗忘取消学习,其中删除算法仅接收训练后的模型和要忘记的示例,没有保留数据或额外的训练信息。我们问只遗忘的遗忘是否总是可能的。我们首先展示
作者:Artem Zolus、Nicolas Belran-Velez、袁建浩|潜在世界模型已经显示出预测未来状态和在现实世界中进行规划的非凡能力。然而,在实践中,我们缺乏一种原则性的方法来估计他们的能力如何随着模型大小、数据和计算而扩展,这是一个悬而未决的问题,会减缓该领域的进展。在这项工作中,我们介绍了RoboJEPA,这是一个基于联合嵌入预测架构(JE
用强化学习训练人工智能代理可能具有挑战性,因为它们的工具、上下文和决策都是由复杂的框架管理的。Agent Lightning将现有代理与RL培训连接起来,使其更容易改进,而无需重建它们。Agent Lightning v1.0:用于训练带真实装备的代理的3,500行轻量级抽象RL框架首次出现在Microsoft Research上。