hiw3c 日报精选

数据与训练

训练侧的门道:数据集构建、合成数据、预训练与后训练方法、算力与训练成本。

已收录 295 条 · 近 30 天 207 条 · 第 9 / 13 页

星期三 · 12 条
  1. MIT Tech Review AI国际媒体20:47快照

    为人工智能奠定材料基础

    人工智能热潮正在成为一项材料挑战。随着人工智能将计算推向新领域,基础设施背后的材料变得与其上运行的算法一样重要。半导体和数据中心正在接近性能、热管理、电气效率和可靠性方面的物理极限,对能够实现的材料产生了新的需求.

  2. 雷峰网·AI 科技评论中文媒体16:05中文快照

    清华稳准智能联合发布LimiX-2,结构化数据基础模型登顶国际评测榜单

    9月16日,稳准智能联合清华大学计算机系崔鹏教授,发布新一代数据大模型 LimiX-2,模型参数规模提升至400M。在 TabArena 、BCCO、TALENT三个国际主流结构化数据Benchmark中,LimiX-2总体Elo分数分别达到1935、1432和1506,均位于榜单第一,超过Google、SAP、Amazon等国际大厂的同类模型。 在 Tab

  3. arXiv cs.AI/CL/LG信号源(脚本内置抓取)01:30快照

    LimiX-2:面向通用结构化数据智能的上下文机制网络

    作者:张兴轩、任刚、昊源|我们引入LimiX-2,这是LimiX系列中的一种新模型,通过在我们之前建立的缩放定律指导下的模型和数据缩放来开发。LimiX-2采用上下文机制网络(CMN)范式,并使用上下文条件掩蔽建模(CCMM)进行预训练。CMN将上下文学习的组织原则从以目标为中心的预测转变为以机制为导向的联合模式

星期二 · 13 条
  1. 雷峰网·AI 科技评论中文媒体17:38中文快照

    英伟达开源 IMO 金牌配方:不仅是「人海战术」,1.5TB 显存做实 AI「 推恩令」?

    用三套 checkpoint 完成多轮证明搜索,用过程透明平息学术怒火,用 1.5TB 显存门槛锁定算力霸权。名为代码平权,实则算力集权。 作者丨 郑佳美 编辑丨岑 峰 9 月 9 日,NVIDIA 公布了 Nemotron 3 Ultra 在 2026 年 IMO 上使用的整套数学推理系统。 这套系统最终拿到 30/42 分,超过当届 29 分的金牌线。整

  2. BestBlogs·AI 高分精选BestBlogs 精选08:00中文快照

    轻松实现大规模 GNN 运行:推出分布式 GraphFlow

    📌 One-Sentence Summary Google Cloud 推出分布式 GraphFlow,这是一个用于可扩展 GNN 训练和推理的 Python 库,与 Spanner Graph 集成,用于实现电信中的自主网络运营和预测性维护。 📝 Summary 本文介绍了 Google Cloud 的自主网络运营框架,该框架将基于 Spanner Gra

  3. MarkTechPost国际媒体05:08快照

    奖励人工智能发布OM-1:仅针对人类演示训练的机器人政策,没有远程操作或机器人上数据

    Reward AI发布了OM-1(Omnibody Model 1),这是一种通用操纵策略,完全针对使用7 DoF可穿戴手套拍摄的人类演示进行训练,没有远程操作或机器人上的数据。该政策以人类速度在工业武器和类人机器上运行,从不到30分钟的数据中学习新任务,并将电磁手跟踪(在67厘米/s的速度下比视觉惯性低60%)与RL训练的控制层配对,该控制层按自己的时钟运

  4. MarkTechPost国际媒体04:46快照

    Sakana AI研究人员推出PC-ILM,这是一种用于训练1000层网络的反向传播的层本地替代方案

    Sakana人工智能研究人员Jeffrey Seely和Julian Gould介绍了增强拉格朗日预测编码(PC-ILM),这是反向传播的本地学习替代方案。通过将拉格朗日乘数附加到每个层约束,PC-ILM保持预测编码的层本地更新,同时恢复线性网络中的精确反推梯度。它以T = 2L的推理预算在8到128的宽度和深度上匹配BP,将参考单元中的梯度cos从0.60

  5. arXiv cs.AI/CL/LG信号源(脚本内置抓取)01:56快照

    探索基金会模型:迈向开放式探索情报

    作者:杨凌、尹振飞、吴英成|基础模型已经从对现有知识的学习和推理发展到越来越多地通过行动、工具使用和结果反馈进行学习。我们认为,下一个前沿是进一步的转变:从解决人类指定的问题并采取行动到参与创造新问题、表示、解释和知识的过程。我们指的是

  6. arXiv cs.AI/CL/LG信号源(脚本内置抓取)01:55快照

    Mind2 Dialogue:通过模拟用户心理状态训练人类感知语言模型

    作者:王子轩、周羽凡、唐金州|随着语言模型变得越来越强大,学习、推理和决策方面的长期合作需要更深入地了解它们所服务的人。然而,训练此类人类意识语言模型面临着根本性的监督差距,因为当前LLM助理培训的数据集几乎没有明确基于用户不言而喻的信念和目标的充分信息响应

  7. arXiv cs.AI/CL/LG信号源(脚本内置抓取)01:48快照

    具有紧凑自适应和变长高斯通信的隐私对齐个性化联邦学习

    作者:Yilin Xu、Chun Hei Michael Shiu、Chih Wei Ling|当特定于客户端的变化是低维的,而训练重复发布高维更新时,记录级差异隐私暴露了个性化联邦学习中的结构失调。在本文中,我们通过释放一次私人客户端上下文并将重复适应限制在固定系数空间来解决这种不一致。除了降维之外,