hiw3c 日报精选

数据与训练

训练侧的门道:数据集构建、合成数据、预训练与后训练方法、算力与训练成本。

已收录 295 条 · 近 30 天 207 条 · 第 12 / 13 页

星期一 · 5 条
  1. The Decoder国际媒体20:15快照

    Qwen-Drive 1.0告诉您为什么它刹车,只是不要指望解释与操纵相匹配

    阿里巴巴的研究部门发布了Qwen-Drive 1.0,这是一个人工智能模型,可以在一个系统中处理环境感知,交通问答和路线规划。研究人员表明,文本图像模型不能自动理解三维空间。空间意识必须有目的地训练。我们的目标是一个单一的模型,既运行驾驶舱和驾驶系统。Qwen-Drive 1.0文章告诉您为什么它会刹车,只是不要指望解释会与The Decoder上首先出现的

  2. The Decoder国际媒体20:15快照

    Qwen-Drive 1.0告诉你为什么它会刹车,只是不要指望解释会与刹车相匹配

    阿里巴巴的研究部门发布了Qwen-Drive 1.0,这是一个人工智能模型,可以在一个系统中处理环境感知,交通问答和路线规划。研究人员表明,文本图像模型不能自动理解三维空间。空间意识必须有目的地训练。我们的目标是一个单一的模型,既运行驾驶舱和驾驶系统。Qwen-Drive 1.0文章告诉您为什么它会刹车,只是不要指望解释会与The Decoder上首先出现的

  3. BestBlogs·AI 高分精选BestBlogs 精选20:00中文原文

    Stripe 如何打造企业大脑 Kai

    📌 One-Sentence Summary 这场深度访谈解释了 Stripe 如何围绕个性化上下文、项目边界、可复用技能、可靠数据基础设施和敏感操作人工审批,打造受治理的企业智能体 Kai。 📝 Summary Stripe 工程经理 Sherrod 解释,Kai 的目标是在复杂企业中普及 AI,同时不把治理留到事后补救。系统结合员工与组织上下文、敏感数据

  4. 雷峰网·AI 科技评论中文媒体14:04中文快照

    AI人才3次大迁徙:百度先行、六小虎分化、腾讯「腾笼换鸟」

    “大模型浪潮狂飙三年半,国内AI人才也经历了三波大迁移。”资深科技猎头赵捷告诉雷峰网。 前两年,大家抢的是预训练人才,先是百度文心团队被疯抢,然后是AI六小虎人才遭遇瓜分,紧接着又是阿里、DeepSeek、字节、腾讯之间的人才大混战。 而现在,大家又开始抢推理、Agent等后训练人才;最近一年不少预训练人才,如Qwen Code负责人惠彬原、混元大语言模型预

星期日 · 1 条
  1. The Decoder国际媒体18:36快照

    Google的WeatherNext 3抛弃了物理模拟,直接从实时卫星数据中学习天气

    Google Research和DeepMind正在发布WeatherNext 3,这是一个天气模型,跳过传统的物理模拟,直接从实时卫星数据中学习。它以高达五公里的分辨率生成每小时的预报,比其前身详细五倍。谷歌表示,非洲、拉丁美洲和亚太地区缺乏准确预测的地区应该会获得最大的收益。谷歌的WeatherNext 3放弃物理模拟并直接从实时卫星数据学习天气的文章首

星期六 · 6 条
  1. MarkTechPost国际媒体14:48快照

    Adaption Labs推出“发明数据集”:从任务描述而不是种子库生成的训练数据

    Adaption Labs发布了Invent a Dataset,它根据您想要模型学习的行为描述生成结构化的、可供训练的数据集。没有种子库,没有模式设计,也没有标签指南。单个数据集。发明调用集域、行计数、输出格式和语言扩展,然后行下载为JSONAL、SON、CSV或Parquet。然后,数据集ID直接传递到AutoScientist,关闭意图训练模型循环。文

星期五 · 6 条
  1. MIT Tech Review AI国际媒体17:25快照

    乌克兰无人机的数据正在推动新的狂野西部市场

    乌克兰的战场上散落着无人机的残骸,这些无人机现在已被牢固确立为现代战争的关键武器。但在所有这些残骸的背后,国防部门蕴藏着一座新的金矿。无人机产生的数据将远远超过它们用于战斗的战争,并越来越多地成为……

  2. arXiv cs.AI/CL/LG信号源(脚本内置抓取)01:57快照

    预培训期间的知识获取?大型语言模型通过辅助视图学习得更好

    作者:Joseph Lee,Yidi Huang,Dokyoon Kim|我们对大型语言模型(LLM)如何在预训练期间获取知识的理解仍然存在差距。我们认为,辅助的观点,知识的重新表述,是因果有助于学习。我们设计了对照实验来隔离这种情况。首先,我们确认,重复是必要的收购,并澄清,释义有助于只有在较小的批量。第二,拿着

星期四 · 7 条
  1. arXiv cs.AI/CL/LG信号源(脚本内置抓取)01:56原文

    图表机:通过边缘实现更好的预训练

    作者:侯林泰|我们引入了图形机(GM),这是一种维护$O(n)$大小的状态并通过稀疏动态路由访问它的架构。与具有固定大小状态或稀疏但静态路由的方法不同,GM在其稀疏层中保留了$O(n)$复杂性,而不会将潜在可访问的状态大小限制为$O(1)$。相反,GM使用边缘-类似指针的对象,通过以下方式进行有区别地更新

  2. arXiv cs.AI/CL/LG信号源(脚本内置抓取)01:42原文

    用户反馈提供LLM无法检测的独特信号

    作者:Shachar Don-Yehiya、Leshem Choshen、Omri Abend|利用用户交互中自然发生的反馈为大型语言模型(LLM)提供了一个有希望的学习信号。然而,最近的研究表明,这种反馈本质上是嘈杂的,难以有效利用。我们通过证明用户反馈是一个高度可操作的改进信号来挑战这一概念,而其感知的无效性源于

  3. arXiv cs.AI/CL/LG信号源(脚本内置抓取)01:32原文

    UE5 M3 FP 4块缩放用于稳定语言模型预训练

    作者:Robert Hu、Carlo Luschi、Paul Balanca|稳定的4位浮点(FP 4)预训练很困难,因为E2 M1有效负载仅代表很窄的幅度范围。英伟达的Transformer Engine \RST {}食谱通过当前张量缩放、随机Hadamard变换(RHT)和bfloat 16(BF 16)最终层解决了这个问题,并在FP 4矩阵相乘之外添