让Token生产更高效:异构混推的关键技术演进与创新实践
商汤大装置异构混推创新实践与技术演进
模型推理能力的进展:思维链、推理模型、数学与逻辑基准的突破与争议。
已收录 422 条 · 近 30 天 296 条 · 第 9 / 18 页
商汤大装置异构混推创新实践与技术演进
📌 One-Sentence Summary Anthropic 的 Claude Opus 5.5 模型发布,提供改进的写作能力和与 Opus 5 相比的 40% 成本降低,适用于 AI 编程、计算机使用和知识工作。 📝 Summary 本文讨论了 Anthropic 的 Claude Opus 5.5 模型的发布,该模型提供改进的写作能力和与 Opus
对复杂现实进行推演与决策
Kyutai发布了Voice of Reason,这是两个基于GLM-4-Voice-9 B的开重语音到语音模型。监督微调和强化学习将语音GSM 8 K准确率从27.3%提高到77.1%。循环中没有转录步骤,也没有文本LLM。两个检查站都位于Hugging Face上,并使用一台H100运行。Kyutai发布《理性之声:用强化学习解决口语数学的语音原生模型》
📝 今日导语 从 Opus 5.5 的长任务成本,到 MiMo 强化学习与美团统一推荐,判断模型如何进入真实流程。 🏷 今日关键词: Claude Opus 5.5 MiMo V2.6 任务级评估 Agent Harness 企业上下文 📰 今日精选内容 Anthropic 发布 Claude Opus 5.5,长任务成本降四成 Hacker News ·
OpenAI发布了GPT-6 Sol和GPT-6 Luna,这两种低成本模型采用与GPT-6 Astra类似的方法训练。Sol的价格为2美元/10美元,Luna的价格为0.10美元/0.50美元。两者现已在API、ChatGPT Work和Codex中提供。它们为长期运行的代理提供了改进的提示缓存。OpenAI发布GPT-6 Sol和Luna:更便宜50%的
代码、视觉、安全共用一套 RL,奖励机制也被重新设计。 作者丨 郑佳美 编辑丨岑 峰 刚刚,小米正式发布并开源 MiMo-V2.6。Pro 拥有 1.02T 总参数、42B 激活参数,Flash 为 309B 总参数、15B 激活参数,两款模型支持 1M token 上下文,并覆盖文本、图像、视频和音频输入。 如果只看这些数字,第一反应或许会觉得这又是一次模
📌 One-Sentence Summary vLLM v0.30.0 已发布,亮点包括混合注意力热路径、DeepSeek-V4.1-Flash 和 Qwen3.8-Flash-Next。 📝 Summary vLLM v0.30.0 已发布,亮点包括混合注意力热路径、DeepSeek-V4.1-Flash 和 Qwen3.8-Flash-Next。这次发布
只靠语言和 token,AI 永远跨不过物理世界这道门槛! 作者丨 幸丽娟 编辑丨岑 峰 AI 行业的主叙事,曾被 Scaling Law 垄断:更大的模型、更多的 token,更强的文本推理,仿佛只要把语言模型继续堆大,通用人工智能就会自动到来。 但这条路线撞上了天花板:预训练的边际收益肉眼可见地递减;模型一旦部署到真实世界,漏洞百出。 2026 年,“世
前沿AI模型竞赛已经进入比较购物阶段。
OpenAI通过GPT-6 Sol和Luna增加了两种更便宜的型号,以象征性价格的一半提供前辈的性能,并瞄准了Anthropic更昂贵的产品。不过,独立分析发现实际情报几乎没有增加,而且OpenAI可能没有预见到Anthropic会同时推出Opus 5.5。OpenAI的GPT-6 Sol和Luna降价一半,但性能几乎没有改变文章首先出现在The Decod
高通表示,其新顶级芯片可以本地运行30 B混合专家模式。
📌 One-Sentence Summary OpenAI 推出 GPT-6 Sol 和 GPT-6 Luna,这些模型基于 GPT-6 Astra 的进展,提供更快、更便宜的模型来支持大规模工作 📝 Summary GPT-6 Sol 和 GPT-6 Luna 是基于 GPT-6 Astra 的进展而开发的更快、更便宜的模型。它们提供了 50% 的 API
GPT-6 Sol和GPT-6 Luna现已在Amazon Bedrock上普遍提供,为您提供更多选项,使智能和效率与每种工作负载相匹配。
OpenAI正在推出两款新型号,据称这两款型号与Astra是从同一款面料上剪裁而成的。
作者:Quan Nguyen-Tri、Mukul Ranjan、Shijiqiang|扩散大型语言模型(dLLM)最近通过支持非自回归文本生成而成为自回归LLM的一种有前途的替代方案。然而,它们的实际部署仍然受到效率低下的推理的限制,这主要是由于缺乏有效的Key-Value(KV)缓存和可扩展的并行解码机制。现有的加速方法通常研究KV缓存
作者:Trang Nguyen、Eulrang Cho、Bingqing Chen|代理通常处理需要数百万上下文令牌的复杂问题,由于上下文窗口有限,因此需要在会话之间进行压缩。我们开发了CliffCompaction,这是一种自动压缩技术,可在有限环境下将成本降低高达50%,同时保持或改进码头台的性能,并实现测试时扩展和状态的新效率
Claude Opus 5.5是Anthropic最强大的Opus模型,用于代理编码、知识工作和长期运行任务,现已在Amazon Bedrock和AWS上的Claude Platform上提供。这篇文章涵盖了Opus 5.5中的新内容、实用指南以及如何开始在Amazon Bedrock上使用该模型进行构建。
Anthropic称其为“迄今为止我们测试过的性能最强的模型。"