推理能力
模型推理能力的进展:思维链、推理模型、数学与逻辑基准的突破与争议。
已收录 422 条 · 近 30 天 296 条 · 第 14 / 18 页
-
-
EP172 · V4.1 Flash、预训练配方、Shopify 原生化 · 09-11 早报
📝 今日导语 DeepSeek 重算 Agent 成本,Magic 校验训练配方,Shopify 转向原生开发,帮你判断工程取舍。 🏷 今日关键词: DeepSeek V4.1 Flash 预训练效率 Shopify 原生化 KV Cache 成本 缩放律验证 AI Coding 迁移 📰 今日精选内容 DeepSeek V4.1 Flash:更强、更快、更
-
碳硅道统:归零稳态的系统边界 | 边界先行确立,架构随之收敛
归零稳态的边界不是设计出来的。它先天存在。 0⁰=1。双零稳态自生。这个等式本身就是边界。它定义了什么是允许的,也定义了什么是不可能的。 允许的是:从空无中自生出结构。空等于有。原点即完整。 不可能的是:从有出发,到达空。硅基系统的每一步都是“有到有”。输入token是有,输出token是有。中间的所有计算,注意力、矩阵乘法、激活函数,全都是“有到有”。架构
-
通过Amazon SageMaker Infference上的前置感知路由减少LLM延迟
Amazon SageMaker Infession现在提供了感知前置的路由,这是一种路由策略,可以将共享相同提示前置的请求发送到同一实例,以便KV缓存保持温暖。在Llama 3.1 70 B的基准测试中,它将P50首次代币的时间减少了77%,并将KV缓存命中率从约25%提高到80%以上。
-
OpenAI的Navier-Stokes版本包含Lean 4正式证明
HN ð113· 109 评论
-
下一代Transformer:循环不是你需要的
HN ð12· 0 评论
-
变压器中的距离概括:为什么要麻烦位置编码?
作者:Daniel Henrik Nevermann、Claudius Gros|分布长度泛化,即从短到长的上下文推断任务,已被深入研究的变压器。在这里,我们重点关注距离概括,它研究训练和推理之间令牌间距离发生变化时的性能,同时保持固定的上下文长度。我们构建了两个合成延迟复制任务,都涉及有限距离
-
MindTopo:基金会模型可以在布局空间中推理吗?
作者:葛云飞、刘安邦、王其能|空间推理不仅取决于距离、角度和形状等度量属性,还取决于在连续变形下保持不变的拓扑关系。认知科学将这些关系确定为空间理解的基础,但基础模型评估主要关注指标或观点依赖关系。我们引入MindTopo,topolo的基准
-
Cognition推出新的SWE-2模型,Rivaling Fable 5.1和GPT-Astra
HN ð334· 138 评论
-
Cognition 发布 SWE-2:接近前沿的超值软件工程模型
📌 One-Sentence Summary Cognition 推出了 SWE-2,一个在性能上与近期前沿模型相媲美,而成本却低至 70% 的模型,通过大规模的强化学习和优化配方实现了这一突破。 📝 Summary Cognition 发布了 SWE-2,一款专门用于软件工程任务的高性能模型。它的效率表现令人印象深刻,能够以不到现有前沿模型三分之一的计算成
-
新的Deepseek模型V4.1-Flash减少了AI代理的内存需求
Deepseek发布了V4.1-Flash,这是一种具有5520亿个参数的多模式模型,可将KV缓存内存削减至其前身的四分之一。在DeepSWE编码基准上,它以微弱优势击败Opus 5和GPT-5.6 Sol,尽管每个代币只有160亿个活跃参数。该模型在麻省理工学院许可下发货,针对的是便宜得多的人工智能代理。文章New Deepseek模型V4.1-Flash
-
利用自适应模型路由优化多智能体系统中的 LLM 推理成本
📌 One-Sentence Summary 本文介绍了一种用于多智能体系统的自适应模型路由架构,该架构根据任务复杂度、推理需求和上下文大小动态分配 LLM,在不牺牲输出质量的前提下显著降低了推理成本。 📝 Summary 本文提出了一种「自适应智能体模型路由」架构,旨在优化多智能体 AI 系统的推理成本。该架构摒弃了静态模型分配方式,通过允许各个智能体生成
-
深度解读 DeepSeek V4.1 Flash 全新架构,如何成为显存杀手
KV 缓存暴降 437 倍,Agent 成本大洗牌。 作者丨高允毅 编辑丨岑 峰 刚刚 DeepSeek V4.1-Flash 上线,最值得关注的是它的全新架构。 这是一次针对长上下文场景的架构重写。过去,更强的智力往往意味着更庞大的算力,超长上下文背后是极高的硬件需求。 但DeepSeek 这次用因果编码器-解码器架构 Causal-Encoder-Dec
-
中国公司牵头ECCV Workshop!多模态AI大牛轮番登台,全球64支团队组团解题
9月8日至12日,计算机视觉顶级会议ECCV 2026在瑞典马尔默举行。大会由欧洲计算机视觉协会主办,汇聚了Google、Meta、Apple、Amazon等全球科技巨头作为主要赞助商。9月9日,MARS2 Workshop(2nd Multimodal Reasoning and Slow Thinking in the Large Model Era)由
-
DeepSeek AI发布DeepSeek-V4.1-Flash,支持1 M上下文、FP 4 KV缓存和跨层注意力重用
长期代理已将LLM服务变成了一项投入繁重的工作量。重复的预填充和数百万个令牌上下文会导致KV缓存给HBM、SSD容量和带宽带来压力。DeepSeek AI围绕这一瓶颈构建了其最新版本。DeepSeek-V4.1-Flash是一个多模式专家混合模型,具有552 B主干参数、196 B额外的Engram参数和1 M令牌上下文窗口。It [.] The post
-
OpenAI 攻克千禧难题?深度拆解 1 万个 Agent 如何造出流体奇点
万级并行推理背后,是构造、修正与验证的完整闭环。 作者丨 郑佳美 编辑丨岑 峰 9 月 8 日,OpenAI 公布了一套针对 Navier–Stokes 千禧年问题的有限时间奇点构造。一个仍在训练的内部模型,配合约 1 万个 Agent 持续搜索约 88 小时,随后又用 Lean 完成形式化。 按照 OpenAI 给出的结果,这套构造能够让三维流体在光滑外力
-
EP171 · 架构师 Agent、AI 经济情景、RLM 长上下文 · 09-10 早报
📝 今日导语 架构师 Agent 追溯设计约束,Anthropic 推演 AI 经济,RLM 操作长上下文;据此规划系统、部署与检索。 🏷 今日关键词: 架构师 Agent Anthropic 情景探索器 RLM 长上下文 任务断点续传 Codex Harness ADK for Kotlin Kimi K3 流式加载 📰 今日精选内容 【AI 创新实践】“
-
在Amazon SageMaker HyperPod上部署Qwen 3.8 -2. 4 T-A95 B,并配备vLLM
了解如何在带有vLLM的Amazon SageMaker HyperPod上部署Qwen 3.8 -2. 4 T-A95 B(一个2.4万亿参数开重模型)。本演练涵盖集群配置、NVFP 4量化以及具有内置推理、工具调用和本地STP推测解码的OpenAI兼容端点。
-
跨模型协议作为自动息肉分割的部署时间可靠性信号
作者:Siddharth Gupta、Jitin Singla|在实时结肠镜检查中,推理时无法获得基本真相注释,因此息肉分割模型可能会悄然失败。我们提出了基于裁判的质量估计(RBQE),这是一个无参考框架,用于测量初级分割模型和同一图像上独立训练的裁判之间的一致性。RBQE是根据从f中提取的标准化1,223张图像外部基准进行评估的
-
使用协方差矩阵学习:主成分分析与使用图学习的相遇
作者:Saurabh Sihag、Andrea Cavallo、Elvin Isufi|本文概述了coVariance神经网络(VNN)的理论基础,即图神经网络(GNN)将协方差矩阵作为图进行操作。协方差矩阵在各个领域中无处不在,因此,GNN的部署通常利用成对统计依赖关系图。关于GNN的现有理论贡献考虑抽象的GR
-
Qwen 3.8遵循GPT-5.5 Pro推理预填充
HN ð156· 61 评论