推理能力
模型推理能力的进展:思维链、推理模型、数学与逻辑基准的突破与争议。
已收录 422 条 · 近 30 天 296 条 · 第 2 / 22 页
谷歌终于发布Gemini 4 Argon
在边缘人工智能竞赛中袖手旁观数月后,谷歌终于推出了期待已久的Gemini 4 Argon型号,声称它可以与业界提供的最佳型号竞争。谷歌表示,Argon提供了“前沿推理和跨复杂工作流程的改进性能”,同时减少了对冲、重复和陈词滥调[.]
双子座4 Argon:旨在解决您最困难的问题
TBD
利用 Amazon Bedrock 上的 Grok 4.7 工具,打造具有长远规划能力的代理程序。
Grok 4.7现已在Amazon Bedrock上推出。在这篇文章中,我们在Grok 4.7上构建了一个工具调用代理,并在四个推理工作水平上对三个推理任务进行评估,测量每个已完成任务的正确性和令牌成本。我们展示了如何调整每个请求的权衡并在生产中监控它。
Amazon SageMaker AI上的专家混合核心工程
AWS工程师在Amazon SageMaker AI上分享了融合专家混合(MoE)模型的内核优化:用于WGMMA利用的Swap-AB、用于FP 8量化的Triton后台路由,以及消除Triton JT重新编译。它们加在一起,在H200图形处理器上提供了高达10%的吞吐量和高达9%的首个令牌时间。
语言模型逻辑的几何学:一般结构和习得的猜想
作者:Swathi Shree Narashiman、Aravind Ramana Venkatramanan、Nambi Seshadri|自回归语言模型在每个预测步骤都会产生一个词汇量大小的logit载体,其结构决定条件下一个令牌分布。我们根据经验发现,有序的词汇中心logit遵循非常一致的log线性关系\[ z_{(r)} \approxy μ-a\l
为 IBM Spyre 加速器扩展 Inductor
📌 One-Sentence Summary IBM 介绍了如何通过扩展 Inductor 后端将 Spyre AI 加速器集成到 PyTorch 中,专注于面向能效推理的数据流优化编译。 📝 Summary 本文描述了 IBM Spyre 加速器软件栈从自定义框架(sendnn)向 PyTorch Inductor 的转变。与 GPU 不同,Spyre 是
EP204 · Anthropic splits agents, Meta taps capacity, Atlassian backs interfaces · 10-13 Daily
📝 Today's Theme Anthropic separates agents; Meta uses idle GPUs; Atlassian weighs interfaces. Choose what to build. 🏷 Keywords: Claude Managed Agents Inference Atlassian MASS Skill
看看OpenAI声称可以计算更快的傅里叶变换的数学
HN Ÿ 92 · 62 评论
用于机器人的 Gemini 4 Argon
📌 One-Sentence Summary Google 推出了 Gemini 4 Argon,这是一种物理推理模型,能够解决复杂的 3D 空间问题、生成机器人策略并跨整个机器人技术栈进行推理。 📝 Summary 本文详细介绍了 Gemini 4 Argon,一种专为物理 AGI 设计的前沿模型。它在 ERQA 基准测试中表现出卓越性能,并展示了在四个关
Janas:通过SSD的流专家运行大于RAM的LLM
HN ð45· 20 评论
英特尔D270图形处理器AI加速器-高达480 GB LPDDR 5X
HN ð84· 35 评论
Anthropic新模型降价75%,关注创业板算力ETF易方达 - 新浪网
ReplaySSM: 重新思考状态存储以加速混合模型解码
📌 One-Sentence Summary ReplaySSM 通过将输出计算与状态更新解耦来优化状态空间模型(SSM),从而减少内存流量、简化投机解码并缓解量化误差。 📝 Summary 本文介绍了 ReplaySSM,这是一种提高结合了 SSM 层(如 Mamba)与注意力层的高混合模型效率的技术。传统的 SSM 解码受限于内存带宽,因为它在每一步都会
清除聊天历史记录帮助人工智能代理找到更好的解决方案
微软研究人员发现,自主人工智能代理会被困在他们所谓的“想法盆地”中,因为他们不断增长的聊天环境和无法逃避的本地解决方案区域。他们的“Fork-and-Flush”方法可以清除聊天历史记录,但保留工作空间,在相同计算预算的情况下,结果可提高66%。《清除聊天历史记录帮助人工智能代理找到更好的解决方案》文章首先出现在The Decoder上。
即时本体:廉价智能如何改变数据转换|Hrishi Olickel,Southbridge AI
📌 One-Sentence Summary 模型判断让数据转换更灵活,但可靠答案仍依赖面向具体决策的定义、独立校验和有边界的优化。 📝 Summary Hrishi Olickel 认为,单一企业本体无法解释「客户」或「交易」在计费、支持和合规场景中的不同含义。他主张在明确决策问题后构建所需的本体,并保留定义与证据以供复用。俄亥俄州竞选财务数据的实体消歧项
在Amazon SageMaker AI上使用llama.cpp部署决策模型
了解如何在Amazon SageMaker AI上使用llama.cpp部署决策模型。这一技术方法通过AWS Deep Learning Container for llama.cpp提供OpenAI兼容的聊天完成,然后使用SemIf扩展运行时,以返回在中央处理器或图形处理器上声明选项的概率。
使用Ray LLM深度学习容器运行多节点推理工作负载
了解如何使用多节点Ray LLM深度学习容器在Amazon EKS上的两个图形处理器上部署一个大型语言模型,在一个OpenAI兼容端点后面设有单独的预填充和解码节点。预构建的容器会运送完整的推理堆栈,因此您可以配置部署而不是组装它。
2026 年值得关注的 10 个 Hugging Face 模型
📌 One-Sentence Summary 一份 2026 年 Hugging Face 上前 10 个开源权重模型的全面指南,涵盖了 LLM、嵌入、视觉和语音领域。 📝 Summary 本文识别了 2026 年最相关的开源权重模型,评估维度已从简单的模型访问转向生产环境的就绪性。内容涵盖了如用于多任务处理的 Qwen3.8、用于推理的 DeepSeek-
Google Deepmind的AlphaProof Nexus解决了数十个开放数学问题,并实际获得了同行评审
根据《科学》杂志的一项研究,Google Deepmind的AlphaProof Nexus解决了数十个开放数学问题,其中包括9个Erdleston的问题,其中两个问题56年来一直没有解决。该出版物发布之际,OpenAI因在未经同行审查的情况下在GitHub上倾销人工智能证据而面临抵制。Deepmind在发布之前对其结果进行了审查。Google Deepmi