DeepSeek AI发布DeepSeek-V4.1-Flash,支持1 M上下文、FP 4 KV缓存和跨层注意力重用
长期代理已将LLM服务变成了一项投入繁重的工作量。重复的预填充和数百万个令牌上下文会导致KV缓存给HBM、SSD容量和带宽带来压力。DeepSeek AI围绕这一瓶颈构建了其最新版本。DeepSeek-V4.1-Flash是一个多模式专家混合模型,具有552 B主干参数、196 B额外的Engram参数和1 M令牌上下文窗口。It [.] The post
长期代理已将LLM服务变成了一项投入繁重的工作量。重复的预填充和数百万个令牌上下文会导致KV缓存给HBM、SSD容量和带宽带来压力。DeepSeek AI围绕这一瓶颈构建了其最新版本。DeepSeek-V4.1-Flash是一个多模式专家混合模型,具有552 B主干参数、196 B额外的Engram参数和1 M令牌上下文窗口。It [.] The post
HN ð334· 138 评论
OpenAI的GPT-6 Astra在开放数学问题上名列前茅,尽管首席科学家Jakub Packowski表示,数学是故意不优先考虑的。相反,OpenAI正在将资源投入到循环自我改进和对齐研究中。这支持了人工智能发展道路日益“尖锐”的理论,至少只要人工智能无法自我改进并且仍然需要利用人类生成的数据进行有针对性的优化,即在选定领域具有极端优势,而不是广泛的进步
9月10日,阿里巴巴集团旗下高德正式发布全球首个3D原生城市世界模型ABot-Earth 0.7。
轻量版LingBot-World 2.0
Meta推出了Muse,这是一款人工智能代理,可以通过WhatsApp预订旅行、处理购买和发送电子邮件,并配有通过Stripe Link运行的支付功能。这使Meta领先于OpenAI,后者停止了ChatGPT中的直接结账功能。一个名为Sentinel的单独安全代理会在每一个操作到达互联网之前对其进行监控。Muse可以通过WhatsApp为用户购物、写电子邮件
使用Agents API构建和启动云代理,Agents API是一种托管服务,由Codex工具支持,用于编排、长时间运行的会话和工具使用。
谷歌开源了Mantis,这是一个针对人工智能编码代理的安全审查技能的堆栈不可知工具包。它运行完整的漏洞生命周期:扫描代码、过滤误报、在沙箱中重现错误、对其进行修补、重新攻击补丁,然后对风险进行评分。Apache 2.0,并记录为仅演示。Google开源Mantis:一个让编码代理查找、复制和修补漏洞的模块化技能工具包的帖子首先出现在MarkTechPost上
保罗·克里斯蒂安诺(Paul Christiano)是一位专注于对齐的有影响力的人工智能研究员,他将加入OpenAI基金会,成为其董事会成员。
万级并行推理背后,是构造、修正与验证的完整闭环。 作者丨 郑佳美 编辑丨岑 峰 9 月 8 日,OpenAI 公布了一套针对 Navier–Stokes 千禧年问题的有限时间奇点构造。一个仍在训练的内部模型,配合约 1 万个 Agent 持续搜索约 88 小时,随后又用 Lean 完成形式化。 按照 OpenAI 给出的结果,这套构造能够让三维流体在光滑外力
了解如何在带有vLLM的Amazon SageMaker HyperPod上部署Qwen 3.8 -2. 4 T-A95 B(一个2.4万亿参数开重模型)。本演练涵盖集群配置、NVFP 4量化以及具有内置推理、工具调用和本地STP推测解码的OpenAI兼容端点。