hiw3c 日报精选

部署工程

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

已收录 801 条 · 近 30 天 575 条 · 第 13 / 28 页

星期三 · 30 条
  1. BestBlogs·AI 高分精选BestBlogs 精选22:00中文快照

    短视频中的模态错配与原创性归属:Meta 如何用多智能体系统治理上亿视频 — Aditya Gautam

    📌 One-Sentence Summary Aditya Gautam 讲解 Meta 如何在超过 1 亿条短视频中检测模态错配与搬运内容:由审查、感知、检索三个智能体分工协作,配合专用小型 VLM 的完整训练链、覆盖全管线的整体评估,以及时空压缩、缓存与元数据剪枝等优化手段实现规模化治理。 📝 Summary Aditya Gautam 介绍了 Meta

  2. 雷峰网·AI 科技评论中文媒体18:09中文快照

    星驿付与慧徕店亮相2026云栖大会,AI生成数字商业无限可能

    9月22日至24日,2026云栖大会在杭州盛大召开。云栖大会是阿里巴巴集团的年度盛会,由阿里云协同其合作伙伴与全球客户共同呈现。作为全球顶级科技盛会,大会以“智以致用”为主题,以Agentic AI为核心锚点,串起芯片、云基础设施、模型能力与模型服务、Agentic应用的完整链路,直抵生产方式深层变革。 星驿付与慧徕店作为阿里云AI战略合作伙伴,再度亮相20

  3. 雷峰网·AI 科技评论中文媒体17:23中文快照

    蚂蚁密算发布企业级可信智能云服务平台“密算一号”,启动首批定向邀测

    2026云栖大会在杭州召开,在蚂蚁密算与阿里云共同承办的“密算织域 融数成智”专题论坛上,蚂蚁密算发布企业级可信智能云服务平台“密算一号”,并启动首批定向邀测。 平台以密态计算为基础,同时连接云上大模型、智能体与算力,核心能力是让企业数据在“可用不可见、可控可计量”的前提下,安全地参与跨机构合作和云上AI应用。企业可通过密算一号按需申请数据、模型和计算能力,

  4. MarkTechPost国际媒体15:09快照

    诺基亚开源AnyJev:免培训层,将任何开放的LLM转变为校准的决策模型

    诺基亚的应用研究团队开源AnyJev,这是一个Python库,可以将开放的LLM转化为决策模型。它不需要训练。它针对的是一项常见的制作工作:从固定的集合中选择一个答案,而不是写一个句子。它可以部署吗?是的,它从PyPI安装,在Apache-2.0下发货,并且有transformers [.] The post诺基亚开源AnyJev:一个将任何开放LLM变成校

  5. 雷峰网·AI 科技评论中文媒体13:44中文快照

    零跑汽车携手腾讯WorkBuddy,40+核心业务场景AI提效90%

    在零跑汽车,一套覆盖12大模块的冲压模具管理系统,业务人员借助WorkBuddy辅助开发,仅用10个人天、大约两周完成上线,而按传统IT立项流程,这需要约100个人天。 这样的AI系统,零跑整车团队已建成40多个,覆盖软件质量、工程数字化、智能座舱测评、实验室管理等核心业务域。若按传统模式开发累计需1700多人天,采用AI开发模式后压缩至177人天,平均提效

  6. MarkTechPost国际媒体13:18快照

    OpenAI发布GPT-6 Sol和Luna:更便宜50%的API定价和基准

    OpenAI发布了GPT-6 Sol和GPT-6 Luna,这两种低成本模型采用与GPT-6 Astra类似的方法训练。Sol的价格为2美元/10美元,Luna的价格为0.10美元/0.50美元。两者现已在API、ChatGPT Work和Codex中提供。它们为长期运行的代理提供了改进的提示缓存。OpenAI发布GPT-6 Sol和Luna:更便宜50%的

  7. BestBlogs·AI 高分精选BestBlogs 精选10:58中文原文

    性能工作

    📌 One-Sentence Summary 本次发布包括性能工作,包括 RL 采样掩码、Kimi K3 混合批次和 Gemma 4 多模态前缀。 📝 Summary 本次发布包括性能工作,包括 RL 采样掩码、Kimi K3 混合批次和 Gemma 4 多模态前缀。性能工作提高了吞吐量和效率。 📊 Article Meta AI Screening: 90

  8. BestBlogs·AI 高分精选BestBlogs 精选10:58中文原文

    vLLM v0.30.0 已发布

    📌 One-Sentence Summary vLLM v0.30.0 已发布,亮点包括混合注意力热路径、DeepSeek-V4.1-Flash 和 Qwen3.8-Flash-Next。 📝 Summary vLLM v0.30.0 已发布,亮点包括混合注意力热路径、DeepSeek-V4.1-Flash 和 Qwen3.8-Flash-Next。这次发布

  9. BestBlogs·AI 高分精选BestBlogs 精选08:00中文原文

    Rollouts 与 Security Review · Cursor

    📌 One-Sentence Summary Cursor 推出 Rollouts 和 Security Review 两个机器人,强化代码交付的最后一公里,为拉取请求提供监控与安全检查。 📝 Summary Cursor 推出 Rollouts 和 Security Review 两个机器人,旨在改善代码交付的最后一公里。Rollouts 在每次变更部署时

  10. BestBlogs·AI 高分精选BestBlogs 精选05:00中文原文

    GPT-6 的改进提示缓存

    📌 One-Sentence Summary OpenAI 为 GPT-6 推出改进的提示缓存系统,默认提升缓存命中率,并提供仪表盘、诊断工具和显式缓存断点等控制手段,帮助持久化 Agent 更快更省地运行。 📝 Summary OpenAI 发布 GPT-6 的改进提示缓存系统,面向需要长时间运行的持久化 Agent。新系统默认提供更高的缓存命中率,对 3

  11. The Decoder国际媒体04:06快照

    OpenAI的GPT-6 Sol和Luna将价格降低了一半,但在性能上几乎没有变化

    OpenAI通过GPT-6 Sol和Luna增加了两种更便宜的型号,以象征性价格的一半提供前辈的性能,并瞄准了Anthropic更昂贵的产品。不过,独立分析发现实际情报几乎没有增加,而且OpenAI可能没有预见到Anthropic会同时推出Opus 5.5。OpenAI的GPT-6 Sol和Luna降价一半,但性能几乎没有改变文章首先出现在The Decod

  12. Simon Willison个人技术博客02:48快照

    llm 0.36

    发布时间:llm 0.36新OpenAI模型:GPT-6 Sol的gpt-6-sol和GPT-6 Luna的gpt-6-luna。#1702对于仅接受单轮提示的模型,模型插件现在可以声明supports_conservation = False。当这些模型接收助手或工具历史记录时,LLM引发llm。ConversationNotSupport,并且llm c

  13. arXiv cs.AI/CL/LG信号源(脚本内置抓取)01:59快照

    Flash-DLLM:IO感知的KV缓存和并行解码,用于快速、内存高效的扩散LLM

    作者:Quan Nguyen-Tri、Mukul Ranjan、Shijiqiang|扩散大型语言模型(dLLM)最近通过支持非自回归文本生成而成为自回归LLM的一种有前途的替代方案。然而,它们的实际部署仍然受到效率低下的推理的限制,这主要是由于缺乏有效的Key-Value(KV)缓存和可扩展的并行解码机制。现有的加速方法通常研究KV缓存

  14. arXiv cs.AI/CL/LG信号源(脚本内置抓取)01:54快照

    SWE-Serve:面向生产推理服务的标杆工程

    作者:Jennifer Williams、Dave Farris、Jeff Farris|我们引入SWE-Serve,这是一个用于评估生产推理工程任务代理的基准。实现推理功能可能需要协调整个服务堆栈的多个更改,包括模型支持、运行时执行和公共API。现有的基准对生产推理工程的有限覆盖范围:存储库级软件工程基准不提供

  15. arXiv cs.AI/CL/LG信号源(脚本内置抓取)01:40快照

    扩大收件箱,而不是背景:从无策略的支架到可重复使用的专业代理

    作者:李来珍、李佳瑞、赵娟|大型语言模型(LLM)代理通常处理相关任务流,但标准工具会反复要求模型在每个任务的上下文中重建相同的控制决策。我们研究任务反馈是否可以将循环控制转化为可重复使用的可执行代码,同时保留LLM调用用于特定于任务的语义推理。我们引入Growing Buttons,一种以失败为导向的工具