hiw3c 日报精选

部署工程

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

已收录 820 条 · 近 30 天 566 条 · 第 27 / 28 页

星期四 · 22 条
  1. The Decoder国际媒体22:25快照

    随着封闭实验室越来越多地设计自己的芯片,Nvidia购买了开放人工智能的前门

    Nvidia计划以约129亿美元收购Hugging Face,以确保开放人工智能模型的中央平台。超过1800万开发者和20万家公司使用该中心。首席执行官Jensen Huang承诺保持平台开放和硬件中立,但这笔交易也为他提供了一个强大的计算分销渠道。随着关闭的实验室越来越多地设计自己的芯片,Nvidia购买了开放人工智能的前门这篇文章首先出现在The Dec

  2. NVIDIA AI Blog海外官方19:56快照

    英伟达将收购Hugging Face

    我很高兴地宣布,NVIDIA已经同意以129.303亿美元的价格收购Hugging Face。我们将共同扩展Hugging Face的平台,加强其基础设施,并扩大全球开发人员和机构对人工智能的访问。在过去的十年中,Clem,Julien,Thomas和Hugging Face的团队已经建立了一些了不起的东西:一个充满活力的家[...]

  3. 雷峰网·AI 科技评论中文媒体18:40中文快照

    地平线征程智驾芯片量产突破1500万!

    9月3日,地平线正式宣布征程®智驾芯片量产突破1500万,凭借量产规模第一与市场份额第一的双领先优势,持续领跑中国智驾芯片市场。 作为中国首款实现大规模前装量产、累计出货量最高的车载智能芯片,地平线征程®智驾芯片已累计赋能800万车主,与超40个品牌达成合作,中国前十大车企全部在列。 自 2020 年开启前装量产以来,地平线征程芯片实现从0到1000万量产用

  4. 雷峰网·AI 科技评论中文媒体16:26中文快照

    视频生成算力新选择:SmarCo GC3如何绕过“存储墙”这道硬门槛

    大模型生成视频,正在成为这个算力饥渴时代最典型的应用场景之一。一段由AI生成的1080P视频,背后往往是数十亿参数神经网络的反复迭代,是海量张量运算在时空维度上的密集交织,也是无数像素数据在芯片与存储之间的辗转奔袭。 对于大多数创作者而言,按下"生成"按钮之后等待渲染完成的焦虑,以及不断攀升的GPU集群账单,几乎已经成为一种常态。这场无声的算力战争背后,一个

  5. 雷峰网·AI 科技评论中文媒体10:49中文快照

    WorkBuddy金融版正式发布,让Agent真正进入金融业务现场

    9月 3 日,腾讯WorkBuddy金融版正式上线 。 WorkBuddy金融版 是 专门 面向金融机构打造的AI智能工作台, 可为券商、银行、保险等 行业 提供开箱即用的专家与技能矩阵,丰富的金融数据源及全链路安全可信底座,覆盖投研、合规、客户经营、信贷尽调、财富资配等核心业务场景,助力金融机构安全、高效地落地智能体应用。 金融行业的业务逻辑复杂,且对安全

  6. 雷峰网·AI 科技评论中文媒体09:23中文快照

    千问办公落地长安汽车,“研产供销服”都在用

    9月2日,记者获悉,长安汽车已在研发、生产制造、供应链、销售、服务等业务场景接入千问办公。 作为中国汽车行业三大央企之一,长安汽车积极拥抱AI技术浪潮,提出“无AI,不长安”。此前,长安汽车已推出业内领先的天枢领航、天枢座舱等产品。今年以来,长安汽车进一步将AI创新推进到组织内部,覆盖各个业务单元。 长安汽车公司总裁助理、变革与效率部总经理梁光忠表示:“在长

  7. BestBlogs·AI 高分精选BestBlogs 精选08:00中文快照

    欧洲与中东的 AI 智能体规模化之路:施耐德电气、沃达丰与 monday.com 的经验启示

    📌 One-Sentence Summary 本文探讨了施耐德电气、沃达丰和 monday.com 等企业如何通过优先建设基础设施、可观测性和模块化智能体架构,从分散的智能体原型向可扩展的生产级 AI 平台转型。 📝 Summary 随着各组织跨过初始智能体概念验证阶段,它们面临着严峻的运营挑战。本文揭示了欧洲与中东地区的一项战略转变:企业正从构建孤立的、炫

  8. MarkTechPost国际媒体07:48快照

    Qwen开发人员开源zg(zvec-grep):本地优先搜索层,统一ripgrep、BM 25和Vector搜索

    我们来看看zg(zvec-grep),这是Qwen Developers刚刚在Apache 2.0下开源的本地优先搜索层。我们解释了它如何将ripgrep、BM 25和vector搜索置于单个接口后面,以便代理可以从简单语言描述转移到精确的行跨度,而无需切换工具。我们涵盖故意较小的HCP表面、设备上嵌入目录以及位于本地内容和远程模型之间的授权门。Qwen开发

  9. BestBlogs·AI 高分精选BestBlogs 精选07:06中文快照

    利用推测解码协同设计 AI 模型,加速 LLM 推理

    📌 One-Sentence Summary 本技术指南探讨如何通过推测解码优化 LLM 推理速度,提供五项工程准则,帮助在吞吐量与交互性的帕累托前沿上选择最优草稿长度与机制。 📝 Summary 作为 AI 模型协同设计系列文章的一部分,本文深入探讨了推测解码——一种通过小型草稿模型预测多个 token,再由大型目标模型并行验证,从而加速自回归解码的技术。

  10. AWS ML Blog海外官方02:21原文

    AWS团队如何使用Amazon Bedrock大规模检测仪表板内容故障

    即使每个基础设施监视器都报告健康,商业智能仪表板也可能悄然发生故障,显示空白、陈旧或错误的数据。了解AWS团队如何在Amazon Bedrock上构建自动化、人工智能驱动的内容验证解决方案,该解决方案扫描数百个仪表板并向所有者发出警报,将平均检测时间从几天缩短到一小时以下。

  11. MarkTechPost国际媒体02:05原文

    认识Switch yard:Rust代理和库,可通过OpenAI和Anthropic API路由和翻译LLM流量

    NVIDIA发布了Switch yard,这是一个用于LLM流量的Apache-2.0 Rust代理和库。它将请求解码为与提供商无关的类型,使用直通、随机、LLM分类器或阶段路由器算法对其进行路由,并将响应翻译回客户端的格式,因此Claude Code或Codex CLI可以在vLLM、NIM或Olama上运行,保持不变。该项目是Alpha前项目,不用于生产

  12. arXiv cs.AI/CL/LG信号源(脚本内置抓取)01:56原文

    GRADSOLVE:在图形处理器上实现ODE集成的快速精确渐变

    作者:Alessio Spurio Mancini|常微方程(ODE)是科学和工程模型的基础,许多应用需要其解相对于参数的求导。独立轨迹的集合适合图形处理单元(图形处理单元),但当前的图形处理单元(图形处理单元)必须做出权衡:最快的集合求解器无法在反向模式下以其求解速度区分,而求解器