hiw3c 日报精选

部署工程

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

已收录 801 条 · 近 30 天 575 条 · 第 19 / 28 页

星期二 · 22 条
  1. BestBlogs·AI 高分精选BestBlogs 精选23:30中文快照

    上线第一周就会撞上的 5 种语音智能体失败模式 — Venky B,Plivo

    📌 One-Sentence Summary Plivo 创始人 Venky B 梳理语音 AI 智能体上线第一周常见的五种生产失败模式:延迟与成本、智能的权衡,脆弱的 STT,结构化数据采集,TTS 归一化,以及轮次切换,并分享来自月通话量超十亿平台的落地配方。 📝 Summary Venky B,Plivo 创始人兼 CEO,指出语音 AI 智能体在 P

  2. 雷峰网·AI 科技评论中文媒体21:01中文快照

    旗舰SoC进入融合计算时代,天玑9600 Pro首创AI原生架构!

    就在这两天,联发科正式发布新一代旗舰移动平台天玑9600 Pro。作为天玑首款Pro旗舰,它率先采用台积电2nm制程,并以全新AI原生架构重构移动计算,带来双超大核CPU、重构双NPU、神经网络渲染与智能影像等一系列架构级升级,推动性能、能效、AI、游戏、影像以及通信显示体验全面跃升。 过去几年,AI正从云端加速走向终端,手机也成为AI能力最重要的入口之一。

  3. BestBlogs·每日早报BestBlogs 精选14:00中文原文

    EP176 · Agent 工程手册、Eve 框架、AGI 已至 · 09-15 早报

    📝 今日导语 agent 改老代码屡屡翻车,Osmani 分区法可照做;Eve 框架与 Brockman 的 AGI 判断补齐两路。 🏷 今日关键词: Vercel Eve Greg Brockman Context Engineering Addy Osmani 具身智能 AI 眼镜 📰 今日精选内容 Brownfield Agentic Engineer

  4. MarkTechPost国际媒体12:03快照

    Agent-net开源网络代理:将任何网站变成受保护的人工智能代理的Go Buttons

    Agent-net是一个构建一个代理对代理市场的团队,人工智能代理可以在其中发现、信任并相互付费,该团队发布了WebAgent,这是一种开源工具,用于站立面向公众的商业代理。所以,基本上你给它你的网站,找到一个代理,然后让它与其他代理交谈。企业没有编写编排代码,而是填写[.]帖子Agent-net开源网络代理:将任何网站变成受保护的人工智能代理的Go But

  5. 雷峰网·AI 科技评论中文媒体11:02中文快照

    工作流可以自我进化了,英伟达开源 SoL-Pi,每小时省13.5刀!

    Token 砍半,活没少干,每小时还省13.5刀! 作者丨 高允毅 编辑丨岑 峰 最适合鞭打AI干活,还得是 AI 啊。 英伟达今早开源了一套提高工作效率的 Harness —— SoL-Pi ,它让AI亲自当监工,去Agent工作流中吹毛求疵,把每一处可能“摸鱼、浪费Token”的环节进行修复,自我迭代优化。 效率提升后,Token消耗最高减少了 64%,

  6. BestBlogs·AI 高分精选BestBlogs 精选10:49中文快照

    使用 NVIDIA FLARE 在 Docker、Kubernetes 和 Slurm 上扩展联邦学习

    📌 One-Sentence Summary NVIDIA FLARE 通过将持久的联邦服务与动态作业执行分离,实现了在异构环境中的联邦学习,允许站点使用 Docker、Kubernetes 或 Slurm,同时保持对资源和数据的本地控制。 📝 Summary 联邦学习项目往往因为基础设施环境的多样性而面临运营复杂性。NVIDIA FLARE 通过将持久的联

  7. 雷峰网·AI 科技评论中文媒体09:58中文快照

    不止一颗CPU?智能体经济时代,Arm对算力平台有了新理解

    导语:200瓦功耗之差的新战场 记者:郭思 编辑:包永刚 9月9号,人社部公布了第八批新职业名单,尤为瞩目的一个新职位是智能体开发员。岗位的正式确立,意味着相关技术已走向主流,而背后则是底层技术的实质性跃迁,当模型不再停留在问答层面,而是开始具备“行动”能力——底层算力的需求结构也在重塑。智能体在运行过程中,需要频繁地获取数据、调用工具并等待结果返回,这对系

  8. BestBlogs·AI 高分精选BestBlogs 精选08:00中文快照

    Agent Substrate 现已在 GKE 上可用

    📌 One-Sentence Summary Agent Substrate 是一个开源、默认安全的代理执行运行时,现已在 Google Kubernetes Engine 上可用,为自主代理提供 10 倍更高的密度和低于 500 毫秒的恢复操作。 📝 Summary Agent Substrate 在 GKE 上提供了一个可扩展、高密度的执行环境,用于自主

  9. BestBlogs·AI 高分精选BestBlogs 精选08:00中文快照

    轻松实现大规模 GNN 运行:推出分布式 GraphFlow

    📌 One-Sentence Summary Google Cloud 推出分布式 GraphFlow,这是一个用于可扩展 GNN 训练和推理的 Python 库,与 Spanner Graph 集成,用于实现电信中的自主网络运营和预测性维护。 📝 Summary 本文介绍了 Google Cloud 的自主网络运营框架,该框架将基于 Spanner Gra

  10. BestBlogs·AI 高分精选BestBlogs 精选08:00中文快照

    云可靠性事件处理最佳实践

    📌 One-Sentence Summary 本文概述了应对云端停机的结构化工作流程,强调准备、验证、调查、报告、解决和事后复盘,以最大限度地减少服务中断。 📝 Summary 该指南详细介绍了处理云可靠性事件的关键步骤,从通过设计、数据收集和培训进行主动准备开始。它描述了识别停机源的验证过程,随后是调查和报告程序。文章最后介绍了解决事件的策略,以及进行事后

  11. BestBlogs·AI 高分精选BestBlogs 精选08:00中文快照

    构建零信任 AI 代理:判断意图,而非仅语法

    📌 One-Sentence Summary 本文介绍了三种托管的运行时治理控制——模型护甲、语义治理策略和代理异常检测——这些控制使 AI 代理能够判断意图和行为,而不仅仅依赖于静态语法检查,从而在生产环境中增强安全性和适应性。 📝 Summary 文章讨论了用于 AI 代理的确定性、构建时控制的局限性,并主张转向托管的运行时治理。它详细介绍了三种关键控制

  12. BestBlogs·AI 高分精选BestBlogs 精选01:00中文快照

    Vercel 如何破解智能体构建难题:Andrew Qu 与 Eve 框架的演进

    📌 One-Sentence Summary Vercel 的 Andrew Qu 回顾了团队如何将屡屡受挫的多智能体数据工作流,演化为可积累技能的文件系统智能体,并将这些运营经验沉淀为面向企业专属智能体的 Eve 框架。 📝 Summary Andrew Qu 讲述了 Vercel 如何从一个为 Snowflake 生成 SQL 的超大提示词出发,逐步打造

  13. BestBlogs·AI 高分精选BestBlogs 精选00:00中文快照

    让 AI 智能体执行 Bash 后,我们如何构建安全护栏|PostHog 的 Sarah Sanders

    📌 One-Sentence Summary PostHog 的上下文工程师 Sarah Sanders 说明,Wizard 智能体能读取代码并在受限条件下执行 Bash,因此必须以确定性扫描和默认拒绝的控制措施构建纵深防御,而 LLM 只负责识别误报。 📝 Summary Sarah Sanders 回顾了 PostHog Wizard 从引导 CLI 演