hiw3c 日报精选

部署工程

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

已收录 801 条 · 近 30 天 575 条 · 第 3 / 28 页

星期一 · 23 条
  1. Simon Willison个人技术博客23:54快照

    网络编辑0.1a0

    发布:web-Editor 0.1a0我正在使用Codex远程通过手机处理一个项目,这时我发现自己想要编辑凭据文件,而无需通过LLM本身往返这些凭据。所以...我让Codex和GPT-6 Astra Extra High构建了这个Python网络应用程序,它提供了一个用于查看和编辑文件夹中文件的Web UI。它旨在在Tailscale上运行,因此我可以让代理

  2. AWS ML Blog海外官方23:51快照

    在Amazon SageMaker AI上使用llama.cpp部署决策模型

    了解如何在Amazon SageMaker AI上使用llama.cpp部署决策模型。这一技术方法通过AWS Deep Learning Container for llama.cpp提供OpenAI兼容的聊天完成,然后使用SemIf扩展运行时,以返回在中央处理器或图形处理器上声明选项的概率。

  3. The Decoder国际媒体23:24快照

    微软计划到2027年将自己的Maia AI芯片规模扩大到千兆瓦级

    从2027年开始,微软将使其内部Azure Maia芯片成为其产品中的主要人工智能推理系统,并以数千吉瓦的规模部署它们。即将推出的Maia 300每兆瓦提供的代币数量应该比领先的图形处理器系统多40%。首席执行官萨蒂亚·纳德拉(Satya Nadella)称其为“我们迄今为止对自己的硅的最大赌注。“微软计划到2027年将其自有Maia AI芯片扩展到千兆瓦级

  4. NVIDIA AI Blog海外官方23:00快照

    OCP全球峰会:在生态系统采用的背景下,英伟达开设Vera Rubin架构,帮助在全球范围内扩大人工智能工厂

    随着人工智能工厂从兆瓦增加到千兆瓦,建造它们需要的不仅仅是先进的计算。开放标准正在帮助行业更快、更高效、更可靠地扩展人工智能基础设施。在圣何塞麦肯尼会议中心举行的开放计算项目(OCP)全球峰会上,英伟达宣布了旨在[.]的新合作伙伴关系和贡献

  5. IEEE Spectrum AI国际媒体18:00快照

    学习像专业人士一样玩耍:类人机器人的自适应运动规划和跟踪

    本白皮书为机器人专家和控制工程师提供了全面的概述,了解如何将运动规划和运动跟踪分离以保持人形机器人的专业运动风格,以及为什么自适应、速度感知控制对于缩小模拟和现实世界部署之间的差距至关重要。您将学到什么:为什么将专业运动员的动作风格与可靠的任务性能相结合仍然是人形球类运动机器人中的一个悬而未决的挑战,以及如何将高级规划者与低级跟踪器分开来解决这一权衡问题。运

  6. 雷峰网·AI 科技评论中文媒体17:48中文快照

    安踏×火山引擎:下单缩至10分钟、月均建单1000+,Agent跑进全球电商业务

    Agent,正在成为安踏全球化业务中的“数字同事”。 作为全球前三的体育用品集团,安踏集团多品牌、跨市场经营的背后,是大量商品、内容、订单和售后流程。如今,Agent 正在进入内容生产、海外订货和跨境退货等具体业务环节,并把跑通的能力复制到更多品牌和市场。 这些 Agent 来自一线业务的真实需求。通过火山杯 Agent 创新大赛,业务团队提出问题,FDE

  7. BestBlogs·AI 高分精选BestBlogs 精选13:44中文快照

    让大脑与双手解耦:Claude Managed Agents(第 1 部分)|Anthropic

    📌 One-Sentence Summary Anthropic 工程师解释 Claude Managed Agents 为何把会话历史、智能体循环和执行环境拆开,以改善恢复能力、安全性与架构弹性。 📝 Summary Anthropic 托管智能体团队回顾了一次具体的架构转向。早期方案把智能体循环、状态和沙箱放在同一个容器中,长寿命智能体因此像需要人工照看

  8. BestBlogs·AI 高分精选BestBlogs 精选13:36中文快照

    让 Agent 在沙箱中运行 1000 项任务:LLM 执行代码时会出现什么问题?|AWS Kevin Orellana

    📌 One-Sentence Summary AWS AgentCore 工程师分享约 1000 项由 Agent 驱动的沙箱任务如何暴露接口编码、文件持久化和资源限制问题,并说明为何需要在远端开展模糊测试。 📝 Summary Kevin Orellana 介绍了团队如何用 MCP 接口封装 Amazon Bedrock AgentCore 沙箱,再让编程

  9. Simon Willison个人技术博客12:57快照

    厕所-端口0.4

    发布:Objellette-ports 0.4我的用于检测和列出当前机器上所有Datasette实例的插件现在适用于最新版本,并显示检测到的ID。了解ID可以更轻松地连接新的Python 3.15分析器。标签:凤尾鱼

  10. BestBlogs·AI 高分精选BestBlogs 精选02:00中文快照

    用 Langfuse 持续改进智能体:从生产追踪到离线实验

    📌 One-Sentence Summary Annabell Schäfer 与 Lotte Verheyden 展示如何结合 Langfuse 追踪、定向线上评测与离线数据集,把支持智能体的用户抱怨变成持续改进流程。 📝 Summary 工作坊以帮助家人解决手机问题的 IT 支持智能体 Specs 为例,接入 Langfuse,沿着智能体观测、模型调用和

  11. BestBlogs·AI 高分精选BestBlogs 精选01:58中文快照

    斯坦福 CS146S:常驻在线智能体的工作原理,从架构到上下文工程

    📌 One-Sentence Summary 斯坦福 CS146S 嘉宾讲座上,SpaceX 的 Lee 讲解常驻智能体如何把模型循环调用工具的 harness 扩展为持久服务:云端专属计算机、Temporal 持久化工作流,以及围绕提示词缓存、有损压缩与分层记忆的上下文工程。 📝 Summary 在这场斯坦福 CS146S 嘉宾讲座中,曾在 Cursor

  12. BestBlogs·AI 高分精选BestBlogs 精选01:30中文快照

    把平台交给智能体后会怎样:一场 Kubernetes 攻防演示

    📌 One-Sentence Summary Michael Forrester 与 Whitney Lee 用刻意暴露风险的平台聊天机器人,演示智能体权限、Kubernetes 控制、运行时防护与输入输出过滤如何共同发挥作用。 📝 Summary 讲者让现场观众尝试诱导 BurritoBot 部署不可信镜像、探查文件以及滥用工具。部分请求遭到模型拒绝,另一

  13. BestBlogs·AI 高分精选BestBlogs 精选01:00中文快照

    从零构建智能体评测排行榜:Wolfram Ravenwolf 的实战方法

    📌 One-Sentence Summary Wolfram Ravenwolf 现场搭建智能体评测流程,说明重复运行的稳定性、完整配置、成本和执行轨迹,比排行榜上的单一平均分更重要。 📝 Summary Ravenwolf 在实操工作坊中,以 Terminal Bench 和 Harbor 为基础,组合隔离沙箱、智能体运行框架、固定版本的基准、推理服务及资