hiw3c 日报精选

部署工程

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

已收录 801 条 · 近 30 天 575 条 · 第 14 / 28 页

星期二 · 35 条
  1. AWS ML Blog海外官方23:35快照

    在Amazon SageMaker AI上实现并发扫描的适当大小生成AI端点

    并发扫描可以通过在不断增加的负载水平下系统性地对生成性AI端点进行基准测试,帮助您在Amazon SageMaker AI上正确调整生成性AI端点的大小。这篇文章讲述了部署模型、使用CLARAIBenchmarkJob API运行自动并发扫描,并使用结果来制定有关车队规模的数据驱动容量决策。

  2. AWS ML Blog海外官方23:30快照

    Trane如何通过Amazon Bedrock AgentCore以60倍的速度构建见解

    在大约四周的时间里,Trane Networks在Amazon Bedrock AgentCore上构建了一个人工智能驱动的代理解决方案,该解决方案将20分钟的多屏幕建筑诊断工作流程减少到20秒的自然语言交互,洞察时间提高了60倍。这篇文章分享了解决方案背后的架构方法和关键设计决策。

  3. AWS ML Blog海外官方23:19快照

    Tata Elxsi如何在AWS上几秒钟内检测工业安全风险

    了解Tata Elxsi如何在AWS上构建实时工业安全平台IRIS。IRIS在边缘过滤摄像机视频,通过Amazon Kinesis传输元数据,在Amazon SageMaker AI上运行计算机视觉,并将检测结果与高置信度警报关联起来,在几秒钟内检测到不安全条件,而不是几分钟。

  4. 雷峰网·AI 科技评论中文媒体22:42中文快照

    一张硬件卡片,一场上下文之争:千问办公押注企业Agent

    一场两小时的客户拜访,双方说的话加起来上万字。但回到工位,销售能凭记忆敲进 CRM的,通常不到三百字。 剩下的去哪了?跟着出租车一起走了。 这样的对话在企业里每天都在发生。会议室里的争论、客户办公室里随口的一句提醒、老师傅肚里的经验,信息密度最高的这些话,几乎都发生在电脑屏幕之外,从来没有进入过任何一套企业系统。 另一边,已经沉淀在文档、群聊和系统里的数据,

  5. The Decoder国际媒体21:58快照

    来自实验室培养的神经元的微型软件层有望实现更快、更便宜的人工智能视频

    生物计算公司希望与AWS合作,销售一种文本到视频的模型,该模型的运行速度将提高五倍,成本将降低80%,这要归功于一个来自真实神经细胞的软件层。这个微小的层在基本模型上增加了不到0.1%,但初创公司不会说是哪种模型。来自实验室生长神经元的微小软件层承诺更快,更便宜的AI视频首次出现在The Decoder上。

  6. IEEE Spectrum AI国际媒体20:22快照

    未来是无风扇的:液体冷却人工智能服务器的100%热捕获

    这篇文章是由艺康公司CoolIT为您带来的。超过250 kW的服务器机架不能再通过液体和空气的混合方法冷却。在此密度下,70/30的液体-空气分流留下75 kW的空气负载。移动它所需的空气冷却系统带来了成本和复杂性,很少有运营商会接受。答案是几乎全部的热量捕获。液体有效地吸收了所有的热量,空气下降到负载的1%以下,使服务器能够在无风扇的情况下运行。CoolI

  7. NVIDIA AI Blog海外官方20:00快照

    NVIDIA Isaac ROS 5.0推进大型开源机器人开发

    为了构建和部署能够在动态环境中感知、推理和行动的复杂机器人应用程序,开发人员需要新的物理人工智能模型和工具。LOS开放框架是Open Robotics的一个项目,旨在帮助人类构建机器人。NVIDIA Isaac LOS 5.0 -一系列基于LOS构建的PU加速包,今天在[.]发布

  8. 雷峰网·AI 科技评论中文媒体17:38中文快照

    阿里云加速构建Agentic Cloud:推出AgentCore、新一代CPFS等重磅新品

    9月22日,2026杭州云栖大会上,阿里云CTO李飞飞系统性阐述了Agentic Cloud 战略布局,阿里云将Model、Harness、Context作为核心构建场景,推出全新的云上算力底座和Agent 构建治理平台AgentCore、Agent Sandbox、新一代高性能存储CPFS等一系列新品,让 AI 真正进入生产流程、走向规模化价值创造。 随着

  9. BestBlogs·每日早报BestBlogs 精选14:00中文原文

    EP183 · Jev 系统一模型、AI 软件工厂、工作流程资产 · 09-22 早报

    📝 今日导语 Jev 用可校准决策接入代码,Warp 把开发做成可度量工厂,UiPath 沉淀工作地图;借此判断生产 AI 的控制点。 🏷 今日关键词: Jev System One AI 软件工厂 工作流程资产 生产级控制平面 Loop engineering AI 医疗 📰 今日精选内容 Jev:面向生产软件的快速决策模型 Latent.Space ·

  10. MarkTechPost国际媒体13:04快照

    NVIDIA推出SoL-Pi:自动研究循环可将编码代理令牌流量减少高达49%

    英伟达研究人员发布了SoL-Pi,4开源Pi编码代理的利用机制,该代理由在535个环境中运行自动研究循环的人工智能发现。在EdgeBench上,SoL-Pi将代币流量减少了44.7%至49.0%,API成本减少了约33%,同时在GPT-5.6 Sol和Opus 5上保持了Pi约94%的分数。NVIDIA推出SoL-Pi:自动研究循环,可将编码代理令牌流量减少

  11. 雷峰网·AI 科技评论中文媒体10:37中文快照

    Intel 平台 + 双 PCIe:智锐通 EMA-7132 让医疗影像采集与推理同板并行

    医疗影像设备长期存在一个矛盾:算力需求持续上涨,机箱空间却难以增加。 PCIe 显卡越来越强,图像采集卡也不可或缺,但小型化 Mini-ITX 主板通常只提供一个 PCIe 插槽,要么插显卡做 AI 推理,要么插采集卡抓图像,往往只能二选一。 针对这一痛点,智锐通正式推出 EMA-7132 Mini-ITX 主板,以 170×170mm 标准尺寸和 板载双

  12. 雷峰网·AI 科技评论中文媒体08:28中文快照

    黄仁勋回应或缴税540亿:我不怕缴税,只怕变穷;马斯克深夜放大招,新模型Grok 4.7上线;特斯拉机器人团队在长三角审厂,多家企业获订单

    要闻提示 1.黄仁勋回应或交540亿“亿万富翁税”:我不怕交税,只怕变穷 2.产业链人士:特斯拉机器人团队在长三角审厂,多家企业已获订单 3.DeepSeek披露用国产芯片训练下一代AI模型 4.刘大一恒出任阿里Qwen大语言模型项目负责人 5.米哈游:原周边团队员工长期收取贿赂,“数额特别巨大”,已被捕 6.Kimi与海外云厂商分成模式正式落地 7.马斯克

  13. Simon Willison个人技术博客07:09快照

    Jev引入了LLM的新形式-系统一,又名决策模型

    上周,TypSafe AI推出了Jev,这是他们新型号类别的第一个示例,他们称之为“System One型号”(我和Maggie Appleton在一起,我认为“决策模型”是一个更好的名字)。Jev是通常LLM格式的一个有趣变体:它仍然接受文本输入,但不是文本输出,而是返回对应于类别、是/否问题、评级和相关置信度分数的浮点数。TypeSafe是这样描述Jev

  14. Simon Willison个人技术博客06:25快照

    Cloudflare Python Workers现已普遍可用

    Cloudflare Python Workers现已普遍可用经过两年的预览,Cloudflare对在其服务器端Workers平台中运行Python代码的支持现已稳定:“Python现在是Cloudflare开发人员平台上的一流、全面支持的语言”。这件事的一个亮点是它的工作原理。Cloudflare在其基于V8的workerd运行时中运行通过Pyodide编

  15. MarkTechPost国际媒体05:42快照

    AWS Strands Agents团队发布Strands Buttons:一款开源代理Buttons,代币成本降低28%,准确度相当

    许多开发人员发现,一个代理的想法在Claude Code或Codex中工作,然后一旦他们用自己的循环重建它,就会陷入困境。AWS的Strands Agents团队正在利用Strands harness来填补这一空白,这是一个完全组装的通用代理工具。它在本地运行或部署到云提供商,为Python和[.] The post AWS Strands Agents T

  16. AWS ML Blog海外官方02:30快照

    xAI的Grok 4.6现已在Amazon Bedrock上推出

    xAI的Grok 4.6现已在Amazon Bedrock上提供:一个用于长期运行的代理、编码和知识工作的前沿模型,具有50万令牌上下文窗口和四个推理工作级别。它在Scandck-mantle和Scandck-runtime端点上运行,并具有Converse API和跨区域推理支持。

  17. NVIDIA AI Blog海外官方02:00快照

    英伟达推出DS X,准备为人工智能工厂认证电源和冷却产品

    每个人工智能工厂都需要适合其计算架构的电力和冷却。随着人工智能基础设施的扩展,电力、冷却、水、场地和电网的限制正在影响建筑商可以部署的内容。选择适合完整工厂设计的产品可以帮助制造商将计算能力转化为有用的AI输出。为了帮助建筑商做出这些决定,NVIDIA推出了[...]

  18. AWS ML Blog海外官方00:36快照

    宝马集团如何检测14,000个云帐户的成本异常

    宝马集团运营着CREA,这是一个FinOps平台,监控超过14,000个云帐户。这篇文章展示了宝马如何添加自动化每日成本异常检测,使用Prophet预测、AWS Step Functions和处理每个帐户的无服务器管道从反应式仪表板转向主动警报,每月费用约为50美元。

  19. NVIDIA AI Blog海外官方00:00快照

    从启用到执行,埃及人工智能生态系统达到生产规模

    今天,埃及的人工智能建设者齐聚大埃及博物馆,参加招待会,重点介绍了该国快速发展的人工智能生态系统--涵盖人工智能原住民、开发人员、研究人员、初创公司和企业--构建跨行业的应用程序。此次活动包括英伟达欧洲、中东和非洲副总裁Paolo Guglielmini的主题演讲。艾哈迈德·穆斯塔法(Ahmed Mostafa),区域人工智能采用负责人[.]