hiw3c 日报精选

部署工程

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

已收录 801 条 · 近 30 天 575 条 · 第 17 / 28 页

星期四 · 33 条
  1. AWS ML Blog海外官方23:53快照

    为亚马逊Bedrock知识库选择载体商店

    为您的Amazon Bedrock知识库RAG应用程序选择正确的载体商店会影响性能和成本。这篇文章比较了三种RAG用例中的Amazon OpenSearch Service、Amazon Aurora PostgreSQL与pgvector以及Amazon S3 Vectors,并附有基准测试和实用的选择框架。

  2. AWS ML Blog海外官方23:41快照

    Amazon Bedrock AgentCore上Wood Mackenzie的共享代理平台

    Wood Mackenzie在Amazon Bedrock AgentCore上构建了APEX,这是一个共享的代理人工智能平台,因此每个团队都可以运送生产代理,而无需从头开始重建运行时间、身份、可观察性和护栏。了解他们选择AgentCore的原因、APEX Studio如何运营它以及多代理系统的下一步发展方向。

  3. AWS ML Blog海外官方23:30快照

    在Amazon Quick上实施对LCP工具的深度防御授权

    了解如何在Amazon Quick上对模型上下文协议(HCP)工具实施深度防御授权。此演练通过Amazon Bedrock AgentCore Gateway拦截器将Microsoft Entra ID组和基于声明的JWT连接起来,以应用每个用户、每个工具基于角色和基于属性的访问控制,并进行服务器端检查和不可变的审计跟踪。

  4. 雷峰网·AI 科技评论中文媒体22:25中文快照

    华为开创AI时代计算架构:让百万处理器成为一台计算机

    关键信息: • Peerium计算架构突破了图灵范式,提出了Nested BSP,突破了冯·诺依曼单机架构,颠覆了长久以来的主从架构,实现了百万级处理器真正成为一台更大的计算机。 • 灵衢是实现Peerium计算架构的关键互联技术。 [中国,上海,2026年9月17日] 今日,华为发布AI时代的全新计算架构 – Peerium计算架构。该架构能实现百万级处理

  5. The Decoder国际媒体19:03快照

    OpenAI Codex开发人员表示,人工智能代理群是对代币的巨大浪费,质量收益为零

    OpenAI Codex开发人员Eric Provencher警告说,运行两个以上的并行子代理几乎总是会烧毁代币,而不会提高质量,因为代理彼此不信任,最终会仔细检查每个人的工作。他称之为“协调税”,并指出了一个项目,其中1,393名代理人在一次Python重构上花费了20,000美元的代币,一名Astra代理人本可以以很小的成本处理该重构。OpenAI Co

  6. 雷峰网·AI 科技评论中文媒体18:14中文快照

    九识建成首个L4万卡集群,无人驾驶进入多模态大模型新范式

    一家做无人车的公司,为什么需要一万多张GPU? 9月10日,九识CEO孔旗在广州宣布战略升级为“城市级物理AI”。一周后的9月17日,CTO庄立首次披露支撑这次升级的底层能力:九识已建成业内首个L4级万卡集群,算力集群总规模近1.5万卡。九识也成为首个建成万卡集群的L4团队。 而万卡算力的背后,是一个正在从百亿级迈向千亿级的九识APEX多模态基座大模型。 无

  7. 雷峰网·AI 科技评论中文媒体17:44中文快照

    安芯启程|安芯724北京基地正式投产

    2026年9月16日,柒贰肆安芯技术服务有限公司(简称“安芯724”)北京基地投产活动暨品牌发布会在北京市昌平区未来星科能源谷智造产业园举行。安芯724北京基地正式投产,此举标志着安芯724在GPU及AI算力设备全生命周期服务领域进入体系化运营新阶段。 昌平区、未来科学城集团、昌平职业学校、北京科技职业学院等有关单位领导及合作伙伴出席活动,共同见证基地启幕与

  8. 雷峰网·AI 科技评论中文媒体16:25中文快照

    蚂蚁集团全员接入千问办公,打造大型企业办公标杆

    9月17日,记者获悉,蚂蚁集团正式接入千问办公,作为全公司的智能办公Agent底座,供全员使用,打造大型企业办公的标杆。 图示 蚂蚁集团和千问办公达成合作 蚂蚁集团是全球领先的数字支付与科技服务平台,业务涵盖数字支付、数字金融科技、医疗健康及数字科技等多个领域,员工规模达数万人。随着AI技术在长程任务等多方面能力的全面提升,AI已经逐步融入到蚂蚁内部各个办公

  9. BestBlogs·每日早报BestBlogs 精选14:00中文原文

    EP178 · 全双工语音、GKE Agent、Claude CRM · 09-17 早报

    📝 今日导语 全双工语音分层、GKE Agent 沙箱隔离、Claude CRM 人工确认,提供系统边界的判断路径。 🏷 今日关键词: 全双工语音 GKE Agent 基座 Claude CRM 协同 StepAudio 3 Pinterest Manas 端侧具身推理 Hermes 多智能体 📰 今日精选内容 你的语音智能体还只是对讲机 — Neil Ze

  10. 雷峰网·AI 科技评论中文媒体10:03中文快照

    从百美元到数千美元,AI互联为什么越卖越贵?

    2026年的CIOE中国光博会,人潮如织。 社交媒体上甚至有人开出2500元一场的讲解费,希望找到业内人士陪同参观。走进场馆后更直观的感受是,今年光博会几乎所有与AI相关的环节都在升温:从光模块、光器件,到高速互联和数据中心基础设施,AI需求正在把原本相对垂直的光通信产业链整体推向更高热度。 Astera Labs也出现在今年光博会。这家2017年成立的美国

  11. MarkTechPost国际媒体08:45快照

    Nunchux AI推出VC-Attention:一个免训练的低位注意力核心,可加速视频扩散变形器

    Nunchux AI发布了VC-Attention,这是一个为视频扩散变形金刚(DiTS)构建的免训练低比特注意力内核。它同时解决2个问题:值量化误差和缓慢的softmax阶段。为什么注意力是视频瓶颈视频DiT将剪辑压平为1个时空标记序列,并在每一层运行充分的自我注意力。A [.] Nunchux AI推出VC注意力:一种无需训练的低比特注意力核心,可加速视

  12. AWS ML Blog海外官方02:59快照

    使用NVRx在Amazon EKS上进行容忍分布式训练

    将NVIDIA Resiliency扩展(NVRx)集成到Amazon EKS上的PyTorch FSDP训练中,以将检查点I/O与训练重叠,并在几秒钟内从图形处理器故障中恢复。这篇文章涵盖了Deliverc检查点、进程内重启和ft_launcher作业内重启,2到8个节点的H100基准测试显示出99%以上的训练效率和二次规模恢复。

  13. The Decoder国际媒体02:16快照

    据报道,苹果正在使用自己的M8 Ultra芯片构建企业人工智能服务器

    据《The Info》报道,苹果正在为人工智能推理市场开发一款配备两到四个M8 Ultra芯片的企业服务器,可能不会早于2029年推出。苹果正在考虑使用Nvidia的NVLink Fusion技术来连接芯片。OpenAI和Anthropic已经为人工智能工作负载批量购买Mac硬件,该项目可能会得到推动。据报道,苹果正在使用自己的M8 Ultra芯片构建企业人