hiw3c 日报精选

部署工程

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

已收录 801 条 · 近 30 天 575 条 · 第 8 / 28 页

星期一 · 7 条
  1. AWS ML Blog海外官方23:51快照

    在Amazon Quick中降级用户角色

    Amazon Quick不提供直接的控制台路径将用户从管理员或作者降级为Reader。这篇文章介绍了两种可靠的方法:手动删除并重新创建方法和AWS CLI逐步下降序列,该序列可以安全地降级角色,同时保留资产所有权。

  2. BestBlogs·每日早报BestBlogs 精选14:00中文原文

    EP196 · ChatGPT 负责人谈常驻智能体、Temporal 演示故障恢复、Crusoe CEO 谈算力成本

    📝 今日导语 ChatGPT 负责人谈常驻智能体、Temporal 演示恢复、Crusoe 解析成本:看清产品、执行与算力的落地条件。 🏷 今日关键词: ChatGPT 常驻智能体 Temporal 审批 Crusoe 算力成本 AI 客服 智能体安全 📰 今日精选内容 ChatGPT 负责人 Tibo Sottiaux:常驻 AI 智能体、插件生态与产品的

星期六 · 3 条
  1. MarkTechPost国际媒体02:04快照

    NVIDIA宣布推出DGX Spark 64GB:用于本地AI代理、微调和推理的1 PetaFLOP Grace Blackwell台式机

    英伟达宣布推出新的64 GB配置DGX Spark -来自宏碁、华硕、戴尔、字节、惠普和微星--其基于GB 10的桌面人工智能系统。它为开发人员提供了一种从本地模型和代理的一个系统开始的方法,然后在整个集群中集群集群两个64 GB单元以获得128 GB内存和更多计算时[..]发布后,NVIDIA宣布DGX Spark 64 GB:用于本地AI代理、微调和推理

星期五 · 19 条
  1. AWS ML Blog海外官方23:44快照

    在Amazon SageMaker AI上微调具有多回合RL的搜索代理

    微调向小型搜索代理传授您的工具和环境,以较低的延迟和成本赋予其前沿模型的可靠性。在这篇文章中,我们在Amazon SageMaker AI上通过多轮强化学习(MTRL)对LLM驱动的搜索代理进行了微调,并分享了我们在检索质量和可靠性方面测量的收益。

  2. MarkTechPost国际媒体14:35快照

    AWS Strands Labs发布Strands Decider 2B:一个开源决策模型,可在大约115 ms内选择选项

    AWS的Strands Agents团队发布了Strands Decider 2B,这是一个基于Qwen3.5-2B-Base构建的Apache-2.0决策模型。它返回选择,是/否概率和分数与校准的信心在一个向前传递,从来没有文本。它在RTX 3090上运行的中值为115 ms,在JevBench公共集上的得分为0.723,这使其成为AI代理中路由,工具选择

  3. MarkTechPost国际媒体09:00快照

    Cloudflare发布Clef和Clef-Flash:开放权重决策模型,返回类型概率而不是文本

    Cloudflare发布了Clef(27 B)和Clef-Flash(9 B),这是开放权重决策模型,可以返回输入概率而不是文本。它们与Jev-API兼容,接受图像,并在Workers AI上以209.3 ms和38.8 ms的平均延迟运行。Cloudflare发布Clef和Clef-Flash:返回类型概率而不是文本的开放权重决策模型首次出现在MarkTe

  4. MarkTechPost国际媒体08:32快照

    Google Research的Kauldron编码指南:纯数据配置、字符串连接的组件以及您可以端到端阅读的JAX训练器

    在这本全面的编码指南中,我们探讨了Google Research的Kauldron--一个针对研究速度和模块化进行了优化的JAX训练库。了解konfig如何将实验转化为纯词典、kontext通过字符串路径连接组件以及ktyping强制执行运行时形状检查。Google Research的Kauldron编码指南:纯数据的配置、通过字符串连接的组件以及您可以端到

  5. NVIDIA AI Blog海外官方07:44快照

    NVIDIA图形处理器如何帮助加速OpenAI的GPT-6 Astra Ultrafast

    GPT-6 Astra Ultrafast在NVIDIA Blackwell图形处理器上运行,现已在OpenAI API中提供,并向符合资格的ChatGPT Work和Codex用户提供。Ultrafast通过利用NVIDIA Blackwell架构功能的OpenAI模型进行推理优化来加速,提供的代币生成速度比Astra标准模式快8倍。对于开发人员来说,[.

  6. AWS ML Blog海外官方03:49快照

    利用Amazon Quick在人工智能构建的应用程序中提供实时受监管的数据

    通过Amazon Quick中的应用程序中的实时数据,人工智能构建的应用程序可以实时查询您所管理的Quick Sight数据集,而不是静态的构建时快照。每个查询都以查看应用程序的人的身份运行,因此行级和列级安全性适用于每个读者。了解如何使用自然语言构建、发布和共享实时数据应用程序。

  7. arXiv cs.AI/CL/LG信号源(脚本内置抓取)01:59快照

    一个动画化的基础:实时化身的高斯混合形状蒸馏

    作者:Ramazan Fazylov、Stamatis Lefkimmiatis、Ivan Laptev| 3D高斯化身支持快速渲染,然而,它们的实时动画经常受到昂贵的神经推理的挑战。我们解决了这个瓶颈,并表明预训练的化身模型的动画可以通过与身份无关的混合形状的线性组合来接近。在这一发现的基础上,我们引入了GALA(通过线性逼近的高斯动画),这是一个

  8. AWS ML Blog海外官方01:34快照

    使用NVIDIA NeMo Agent Tools和Amazon S3 Vectors构建代理内存

    了解如何使用Amazon S3 Vectors作为部署在Amazon Elastic Kubernetes Service(Amazon EKS)上的NVIDIA NeMo Agent Tools(RAT)中的持久内存层。这篇文章展示了纳特的内存子系统如何工作,以及如何使用多代理投资研究用例将Amazon S3 Vectors实施为自定义内存提供商。

  9. AWS ML Blog海外官方00:32快照

    在AWS上实现Claude平台的多环境访问

    了解如何从单个订阅配置对AWS上的Claude Platform的安全、多环境访问:用于AWS工作负载的跨帐户SigV4、用于开发人员的工作空间范围API密钥以及用于外部环境的OIDC联合,并在专用AI服务帐户中进行工作空间级隔离。