NVIDIA Vera Rubin NVL72在MLPerf Inference v6.1中提供领先的性能
系统性能、高效的基础设施扩展和持续的软件优化是决定人工智能推理经济性的关键杠杆。更高的系统性能意味着生成更多的代币,从而带来更高的收入。高效的扩展意味着吞吐量随着硬件的添加而成比例增长,大规模为用户提供服务所需的资源更少。持续优化意味着从基础设施投资中产生更多价值。[…]
英伟达的 AI 芯片与生态动态:GPU 新品、CUDA 生态、机器人平台与 AI 算力市场的风向。
已收录 253 条 · 近 30 天 156 条 · 第 7 / 11 页
系统性能、高效的基础设施扩展和持续的软件优化是决定人工智能推理经济性的关键杠杆。更高的系统性能意味着生成更多的代币,从而带来更高的收入。高效的扩展意味着吞吐量随着硬件的添加而成比例增长,大规模为用户提供服务所需的资源更少。持续优化意味着从基础设施投资中产生更多价值。[…]
机器人行业仍在等待他们在日常生活中的突破。Nvidia的Les Karpas对TechCrunch Disrupt 2026的原因给出了答案。9月25日之前注册,可在通行证上节省高达200美元。
人工智能工厂是智能时代的基础设施。负责任地扩展它们将不仅取决于整个电网的创新,也取决于数据中心内部的创新。今天,Emerald AI、谷歌和英伟达宣布成立人工智能能源管理联盟(AEMA),这是一个首创的联盟,致力于推进数据中心的发展,使其能够动态管理其电力使用[.]
空气污染是一种严重的公共健康风险,在英国估计造成3万人死亡。去年独自一人数据驱动的见解可以提供帮助,但使用传统的基于化学的模型计算空气质量是昂贵的,这限制了它们的详细程度和运行频率。David Topping,一位在[…]
黄詹森表示,人工智能并不是某种新形式的“外星人思维”。这只是硬件和软件,因此安全性可以由每个人工智能产品制造商来设计。
了解如何利用NVIDIA的cuDNN Frontend Shape API来构建自定义内核融合、自动调整引擎配置、FP 8风格的尾声、扩展的点产品注意力、动态形状和CUDA图形捕获。这个实用教程演示了如何在框架抽象下优化深度学习计算,同时根据PyTorch验证结果。文章Inside NVIDIA的cuDNN Shape API:使用cuDNN Fronten
📌 One-Sentence Summary NVIDIA Groq 3 LPX 利用确定性执行实现精确的电流需求预测,从而进行主动电压控制和时钟周期合成,显著降低功耗开销,同时保持高交互性性能。 📝 Summary NVIDIA Groq 3 LPX 加速器通过确定性执行模型实现功耗效率,该模型允许编译器创建操作和数据移动的周期精确调度。这种可预测性支持两
在硅谷八月一个闷热的夜晚,随着太阳落山,空调负荷激增,硅谷电力公司向一家人工智能工厂发送了调整耗电量的信号。Varun Sivaram和大约四十人一起观看Zoom节目--他在Emerald AI的团队在旧金山会议室里,工程师们[.]
NVIDIA超大规模和高性能计算副总裁Ian Buck周二在AI Infra Summit上就AI工厂效率发表了讲话,该峰会在圣克拉拉会议中心举行,已演变为基础设施技术的Coachella。在拥挤的观众面前-今年有超过8,000名与会者,去年有3,500人- [...]
📌 One-Sentence Summary NVIDIA NVLink 6 通过结合硬件级错误校正、无损流控制和软件驱动的恢复机制,确保大规模 AI 集群的持续运行,并隔离和缓解瞬时故障。 📝 Summary 本文详细介绍了 NVIDIA NVLink 6 的全面可靠性架构,该架构旨在支持高可用性的 AI 工作负载。它涵盖了物理层使用前向错误校正和物理层重
Salesforce Koa基于Nvidia的开放重量Nemotron模型构建,并接受过执行销售、营销和客户支持任务的培训。
用三套 checkpoint 完成多轮证明搜索,用过程透明平息学术怒火,用 1.5TB 显存门槛锁定算力霸权。名为代码平权,实则算力集权。 作者丨 郑佳美 编辑丨岑 峰 9 月 9 日,NVIDIA 公布了 Nemotron 3 Ultra 在 2026 年 IMO 上使用的整套数学推理系统。 这套系统最终拿到 30/42 分,超过当届 29 分的金牌线。整
Token 砍半,活没少干,每小时还省13.5刀! 作者丨 高允毅 编辑丨岑 峰 最适合鞭打AI干活,还得是 AI 啊。 英伟达今早开源了一套提高工作效率的 Harness —— SoL-Pi ,它让AI亲自当监工,去Agent工作流中吹毛求疵,把每一处可能“摸鱼、浪费Token”的环节进行修复,自我迭代优化。 效率提升后,Token消耗最高减少了 64%,
📌 One-Sentence Summary NVIDIA FLARE 通过将持久的联邦服务与动态作业执行分离,实现了在异构环境中的联邦学习,允许站点使用 Docker、Kubernetes 或 Slurm,同时保持对资源和数据的本地控制。 📝 Summary 联邦学习项目往往因为基础设施环境的多样性而面临运营复杂性。NVIDIA FLARE 通过将持久的联
要闻提示 1.突发!英伟达:限制员工使用 Claude 2.重磅,一汽将成广汽第二大股东!南北丰田拟合并 3.苹果回应“iPhone 18 Pro破发”:第三方渠道有自己的定价权 4.比亚迪高管:燃油车没有未来 5.罗永浩遭前合伙人黄斌怒喷:一辈子都在吹牛,挺可怜的 6.高瓴90后合伙人严文韬或加入DeepSeek担任CFO,已发起离职流程 7.程序员为用公
尽管埃隆·马斯克(Elon Musk)和萨姆·奥尔特曼(Sam Altman)支持达里奥·阿莫德伊(Dario Amodei)放慢人工智能开发步伐的呼吁,但黄詹森似乎有不同的感受。