hiw3c 日报精选

部署工程

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

已收录 801 条 · 近 30 天 545 条 · 第 20 / 28 页

星期一 · 16 条
  1. AWS ML Blog海外官方23:42快照

    使用MF、Databricks Genie和Amazon Quick自动补充

    基础模型使整个目录范围的需求预测变得容易;现在最困难的部分是对预测采取行动。这篇文章在Databricks和Amazon Quick上建立了一个封闭的检测-决定-行动循环,将需求激增与实时供应商可用性进行协调,并将补充订单置于无人值守的状态,只有在没有供应商能够应对激增时才会升级到人工。

  2. BestBlogs·AI 高分精选BestBlogs 精选22:00中文快照

    高级开发者遵循的 7 条 Python 最佳实践(初学者常忽略)

    📌 One-Sentence Summary 文章识别了 Python 代码中的七个隐藏假设,并提出最佳实践——依赖注入、上下文管理器、超时、结构化日志、失败契约测试、元数据声明和弃用处理——以使代码具备生产环境准备。 📝 Summary 文章呈现了一种系统化的方法,用以揭示 Python 代码中常导致生产故障的七个隐藏假设。它将每个假设与具体的最佳实践配对

  3. 雷峰网·AI 科技评论中文媒体21:22中文快照

    蚂蚁发布大模型内生式安全护栏SingProbe,让AI边生成边识别风险

    大模型正在进入日常问答、办公辅助、客户服务等真实业务场景。用户期待AI快速给出有用的回答,也需要这些回答安全、可靠。如何及时发现不安全内容和编造信息,同时减少安全审核对响应速度和用户体验的影响,成为大模型应用落地需要解决的问题。 国家网络安全宣传周期间,蚂蚁AI安全实验室正式发布大模型内生式安全护栏SingProbe,将安全检测融入模型生成过程。它如同一个内

  4. 雷峰网·AI 科技评论中文媒体18:00中文快照

    国产智驾芯片新纪录,被产业伙伴联合书写的里程碑

    2025年,中国生产了3453.1万辆汽车,连续17年位居全球第一。即便规模巨大,中国汽车产量仍在快速增长,其中新能源汽车产量同比增长29%。 当中国车企在电动化赛道上已经跑赢全球,另一场更为隐秘的战争才刚刚分出胜负:装进汽车里的那颗“ 大脑”,正在从海外公司的手里,被一家中国公司夺回来。 汽车产量逐年增加,装进汽车里的国产智驾芯片,出货也同步加速。 国内量

  5. MarkTechPost国际媒体16:04快照

    NVIDIA开源ONSO:One YML演示物理人工智能训练、模拟和机器人测试

    英伟达拥有开源ONSO,这是一款Kubernetes原生工作流编排器,在内部用于Project GR 00 T、Isaac Lab和Isaac Sim。OASO让机器人团队在单个YML文件中定义训练、模拟和硬件在环任务,并将每个任务路由到正确的计算层,从GB 200集群到Jetson AGX Thor设备,无需基础设施代码。Apache-2.0获得许可,最新

  6. BestBlogs·每日早报BestBlogs 精选14:00中文原文

    EP175 · AI 选择效应、Bending Spoons、Antspace · 09-14 早报

    📝 今日导语 看 AI 采用数据先想选择效应;Bending Spoons 示范选人,Claude 底层藏着 Antspace。 🏷 今日关键词: 选择效应 断点回归 Bending Spoons Evernote Claude Code Antspace 具身智能 📰 今日精选内容 你的 AI 采用提升是选择效应 Towards Data Science

星期日 · 7 条
  1. 雷峰网·AI 科技评论中文媒体16:22中文快照

    大模型牌桌上,蚂蚁如何出牌?

    谈起国内 AI 公司,人们首先想到的往往是智谱、MiniMax、月之暗面等大模型创业公司,或者阿里、腾讯、字节这些拥有云和流量入口的大厂。 在这张竞争地图里,蚂蚁的位置一直没有那么容易被描述。它也做大模型,也做面向消费者的 AI 应用,现在甚至开始进入具身智能。 蚂蚁到底想在 AI 产业里占据什么位置?它准备依靠什么与其他大模型公司竞争,又想把自己的护城河修

  2. MarkTechPost国际媒体13:56快照

    收件箱内的上下文工程:克服长期任务中的上下文溢出和目标丢失的4种机制

    浅代理是LLM循环调用工具,在长任务中,它以两种方式失败:上下文溢出和目标丢失。本文打开了修复这两者的工具层,其中包含LangChain Deep Agents、Claude Code、Manus、OpenAI Codex和Amazon Bedrock AgentCore提供的实际阈值,以及显示20万窗口已填满的交互式模拟器。文章首先发表在MarkTechP

  3. MarkTechPost国际媒体09:42快照

    利用NVIDIA cuML、RAPIDS、GPU基准测试、可解释性、聚类和模型推理实现机器学习工作流

    本实用教程演示了如何使用NVIDIA cuML和RAPIDS构建和加速机器学习工作流程。它涵盖了图形处理器环境设置、使用cuml.accel的零码scikit-learn加速、关键ML算法的性能基准测试、使用UMAP和HDBSCAN的多管齐学习、使用FIL的树模型推理以及使用GOP加速的SHAP的模型解释性文章使用NVIDIA cuML、RAPIDS、图形处