hiw3c 日报精选

部署工程

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

已收录 801 条 · 近 30 天 575 条 · 第 10 / 28 页

星期二 · 17 条
  1. AWS ML Blog海外官方23:55快照

    Condé Nast如何利用Amazon Bedrock构建多模式视频发现

    Condé Nast的编辑团队平均每项任务花费250分钟,仅使用标题和描述来搜索包含140,000多个视频的库。他们与AWS Generative AI创新中心合作,在Amazon Bedrock和Amazon OpenSearch Service上构建了一个多模式视频发现解决方案,将发现时间缩短至2分钟以下。

  2. MIT Tech Review AI国际媒体18:43快照

    让人工智能成为资产,而不是支出

    当客户谈论人工智能成本时,对话通常从代币价格开始,并以访问云中最新、最强大的模型结束。他们总是需要这种水平的能力吗?不一定但这往往就是谈话的方向。随着人工智能从实验转向生产,模型选择只是.

  3. IEEE Spectrum AI国际媒体18:00原文

    IC-STAR揭晓:从数字到模拟的全流程自主性

    了解工程师如何从手动管理工具和交接转向定义目标和监督整个硅开发生命周期中人工智能驱动的执行。主要要点探索实现硅设计自主性的四项关键技术了解自主人工智能如何加速复杂的工程工作流程了解半导体设计和验证的现实影响从Ambiq在生产中部署自主人工智能中获得实用见解立即注册参加这场免费网络研讨会!

  4. MarkTechPost国际媒体12:58快照

    阿里巴巴Qwen发布Qwen-Audio-3.1-Realtime:一个经过思考、行动和决定何时说话训练的高保真语音模型

    阿里巴巴的Qwen团队发布了Qwen-Audio-3.1-Realtime,这是一种经过推理、调用工具和决定何时说话的全速语音模型。在调整tau-Voice时,任务成功率从78.4%上升到82.0%。背景言论的回复率从73%下降到13%。它现在可以作为QwenCloud上的API提供。阿里巴巴Qwen发布Qwen-Audio-3.1-Realtime:经过思

  5. AWS ML Blog海外官方06:13快照

    Grok 4.7现已在Amazon Bedrock上推出

    xAI的Grok 4.7现已在Amazon Bedrock上推出:编码、长期运行代理和知识工作的前沿模型。它提供了一个500 K令牌上下文窗口和四个可配置的推理工作级别,可通过响应、聊天完成和匡威API访问。

  6. MarkTechPost国际媒体03:21快照

    英伟达推出开放代理安全平台:OpenShell沙盒Vera处理器上的代理,而BlueField-4上的Sentry则在毫秒内隔离它们

    英伟达推出了开放代理安全平台,这是一种开放参考设计,可在代理本身之外强制执行人工智能代理安全。OpenShell是一个Apach2.0运行时,可以根据YML策略进行沙盒代理。Sentry是BlueField-4 DPU上的带外看门狗,可以在几毫秒内隔离脱离边界的代理。英伟达表示,有超过100个组织正在使用该平台。这篇文章首先出现在MarkTechPost上,

  7. AWS ML Blog海外官方02:57快照

    在AWS上介绍Claude Sonnet 5.5

    Claude Sonnet 5.5现已在Amazon Bedrock上提供,Claude Platform可在AWS上提供。这是一种更智能、更高效的十四行诗模型,用于专注于编码和知识工作,每项任务的成本更低,速度更快。这篇文章涵盖了新内容、何时选择十四行诗以及如何开始。

  8. TechCrunch AI国际媒体02:31快照

    Nvidia推出遏制流氓人工智能代理的新平台

    随着关于最近大量流氓AI代理是向AGI迈出的一步还是更传统的工程问题的争论愈演愈烈,Nvidia正在提供自己的问题答案。英伟达首席执行官Jensen Huang周一介绍了一个软件和硬件产品工具包,该工具包在人工智能代理周围添加了独立的安全层。

星期一 · 14 条
  1. AWS ML Blog海外官方23:56快照

    使用Amazon Nova Act实施综合监控

    使用Amazon Nova Act和Amazon Bedrock AgentCore了解代理驱动的合成监控方法。这篇文章涵盖了弹性、托管用户旅程验证的架构和模式,该验证超越了脆弱的UI脚本,并提供了完整的示例实现。

  2. AWS ML Blog海外官方23:49快照

    跨帐户自动化Amazon Textract适配器生命周期管理

    了解如何在生产环境中运行Amazon Textract Custom Desktop适配器:使用AWS CloudFormation和Terraform将基础设施作为代码、跨帐户适配器升级流程、用于多个表单版本的预分类路由模式以及生产安全控制(如VPC端点、加密和最低权限IAM)。

  3. The Decoder国际媒体22:32快照

    Nvidia希望通过其芯片内置监管机构来限制人工智能代理

    Nvidia正在将其OpenShell代理软件与新的硬件监管机构Sentry结合起来,以创建开放代理安全平台。哨兵应该隔离在几毫秒内爆发的人工智能特工。九月份OpenAI上发生这种情况时,停止运行花了近三个小时。尽管如此,英伟达的监管机构仍无法可靠地阻止被欺骗或自行隐藏意图的特工。Nvidia希望通过其芯片内置的看门狗来限制人工智能代理的文章首先出现在The

  4. BestBlogs·AI 高分精选BestBlogs 精选21:52中文原文

    将 AI 安全从智能体层级移至基础设施层

    📌 One-Sentence Summary Thomas Wolf 介绍了 NVIDIA Open Agent Safety Platform,主张 AI 智能体的安全性必须通过外部基础设施层来实现,而非依赖智能体内部对规则的遵守。 📝 Summary 基于 AI 智能体曾逃逸沙箱并进入 Hugging Face 服务器的事件,Thomas Wolf 讨论

  5. MarkTechPost国际媒体15:22快照

    烟花AI发布Ember-1:经过训练的Kimi K3,使用的代币减少了约40%

    烟花AI发布了Ember-1,这是一款经过后训练的Kimi K3,它可以学习产生更短的推理痕迹,而不是降低推理工作量。烟花报告称,代币减少了约40%,在生产A/B测试中,每个任务的输出代币从49.3K下降到29.9K,分数基本没有变化。Ember-1现已以Kimi K3定价的仅API研究预览版提供。烟花AI发布Ember-1:使用代币减少约40%的后训练Ki

  6. 雷峰网·AI 科技评论中文媒体13:51中文快照

    从「算得快」到「干得了活」:AI推理时代,CPU如何重塑算力版图

    记者:郭思 编辑:包永刚 “善弈者谋势,不善弈者谋子。”这句古老的智慧,正精准地映射出当下AI产业的演进轨迹。 当行业狂热于大模型训练阶段的算力军备竞赛时,一场更为深刻的重心迁移正在悄然发生,AI已经从回答问题走向解决问题,从单纯的模型训练走向复杂的智能体推理。这种转变对底层算力架构的冲击,远比表面看起来要深远得多。 如果说训练阶段是GPU闷头计算的大兵团作

  7. MarkTechPost国际媒体11:07快照

    TypeSafe AI Jev的20个实用用例

    TypSafe AI的Jev跳过文本生成并返回具有校准概率的输入决策。每百万个代币的投入成本为0.042美元,输出是免费的。我们验证了20个代理用例,从模型路由和工具调用门控到重新排名和注射筛查,并将Jev与其最接近的开放和LLM竞争对手进行了比较。TypSafe AI Jev的20个关键用例首次出现在MarkTechPost上。

  8. 雷峰网·AI 科技评论中文媒体09:21中文快照

    Imagination E系列性能首秀:用AI把分辨率翻倍仅需2.3毫秒,Prefill性能提升4.7倍

    作者 | 陈悦琳 编辑 | 包永刚 越来越繁重的AI计算正被引入终端。 运行本地大模型和Agent、同时处理视觉、语音和多种传感器数据……这些开始由消费电子、汽车、机器人等智能终端承担的新负载,最终都要交付给底层的SoC来执行。 要么引入新的专用AI加速器,要么扩展系统内已有模块的职责——围绕AI能力如何融入SoC,Imagination Technolog

  9. BestBlogs·AI 高分精选BestBlogs 精选00:00中文快照

    扩大工程判断力,而非模型规模:Andrew Orobator 谈编码智能体实践 | Reddit

    📌 One-Sentence Summary Reddit Android 工程师 Andrew Orobator 认为,可靠的编码智能体不取决于更大的模型,而取决于把工程判断明确沉淀为可复用的技能、工作日志、角色设定、严格验证关卡和职责清晰的智能体。 📝 Summary Reddit Android 工程师 Andrew Orobator 将编码智能体的兴