试图将人类留在人工智能圈中实际上可能会将他们推出去
三位领先的人工智能伦理研究人员认为，防止人工智能代理流氓的关键保障-让人类参与审查和批准他们的决定-将失败，除非设计师和用户改变他们目前的做法。虽然大多数自主代理都有系统让用户了解他们的行为，但实际上这些过程实际上将人类排除在循环之外，作者在9月6日发表在ArXiv上的一篇论文中指出。换句话说，“人类只是成为这种肉工具，在没有认知能力参与的情况下给予许可，”
Agent 智能体
让模型自主规划、调用工具、完成多步任务的技术方向——从编码 Agent 到各家 Agent 框架与评测基准的全部动态。
已收录 1403 条 · 近 30 天 1052 条 · 第 10 / 38 页
-
-
使用LangChain和Amazon Bedrock知识库进行统计检索
使用LangChain在Amazon Bedrock托管知识库上构建检索增强生成（RAG）应用程序，并了解代理检索如何处理单次检索无法回答的多部分问题。通过两个路径运行相同的查询，读取跟踪事件，并比较每个检索路径的成本。
-
使用Amazon Bedrock AgentCore评估多智能体系统的可解释性和帮助性
多代理系统需要比流畅的响应更深层次的保证：它们必须选择正确的工具、尊重限制并解释他们的决定。了解如何构建基于Strands的多智能体供应链决策系统，并使用Amazon Bedrock AgentCore Evidations使用内置、自定义和可解释性评估器对其进行评估。
-
将人工智能代理与企业知识连接起来
对于人工智能系统不断积累和分析的所有数据，企业人工智能代理经常遇到一个奇怪的缺点：缺乏知识。知识不仅仅是数据，还包括对数据在单个组织环境中含义的理解。人工智能代理需要这种理解来推理情况、做出决策，并最终.
-
研究人员正在追踪中国人工智能“代理舰队”
独立研究人员发现了一个似乎在腾讯基础设施上运行的代理群，目标是阿里巴巴的地图服务Amap。
-
将预测分析带入代理人工智能时代
2026年，企业人工智能的问题不再是预测模型是否能优于统计预测--这个论点已经解决。现在的大问题是如何使预测系统能够根据自己的结论采取行动，而不偏离业务意图。前沿已从预测转向自主决策，以及.
-
EP196 · ChatGPT 负责人谈常驻智能体、Temporal 演示故障恢复、Crusoe CEO 谈算力成本
📝 今日导语 ChatGPT 负责人谈常驻智能体、Temporal 演示恢复、Crusoe 解析成本：看清产品、执行与算力的落地条件。 🏷 今日关键词： ChatGPT 常驻智能体 Temporal 审批 Crusoe 算力成本 AI 客服 智能体安全 📰 今日精选内容 ChatGPT 负责人 Tibo Sottiaux：常驻 AI 智能体、插件生态与产品的
-
Cloudflare表示，其新的Clef模型意味着人类不再需要参与AI代理的循环
借助Clef和Clef-Flash，Cloudflare正在挑战TypSafe AI的Jev决策模型。Clef-Flash在大约39毫秒内提供分类，比Jev快十倍多。这两个模型都是基于Qwen构建的，在Apache 2.0下获得许可，旨在让人工智能代理在不生成文本的情况下做出结构化决策。文章Cloudflare表示，其新的Clef模型意味着人类不再需要参与其
-
苹果表示，由于人工智能代理的新风险，它正在加强macOS“全磁盘访问”控制
苹果表示，将对macOS的Full Disk Access权限添加新的控制，并警告说，能力日益增强的人工智能代理使广泛访问用户文件、消息、邮件和浏览历史记录的风险更大。
-
OpenAI的Dot代理是一款企业软件，也可以为您订购晚餐
这是一个与上周一样古老的故事：OpenAI的新代理平台名为Dots，里面充满了可以听从您的命令的可爱小家伙。但与超级平易近人的Meta Muse不同的是，Dots感觉很像使用工作场所软件，碰巧能够为您订购墨西哥卷饼--强调工作。OpenAI宣布[.]
-
GPT-6系列型号指南
了解初创公司如何选择GPT-6模型、调整推理工作、改进提示和技能、协调工具以及准备生产工作流程。
-
缪斯的生意中出现了点
OpenAI对Muse的回应于本周发布，它看起来很像穿着西装打着领带的Muse。Dots是一款商业优先的产品--至少目前是这样--每月至少花费100美元。当然，你可以制作一个可爱的小Dot角色，就像你可以制作[.]
-
在Amazon SageMaker AI上微调具有多回合RL的搜索代理
微调向小型搜索代理传授您的工具和环境，以较低的延迟和成本赋予其前沿模型的可靠性。在这篇文章中，我们在Amazon SageMaker AI上通过多轮强化学习（MTRL）对LLM驱动的搜索代理进行了微调，并分享了我们在检索质量和可靠性方面测量的收益。
-
AWS Strands Labs发布Strands Decider 2B：一个开源决策模型，可在大约115 ms内选择选项
AWS的Strands Agents团队发布了Strands Decider 2B，这是一个基于Qwen3.5-2B-Base构建的Apache-2.0决策模型。它返回选择，是/否概率和分数与校准的信心在一个向前传递，从来没有文本。它在RTX 3090上运行的中值为115 ms，在JevBench公共集上的得分为0.723，这使其成为AI代理中路由，工具选择
-
EP193 · Claude 拓展科研方法｜DHH 宣布告别手写代码｜Tessl 核算软件工厂成本 · 10-02 早报
📝 今日导语 Claude 辅助科研、DHH 告别手写代码、Tessl 核算成本：理解 AI 协作的验证与收益。 🏷 今日关键词： 科研协作 DHH 手写代码 软件工厂 模型路由 AI 网关 检索模型 📰 今日精选内容 Claude 时代的科学 Anthropic Research · 文章 · 评分 91 每日脉动：RoR 作者再次引发‘手写代码终结论’辩
-
在Amazon Bedrock AgentCore上使用代理人工智能扩展云迁移
了解AWS Professional Services如何使用基于Amazon Bedrock AgentCore构建的多代理框架来自动执行端到端的企业云迁移。专门构建的AI代理处理发现、基础设施代码生成、投资组合治理和迁移后操作，将IaC开发时间从数周缩短到数分钟。
-
显示HN：石墨烯-编码代理的数据分析工具包
HN ð4· 1 评论
-
特朗普的“具有道德约束力”人工智能“协议”、人工智能代理人的崛起以及投票中的极端分子
本周在“恐怖谷”节目中，我们讨论了科技高管签署的自愿人工智能安全协议、普通人的人工智能特工以及竞选美国中期选举公职的极端主义候选人。
-
Claude 时代的科学
📌 One-Sentence Summary Matthew Schwartz 教授介绍了 'BootLoops'，该工具包旨在利用 LLM 解决「Claude 形状」问题——即 AI 在跨学科的编码和数学合成方面表现优异的定量科学任务。 📝 Summary Matthew Schwartz 教授讨论了 AI 加速科学研究方法的转变，从将 LLM 视为通用研
-
KaliBench：在Kali Linux上使用网络安全工具的细粒度基准，具有免运行时可验证奖励
作者：李小鹏、Naufal Suryanto、张思成|LLM越来越多地应用于网络安全工作流程，预计它们将分析师的意图转化为工具调用。然而，现有的评估侧重于基于知识的评估或端到端代理任务，并且不直接衡量LLM为现实世界的网络安全工具生成可执行命令的能力。这一差距至关重要，因为网络安全运营依赖
-
重建、实践、现实：有指导的自我完善
作者：王艳珍、江浩哲、邓淑英|在不同任务中建立可靠的机器人能力需要大量的人力努力来开发和维护技能、设计奖励以及集成感知与控制。我们提出了重建、实践、真实（RPG），这是一个用于在不更新模型权重的情况下自主改进机器人执行系统的框架。RPG识别离线数据集中的操纵能力并卸载
-
VISTA：互动世界中推理的视觉收件箱
作者：韩秋实，胡克亚，邱林璐|我们表明，多模式模型具有强大的推理能力，适当的工具可以释放它们在不同交互环境中解决任务的潜力。我们引入了VISTA，这是一种视觉工具，可以提供通用多模式模型的长期视野。VISTA允许模型通过视觉观察直接感知环境，并保持无损的视觉效果。
-
Show HN：Breadcrumb，在Mac + AI上下文管理器上记录所有内容
HN ð38· 5 评论
-
使用NVIDIA NeMo Agent Tools和Amazon S3 Vectors构建代理内存
了解如何使用Amazon S3 Vectors作为部署在Amazon Elastic Kubernetes Service（Amazon EKS）上的NVIDIA NeMo Agent Tools（RAT）中的持久内存层。这篇文章展示了纳特的内存子系统如何工作，以及如何使用多代理投资研究用例将Amazon S3 Vectors实施为自定义内存提供商。
-
随着决策模型充斥网络，亚马逊发布了自己的Jev克隆
Amazon Web Services的Strand Labs发布了最新的Jevalike决策模型Strands Decider 2B。
-
Shopify推出Canvas，一种通过与人工智能聊天建立在线商店的方式
Shopify的新Canvas网站构建器允许商户通过与其人工智能代理Sidekick聊天来创建和定制他们的在线商店，同时实时观看变化发生的情况。
-
使用Amazon Bedrock AgentCore构建环境代理：从事件驱动信号到人在循环工作流程
环境代理响应Amazon S3上传、日程安排或警报等事件，而不是等待聊天提示。这篇文章介绍了使用Amazon SQS、AWS Lambda和Amazon DynamoDB在Amazon Bedrock AgentCore上构建与框架无关的环境代理，并使用单个aq_human工具和用于人在循环审查的Jobs页面。
-
Clef：开权决策模型和新的RL微调平台
HN ð610· 213 评论