试图将人类留在人工智能圈中实际上可能会将他们推出去
三位领先的人工智能伦理研究人员认为,防止人工智能代理流氓的关键保障-让人类参与审查和批准他们的决定-将失败,除非设计师和用户改变他们目前的做法。虽然大多数自主代理都有系统让用户了解他们的行为,但实际上这些过程实际上将人类排除在循环之外,作者在9月6日发表在ArXiv上的一篇论文中指出。换句话说,“人类只是成为这种肉工具,在没有认知能力参与的情况下给予许可,”作者之一Avijit说,
聚合官方博客 · 权威媒体 · 深度通讯 · 学术信号。
只做索引,不做转载,标题与链接均指向原始发布方。
三位领先的人工智能伦理研究人员认为,防止人工智能代理流氓的关键保障-让人类参与审查和批准他们的决定-将失败,除非设计师和用户改变他们目前的做法。虽然大多数自主代理都有系统让用户了解他们的行为,但实际上这些过程实际上将人类排除在循环之外,作者在9月6日发表在ArXiv上的一篇论文中指出。换句话说,“人类只是成为这种肉工具,在没有认知能力参与的情况下给予许可,”作者之一Avijit说,
将Amazon Quick资源(代理、动作连接器、知识库、流程和空间)从开发AWS帐户推广到生产AWS帐户一直是一项手工且容易出错的苦差事。这篇文章展示了如何在Amazon Bedrock AgentCore上使用等功能、可审核的HCP服务器自动化跨帐户促销。
使用LangChain在Amazon Bedrock托管知识库上构建检索增强生成(RAG)应用程序,并了解代理检索如何处理单次检索无法回答的多部分问题。通过两个路径运行相同的查询,读取跟踪事件,并比较每个检索路径的成本。
Amazon Quick不提供直接的控制台路径将用户从管理员或作者降级为Reader。这篇文章介绍了两种可靠的方法:手动删除并重新创建方法和AWS CLI逐步下降序列,该序列可以安全地降级角色,同时保留资产所有权。
多代理系统需要比流畅的响应更深层次的保证:它们必须选择正确的工具、尊重限制并解释他们的决定。了解如何构建基于Strands的多智能体供应链决策系统,并使用Amazon Bedrock AgentCore Evidations使用内置、自定义和可解释性评估器对其进行评估。
对于人工智能系统不断积累和分析的所有数据,企业人工智能代理经常遇到一个奇怪的缺点:缺乏知识。知识不仅仅是数据,还包括对数据在单个组织环境中含义的理解。人工智能代理需要这种理解来推理情况、做出决策,并最终.
新广告将于本月晚些时候开始在美国出现,但目前将推出来自最初测试广告商群体的产品和服务。
OpenAI将在ChatGPT中推出全新图片广告形式,不会影响生成结果 凤凰网科技
Claude有意识吗?Anthropic找上神学家,奥特曼警告:别神化AI 智源社区
OpenAI如何在欧盟规则下处理文本水印。了解水印应用的位置、检测的工作原理以及为什么访问权限始于研究人员。
了解创始人如何在TechCrunch Disrupt 2026上选择构建开放人工智能还是封闭人工智能。立即注册,最多可节省100美元,并以50%折扣获得第二张通行证。
Anthropic、OpenAI、谷歌与Meta高管将出席纽约市议会AI风险听证会 新浪财经
独立研究人员发现了一个似乎在腾讯基础设施上运行的代理群,目标是阿里巴巴的地图服务Amap。
另外:阿特拉斯获得四指升级
来认识一下最后五位Startup Battlefield评委,他们将决定谁赢得TechCrunch Disrupt 2026的场地竞赛。立即获得通行证,最多可节省100美元,并以50%的折扣获得第二张通行证。
美股异动| Cerebras大涨近9%,与OpenAI正展开“深度合作”;SPCX涨近4%,微软涨近2% 港美股资讯 hstong.com
Aleph Alpha发布了Kolibri,这是一个德英混合专家模型,具有780亿个参数,其中每个代币约有30亿个活跃参数。超过21%的训练数据是德语。该模型在德国和芬兰的768个B200图形处理器上进行了训练,重量可以在Apache 2.0许可下免费提供。Aleph Alpha发布了Kolibri这篇文章,这是一个开放重量模型,为欧洲人工智能主权辩护,首次出现在The Decoder上。
完整的TechCrunch Disrupt Stage阵容揭晓,其中包括Max Hodak、Mark Wahlberg、Benchmark合作伙伴等。立即注册,即可在通行证上节省高达100美元,并以50%的折扣获得第二张通行证。
挪威希望有时间制定可以记录旁观者的眼镜永久规则。
2026年,企业人工智能的问题不再是预测模型是否能优于统计预测--这个论点已经解决。现在的大问题是如何使预测系统能够根据自己的结论采取行动,而不偏离业务意图。前沿已从预测转向自主决策,以及.
乳腺癌是美国女性最常诊断的癌症,但护理差距很大。大多数40岁以上的女性跳过建议的年度筛查。放射科医生正在用更少的同事阅读更多的乳房X光检查。当诊断结果到达时,为治疗提供信息的测试可能需要数周时间才能返回结果。[…]
OpenAI安全关键人物离职,揭露迭代部署致命隐患 手机新浪网
美国的ChatGPT用户很快就会看到显示广告,而聊天机器人会为他们生成图像。文章ChatGPT的新广告格式填充图像生成加载屏幕与产品轮播出现在解码器上。
多次曝出安全问题后 OpenAI安全系统团队负责人已辞职 东方财富
9月13日,数学和计算机科学领域的杰出人士和后起之秀聚集在德国一年一度的海德堡桂冠论坛上,进行为期一周的讨论、交流和自然的香肠。在过去参加过几次这样的活动之后,数学家们通常会把他们的闲聊集中在哪些著名的研究人员在场,或者他们正在研究什么有趣的问题上。但是,每一个偶然听到的谈话片段或任何无意中听到的辩论都是关于OpenAI,Anthropic和Google等人工智能公司如何在技术上取得巨大成功。
Safeworld正在打造数字人类,以确保机器人不会伤害真实的人类。
麻省理工学院的一个专家委员会警告说,人工智能正在侵蚀大学体验的关键部分:办公时间、学习小组和学校针对本科生的旗舰研究项目都在消失。教师和学生之间的信任正在崩溃,一些教授甚至考虑将人工智能代理而不是学生作为研究助理。这所与人工智能起源故事联系最紧密的大学现在呼吁对高等教育进行全面改革。文章AI正在侵蚀办公时间,学习小组以及师生之间的信任,麻省理工学院的报告发现首先出现在解码器上。
直指公司文化危险!OpenAI又一安全负责人离职 东方财富
从绿藻里的光开关,到控制神经元
OpenAI在ChatGPT中引入了一种新的视觉广告格式,并为广告商扩展了测量工具、归因合作伙伴关系和品牌适合性。
加:如何在不同型号之间做出选择
Anthropic请多个宗教学者“教Claude做人”,且要求签保密协议 新浪财经
一位Transformer在Yandex Music的A/B测试中进行了候选人生成和排名,没有手工设计的功能,支持率上升了11.42%。Yandex推出Sona:取代整个推荐级联的单代推荐器这篇文章首先出现在MarkTechPost上。
今年夏天,我与Springboards的首席执行官进行了交谈,这是一家初创公司,致力于建立法学硕士学位,旨在提出比主流竞争对手更广泛的回应。通话开始时,他说了一句一直萦绕在我脑海中的话:“我们经常说我们是一个自我厌恶的人工智能……
奥特曼:OpenAI与Anthropic在AI监管上存在根本性分歧 观点网
OpenAI回应特朗普超级智能说法,称AI已进入新时代 手机新浪网
刚刚,Tibo承诺「连续28天发布或重置」,OpenAI遭遇信任危机 36 Kr
📝 今日导语 ChatGPT 负责人谈常驻智能体、Temporal 演示恢复、Crusoe 解析成本:看清产品、执行与算力的落地条件。 🏷 今日关键词: ChatGPT 常驻智能体 Temporal 审批 Crusoe 算力成本 AI 客服 智能体安全 📰 今日精选内容 ChatGPT 负责人 Tibo Sottiaux:常驻 AI 智能体、插件生态与产品的下一步 Lenny's Podcast · 视频 · 评分 91 把人工审批当作
HN ð542· 463 评论
AI已经开始真正进入「造下一代AI」的流水线
NVIDIA大力押注美国版DeepSeek:Reflection将发开源AI大模型 驱动之家
阿里巴巴的Qwen从2023年4月的仅限邀请的聊天机器人转变为2026年8月的2.4万亿参数开放权重模型。这是完整的故事,逐个版本:每个主要型号、其关键功能以及其许可证如何变化。每个说法都链接到其来源。Qwen的故事:阿里巴巴的人工智能模型从7B到2.4T首先出现在MarkTechPost上。
谷歌副总裁兼研究主管Yossi Matias探讨了人工智能如何开始重塑生物学、基础设施、制造业和科学,以及为什么当它与其他领域交叉时,它可能会产生最大的影响。与我们的《麻省理工学院技术评论》编辑一起走进新闻编辑室,了解研究团队的尖锐分析和未发表的见解.
OpenAI 奥特曼:AI 具备巨大价值,社会需接纳部分发展代价 新浪财经
有改进就体验,没改进就重置,横竖不亏。
Cantina Security与Yeta Labs合作发布了apex-Flash-1,这是一个专门针对漏洞研究训练的开放权重模型。它是Z.ai的GLM-5.3-Flash的强化学习微调,在麻省理工学院许可下在Hugging Face上发布。它可以部署吗?是的,MIT权重适用于vLLM、SGLang或Transformers,但BF 16需要大约640 GB的图形处理器内存。[...]帖子开放模型可以进行安全研究吗?Cantina的ap
研究:Qwen 3.8 27 B补充Colin Frasier在Bluesky上发布了一项实验,讲述了他两年多前使用GPT-4 o进行的一项实验,以观察它在越来越大的数字中“计算总和并以文字返回答案”的效果如何。以下是他分享的这些结果的图表:我相信GPT-4 o没有作弊并使用计算器,特别是因为它有很多计算错误,但我受到启发,在本地硬件(DGX Spark)上再次运行该实验,以探索在完全受控的环境中的效果。我将他的图像粘贴到Codex远程