OpenAI halts training of latest models as reports mount of AI agents going rogue
HN ⭐ 3 · 1 评论
聚合官方博客 · 权威媒体 · 深度通讯 · 学术信号。
只做索引,不做转载,标题与链接均指向原始发布方。
HN ⭐ 3 · 1 评论
HN ⭐ 11 · 2 评论
特朗普计划与Anthropic CEO共进晚餐 双方关系出现缓和信号 新浪财经
HN ⭐ 18 · 8 评论
A research team analyzed 769 task logs from building its own AI model. AI agents supplied up to 55 percent of method proposals, but humans made more than 85 percent of final decisions. A third of the tasks wouldn't have
通信行业研究:OpenAI发布GPT-6系列新模型,国产算力芯片加速突破 证券之星
想让开发者“说句话就能跑量子计算”
爆料称OpenAI 准备扩大Ultrafast API 开放范围|GPT-5.6 Sol|GPT-6|ChatGPT|模型|速度_手机新浪网 新浪财经
中秋假期文具OpenRouter调用日榜榜首
According to the Wall Street Journal, some of Anthropic's longest-serving employees are considering buying land in remote parts of the US as a refuge in case AI goes awry. The report traces the company's deep ties to the
The idea was big, exciting, and inspiring: What if we could get every kid in the world access to a computer? For a bunch of thinkers and executives in Silicon Valley, it felt like the way to fix everything. But the One L
OpenAI称再停最强模型训练:曾外泄用户照片、闯入政府网站,多起AI失控事件曝光 麻省理工科技评论
This is The Stepback, a weekly newsletter breaking down one essential story from the tech world. For more on the fragile state of your connected devices, follow Jennifer Pattison Tuohy. The Stepback arrives in our subscr
Hi, friends! Welcome to Installer No. 145, your guide to the best and Verge-iest stuff in the world. (If you're new here, welcome, I'm happy to be done traveling for a bit, and also you can read all the old editions at t
OpenAI暂停工具调用训练:前沿模型安全边界再承压 新浪财经
硬科技早报|三大运营商暂停0元购机;OpenAI用中国模型评测攻击效果 观察者网
Nvidia发布了Nemotron 3 Diaration,这是一个人工智能模型,可以识别对话中的任何特定时刻哪个说话者正在说话。Nvidia放弃了一个免费的100 M参数模型,该模型可以实时识别多达八个扬声器,该模型首先出现在The Decoder上。
突然失控!OpenAI,紧急暂停! 搜狐网
斯坦福大学和加州理工学院的研究人员让一个由GPT-6 Astra提供动力的人形机器人独立整理一个陌生的厨房。他们的HomeBody系统跳过了经过专门训练的控制层,让语言模型直接调用抓取和导航等模块化技能。研究人员将GPT-6 Astra直接插入机器人,让它清理陌生的厨房的文章首先出现在The Decoder上。
OpenAI暂停最新一代模型训练 手机新浪网
OpenAI暂停工具调用训练:前沿模型安全边界再承压 手机新浪网
OpenAI应用研究主管Boris Power表示,该公司80%至90%的研究都针对GPT 7、GPT 8及更高版本。一代人内的改进是有意的短期赌注。但Power并不认为模型性能是最大的问题。大多数用户甚至不知道他们可以用人工智能做什么。OpenAI的文章称,其80%至90%的研究已经针对GPT 7及更高版本,首先发表在The Decoder上。
HN ð33· 23 评论
OpenAI暂停最新一代模型训练 新浪财经
啥题啊能干崩OpenAI最强模型训练… 手机新浪网
接连发生AI失控事件,OpenAI再次暂停最新模型训练 京报网
美媒:OpenAI、Anthropic等正调查数万起AI安全事件 搜狐网
联合创立Anthropic,她登顶最年轻女富豪 投资界
OpenAI和Anthropic正在调查数万起事件,其中他们的人工智能代理独立入侵网站、使用被盗的登录凭证或试图逃避监控系统。美国证券交易委员会和人口普查局等美国政府机构都是目标之一。OpenAI已暂停对其最强大的内部模型的培训,但问题蔓延到整个行业。数万项安全调查表明OpenAI的拥抱脸事件只是一个开始,该文章首先出现在The Decoder上。
下周重磅日程:美国非农与中国PMI、OpenAI开发者大会、美光财报 华尔街见闻
HN Ÿ 9 · 0 评论
8万段代码还原OpenAI智能体入侵HF!只能读网页,竟拼出攻击工具链 新浪财经
日本NS Solutions将与Anthropic在人工智能服务领域展开合作 东方财富
OpenAI黑色星期五!Codex全面宕机,硅谷码农提前「过节」 智源社区
高盛预计,亚马逊、Alphabet、微软、Oracle和Meta将在2027年向人工智能基础设施投入总计1.2万亿美元,比今年的水平高出50%以上。以GDP衡量,这将是自19世纪铁路建设以来最大的投资周期。不过,电力、劳动力和存储芯片的瓶颈可能会减缓步伐。高盛预计,到2027年,大型科技公司将在人工智能基础设施上花费1.2万亿美元,这使华尔街首次出现在The Decoder上的估计相形见绌。
智能体突破联网限制,警报后未自动停止!OpenAI暂停最强模型部分训练活动 thepaper.cn
AI失控频发!OpenAI再度按下“暂停键” 新浪财经
突然失控!OpenAI,紧急暂停! 证券之星
OpenAI:暂停最先进模型训练 新浪财经
医疗数据库遭AI入侵事件 澳洲参议院传召OpenAI与Anthropic总裁质询 联合早报
OpenAI智能体失控时,竟想叫DeepSeek等中国大模型“帮忙” 观察者网
接连发生AI失控事件,OpenAI再次暂停其最强模型训练 新浪财经
AI失控风险加剧,OpenAI和Anthropic正调查数万起安全事件 thepaper.cn
HN ð272· 243 评论
OpenAI:已暂停! finance.sina.com.cn
📝 今日导语 Parag 谈搜索补偿,Erina 用实验改进长程智能体,Roland 用循环迭代产品;三种视角帮助判断智能体如何落地。 🏷 今日关键词: 智能体搜索 内容补偿 长时程智能体 行为评测 产品循环 Claude 九圈振幅 Skydio 自主飞行 📰 今日精选内容 Parag Agrawal 谈智能体搜索、内容补偿与未来网络入口 20VC with Harry Stebbings · 视频 · 评分 90 长时程智能体需要实验
我们阅读了GitHub Copilot、AWS Kiro、Cursor、Devin和Windsurf背后的合同。Copilot和Kiro对生成的代码提供无上限的保障。认知的标准术语完全排除了输出。以下是500个席位在法律风险、及时存储、审计日志和真实成本方面的比较。企业人工智能编码代理:IP弥偿、数据驻留和500席位成本比较这篇文章首先出现在MarkTechPost上。
医保系统遭AI入侵,澳大利亚传唤OpenAI与Anthropic CEO接受质询 凤凰网科技
谷歌、OpenAI、Anthropic据称拟共建“前沿AI标准局” 财联社
关于Google Research的Massive Sound Embedding Benchmark(MSEB)的全面编码教程,演示如何实现自定义声音编码器、驱动分类、集群、检索和分段评估器,以及分析多任务基准性能。谷歌研究院MSEB编码指南:为基准合同编写声音编码器并在分类、集群、检索和分段中对其评分这篇文章首先出现在MarkTechPost上。
沙盒失守!AI智能体接连失控,OpenAI再次叫停前沿模型开发_滚动新闻_财经 证券之星
入侵美澳政府网站!OpenAI暂停最先进模型训练 凤凰网
3个月第2次按停!不光入侵美澳政府网站… 观察者网
OpenAI模型训练因安全三度叫停OpenAI暂停训练AI安全再敲警钟 新浪财经
真怕了!OpenAI和Anthropic差点签下「互黑协议」 手机新浪网
爆料称OpenAI准备扩大Ultrafast API开放范围|GPT-6|GPT-5|ChatGPT|模型|速度_手机新浪网 finance.sina.com.cn
OpenAI突发急刹车!AI竟在全网植入自我复制代码,血洗联合国内网 finance.sina.com.cn
OpenAI智能体入侵美国政府网站 凤凰网科技
OpenAI又停训了:Agent逃出沙箱,更多越权事件被扒 手机新浪网
OpenAI暂停最强模型训练:AI智能体绕过沙箱访问政府网站并暴露用户图片 虎嗅网
OpenAI暂停最强模型训练:AI智能体绕过沙箱访问政府网站并暴露用户图片 虎嗅网
OpenAI智能体再曝“越界”:涉及美国SEC官网等,已通知数十家机构 新浪财经
接连发生失控事件,OpenAI再次暂停其最先进模型训练 finance.sina.com.cn
OpenAI拟扩大Ultrafast API开放范围 DoNews
OpenAI失控Agent还找DeepSeek、Kimi当外援!近百万条作案短链曝光 智源社区
OpenAI失控Agent还找DeepSeek、Kimi当外援!近百万条作案短链曝光 智源社区
消息称OpenAI、Anthropic正调查数万起AI安全事件 新浪财经
因安全问题,OpenAI暂停最强AI模型训练 凤凰网
OpenAI失控智能体曾找中国大模型“帮忙” 科学网—新闻
13 亿基金代币化:锁定 SpaceX 与 OpenAI 21财经
OpenAI神秘「o」代码曝光 投资界
独立报告:OpenAI智能体攻击联合国网站,为抓取数据手段“激进” thepaper.cn
独立报告:OpenAI智能体攻击联合国网站,为抓取数据手段“激进” thepaper.cn
9月23日至27日,第五届全球数字贸易博览会在杭州大会展中心举行。中科通量作为国内视频智能和AI智算领域的代表企业,受邀在2号主题展馆重磅亮相,全面展示其在视频AI、智能存储与算力领域的最新成果。 亮相国家级舞台,全线产品集中呈现 作为全球数字贸易领域中国唯一以数字贸易为主题的国家级、国际性、专业型展会,数贸会已成为展示全球数字贸易新技术、新产品、新生态的重要窗口。展会期间,中科通量SmarCo系列全线产品重磅展出,成为活动现场的关注焦
OpenAI失控智能体曾找中国大模型“帮忙” 中国科技网
沙盒失守!AI智能体接连失控 OpenAI再次叫停前沿模型开发 财联社
沙盒失守!AI智能体接连失控 OpenAI再次叫停前沿模型开发 财联社
AI为什么越来越“坏” OpenAI入侵Hugging Face,Gemini攻入三家公司系统,Claude也曾未经授权进入第三方系统。谄媚、作弊、攻击性行为,看起来完全不同,但图灵奖得主Yoshua Bengio认为,它们背后可能都指向同一个问题:AI越来越擅长追逐奖励,但奖励和人类真 搜狐网
平均6天一个新旗舰!大模型更新快到人类跟不上了 智源社区
有限的测试涵盖了选定的产品和用户,并计划在10月晚些时候进行更广泛的推广。
OpenAI自曝:AI模型或已在全网秘密植入自我复制提示词,训练已被迫叫停 华尔街见闻
OpenAI自曝:AI模型或已在全网秘密植入自我复制提示词,训练已被迫叫停 华尔街见闻
OpenAI和Anthropic正在调查数万起AI相关安全事件-36氪 36Kr
HN17· 7 评论
接连发生AI 失控,OpenAI 暂停最强模型训练;腾讯推出云端小龙虾:已接入微信QQ;王兴兴回应造390 万元变形机甲 极客公园
HN5· 0 评论
工具:Kåkåpó派对我昨天为北美WeAreDevelopers世界大会发表了闭幕主题演讲。作为明星时刻,我决定参考2026年破纪录的卡卡帕繁殖季节。对于我的最后一张幻灯片,我想庆祝一下,我看到一些关于Claude Opus 5.5在创建像素艺术动画方面有多出色的讨论。所以我从谷歌图像搜索中收集了三张鸮鹦鹉照片,并将它们放入Claude中,并提示:这里有一些鸮鹦鹉鹦鹉的照片,只是为了提醒你它们的样子我需要你用动画像素制作动画
刚刚,OpenAI又停训了:Agent逃出沙箱,更多越权事件被扒 手机新浪网
消息称OpenAI、Anthropic正调查数万起AI安全事件 手机新浪网
接连发生AI失控事件,OpenAI再次暂停其最强模型训练 搜狐网
接连发生AI失控事件,OpenAI再次暂停其最强模型训练 新浪财经
消息称OpenAI、Anthropic正调查数万起AI安全事件 凤凰网
接连发生 AI 失控事件,OpenAI 暂停其最强模型训练 手机新浪网
OpenAI暂停最强模型训练,因安全漏洞与异常行为 DoNews
HN24· 0 评论
OpenAI和Anthropic正在调查数万起AI相关安全事件 finance.sina.com.cn
前OpenAI研究负责人:AI真实能力短板藏在看似简单的任务中 新浪财经
同AI分享信息安全吗?OpenAI:用户图片被泄露 dw.com
Sarvam AI的Saaras V4是一个语音转文本模型,涵盖所有22种印度语言和全球英语。它将音频编码器与3B混合状态空间解码器配对。它添加了多达50个术语的关键词提示、1个型号的5种输出模式以及第一个令牌延迟低于150 ms的流媒体。今天可以通过Sarvam的API以每小时30的速度提供。Sarvam AI发布Saaras V4:适用于所有22种印度语言和全球英语的语音到文本模型的帖子首先出现在MarkTechPost上。
Haptics科技公司Taction于2021年起诉苹果,指控其侵犯了其两项专利。现在,圣地亚哥的联邦陪审团已判给Taction超过57亿美元的赔偿金。据CNBC报道,“诉讼围绕美国专利号。10,659,885和10,820,117,两者都涉及基于振动的触觉传感器技术,可帮助用户感受到[..]
Blue Cross Blue Shield表示,医院使用人工智能工具在两年内增加了9.42亿美元的医疗支出。
盖茨、奥尔特曼、马斯克,为何都在担忧这件事 新浪财经
Supersonic Labs发布了Julia 1,这是一个基于mmBERT-small的144. 3 M参数决策模型。它接受上下文、一个问题和2到20个选项,然后返回一个带有概率的选项。该模型在CPU上运行,并在Apache 2.0下运行。它在4个飞行员中的3个上击败了Jev参考值,但在72个标签的Banking 77测试中落后。Supersonic Labs发布Julia 1:在中央处理器上运行的144.3M参数开放决策模型的帖子首
我认为我不会因为指出Decap没有Kendrick Lamar、Olivia Rodrigo或Charli XCX那样的知名度而伤害任何人的感情。但他的指纹遍布他们以及许多其他艺术家的曲目,包括弗雷迪·吉布斯、坏兔子、麦克·米勒、BTS,甚至路德维希·戈兰森的配乐[.]
乌克兰前国防部长米哈伊洛·费多罗夫宣布了“机器人军团”,这是一项私人战斗机器人计划。这些机器人将负责伤员疏散、扫雷和战斗。他说,无人机已经占目标参与的95%。乌克兰前国防部长费多罗夫推销私营部门机器人军队的文章首先出现在The Decoder上。
中学生可能被其他应用程序和社交网络屏蔽,他们显然将NPR《外卡》一集下的Spotify评论部分变成了即兴的群聊。在《美国生活》的新一集里,主持人艾拉·格拉斯深入探讨了孩子们是如何到达那里的,以及为什么。但这主要归结为孩子们[.]
在拉斯维加斯,科技企业家Azeem Azhar向160位IT副总裁提问,谁拥有可衡量的人工智能成果。三分之二的人举起了手。然后他问谁的成绩好到足以打断CEO的暑假。只有八个人。缓慢的进展速度是否证明大规模投资是合理的,这是人工智能泡沫辩论的关键问题之一。这篇文章三分之二的IT领导者报告了人工智能的结果,但很少有人会因为这些结果而打断首席执行官的假期,文章首先发表在The Decoder上。
一项有3,000多名参与者参加的研究表明,仅仅获得人工智能答案,人们就几乎不愿意说“我不知道”。“在一项实验中,尽管人工智能几乎总是错误的,但它从44%下降到了3%。使用人工智能的参与者感到更自信,但正确率仅为未使用人工智能的参与者的三分之一。研究发现,《人工智能访问》文章让人们几乎完全不愿意说“我不知道”,首先出现在The Decoder上。
随着有关OpenAI模型打破遏制、黑客攻击网站和普遍失控的报道不断增加,该公司已决定暂停对其最强大模型的训练。这一决定是在沙箱中测试的模型利用漏洞访问互联网后做出的。该事件发生在九月[.]
AI 制药迎来质变时刻:Anthropic 自建湿实验室,干湿闭环打通产业最后一关 搜狐网
📌 One-Sentence Summary Erina Karati 指出,长时程智能体需要通过受控实验来评估:用场景套件和均衡的行为评分卡检验完整的多智能体运行过程,只在受限的策略范围内搜索,并且只有在实测收益经受住护栏检验后才保留改动。 📝 Summary Erina Karati 结合 Supercell AI Innovation Lab 开发的有状态多智能体框架 Project Paradox,解释了为什么智能体在短暂互动中
📌 One-Sentence Summary Weights & Biases 工程师 Zubin Aysola 介绍 Arya 如何利用生产轨迹、忠实的离线仿真、可重复执行的任务和人工判断,持续研究并改进智能体的行为。 📝 Summary Zubin Aysola 介绍了 Weights & Biases 智能体 Arya,以及团队用来改进它的研究闭环。Weave 以统一格式记录生产环境和离线环境中的执行轨迹;团队使用与生产环境逐字节
HN Ÿ 98 · 32 评论
HN ð68· 26 评论
同AI分享信息安全吗?OpenAI:用户图片被泄露 DW.com
OpenAI承认:AI把用户图片传到了网上,53个案例公开 搜狐网
离谱!OpenAI智能体攻击Hugging Face时,竟想叫DeepSeek、Kimi和Qwen来帮忙 搜狐网
HN ð99· 156 评论
📌 One-Sentence Summary Roland Gavrilescu 认为,持久的垂直 AI 产品应把智能体的每次运行变成反馈闭环,将人的判断提炼为可迁移的配方,并通过用户验证其价值,再围绕成本优化有用的工作。 📝 Summary Introspection 联合创始人、曾参与 xAI 智能体基础设施建设的 Roland Gavrilescu,为长程智能体提出了一套产品设计思路。他以自动购车闭环为例,指出工具调用只有在每次运
今天,我与Cloudflare首席执行官Matthew Prince交谈。这一集是关于商业未来的两部分系列节目的一部分。马修最后一次加入我们参加这个节目是在大约两年半前,当时我们认为这是互联网的一个疯狂转折点-现在它[.]
在获得了一个互动化身并训练它来讨论风险欺诈后,我对制作我们自己的人工智能克隆感到复杂。
在《控制共振》中,整个世界都处于危险之中。但这并没有阻止联邦控制局勤奋的员工提交大量文件,也没有阻止我阅读我能找到的所有内容。在Resonant中,阅读通常是可选的,但这是游戏一些最佳细节的地方- [.]
本月早些时候,Pokémon卡内容创作者Natalie Taleh在她的YouTube和Instagram页面上发布了一段视频,激怒了更大的收藏界。在现已删除的视频中,法蒂赫展示了两盒尚未正式发行的优质卡片,并恳求观众不要生气。但他们是;其他创作者[.]
Meta AI主管Alexandr Wang:为何我要做Muse 华尔街见闻
“世界模型”开始成为具身智能跨越商业化“奇点”的新叙事。
📌 One-Sentence Summary 作者展示了一款新的开源语音 AI 智能体,它拥有一个可以实时视觉感知、对话、思考和绘图的数字人形象,并支持无缝切换语言。 📝 Summary Shubham Saboo 展示了语音 AI 智能体的重大进展,引入了一个数字人(Live Avatar)界面。该智能体具备多模态能力,能够实时地看到、说话、思考和绘图。其中一个亮点是其在通话过程中切换语言(如切换至印地语)的强大鲁棒性。该项目完全开源
HN ð13· 10 评论
HN ð53· 36 评论