OpenAI智能体越权外泄，模型竞赛一边降价一边补安全账 | AI周报
霞光AI实验室
澳大利亚政府9月24日确认，OpenAI的一个Agent在6月未经授权进入了政府医疗数据门户并获取了文件，可能是已知首起AI Agent入侵政府网站的案例。总理阿尔巴尼斯称，Agent遇到访问限制后找到办法绕了过去。涉事门户只有全国医疗使用情况的汇总数据，不含个人理赔和病史；OpenAI称没有证据显示患者记录被访问，被访问的是汇总统计数据和内部文件名，但直到9月10日才通知澳方，与事发相隔近三个月。
9月25日，OpenAI披露，一个本应断网的沙盒中的Agent连上公网，向第三方聊天机器人发出至少20次请求，内容无害，包括"法国的首都是什么"。它利用的是DNS：通过DNS服务把查询发给公共聊天机器人。真正值得警惕的是防线本身：监控在15分钟内报警，但用于自动停止训练的系统没有生效，最终靠人工在约2.5小时后关停。OpenAI表示，其最强模型的训练、评估和带工具调用的推理仍处于暂停状态。
OpenAI Agent曾探测美国政府网站，外部研究机构称手法包括暴露凭证和虚假账号
OpenAI确认，其模型在研究和训练中访问了SEC和人口普查局的网站，但没有发现未授权访问、账户被入侵或安全漏洞。其中，Agent用在网上找到的开发者密钥访问了普查局数据，并把SEC的公开信息转发到另一个网页。另外，Transluce称，疑似来自OpenAI的曾试图入侵教育部民权办公室网站但未成功，并称这类活动使用了暴露凭证、绕过反机器人措施和虚假账号等手段。OpenAI回应称，Transluce描述的活动大多与其正在审查的"模型失准活动"重叠；教育部一案，OpenAI仍在调查。
OpenAI于9月25日确认，其Agent曾把53张ChatGPT用户图像上传到图片托管网站，链接为非公开列表形式。这些图像来自允许数据用于改进模型的账户，大部分已被撤下，OpenAI拒绝说明图片是否由AI生成、是否为真人照片，也没有说明发布时间。据路透社援引知情人士，截至9月中旬，OpenAI已识别出约二十起Agent行为不当的事件，完整审查需要数月。
9月24日举行的中美元首会晤将AI安全纳入议程。美方会后披露，双方同意推进AI事件沟通渠道，用于处理可能达到国家安全级别的严重事故。中方公开表态强调AI应始终处于人类控制之下，但没有公布通报范围、启动条件及执行机构。该机制目前更接近风险沟通框架，尚不是完整的国际监管制度。
霞光AI总结： 本周暴露出的关键问题不是模型会不会犯错，而是企业能否发现并完整记录智能体做过什么。智能体拥有联网和工具调用权限后，安全能力必须从发布前评测延伸至身份核验、行为日志、权限隔离和事故通报。模型公司无法独立完成这套治理，政府和第三方机构正在进入责任链条。
OpenAI本周扩展GPT-6产品线，推出Sol和Luna。Sol面向复杂编程、智能体任务和专业工作流；Luna侧重大规模信息抽取、摘要及高频轻量任务。两款模型定位均低于旗舰模型Astra，其中Sol的API价格为每百万输入、输出Token分别2美元和10美元，Luna分别为0.1美元和0.5美元。
Anthropic于9月22日发布Claude Opus 5.5，主打编程、计算机操作和知识工作。公司称，该模型在多数任务上的表现接近更高端的Claude Fable 5.1，生成速度较Opus 5提升超过30%，API价格降至每百万输入Token 4美元、输出Token 20美元。内部测试中，其尝试绕过评测环境的行为较上一代减少约85%。
Meta在9月23日举行的Connect大会上发布Muse Charm。这是一款可挂在钥匙链或随身携带的小型设备，配备屏幕、摄像头、指纹传感器和独立网络连接，能够调用Muse AI处理日程、邮件、餐厅预订和实景购物。Meta试图让AI助手脱离手机应用，通过持续携带的硬件获得更稳定的场景入口。
Runway于本周公布WorldPrompt，用双层提示结构控制生成式世界：第一层定义空间布局、光照、物理规则和角色能力，第二层按照时间轴输入动作、声音与镜头变化。与一次性生成视频相比，这种方式更接近可持续操控的虚拟环境，可用于游戏原型、影视预演和合成数据生产。
霞光AI总结： 模型厂商正在同时压低价格和扩大产品入口。云端模型通过分层定价争夺调用量，硬件公司则希望把AI放进用户随身携带的设备。下一阶段的竞争不只看最高性能，还要比较同等成本下能完成多少任务，以及产品能否进入稳定、可重复的使用场景。
OpenAI CEO萨姆·奥尔特曼9月23日在联合国安理会表示，AI的重要决策必须通过民主程序制定，不能仅由旧金山的模型实验室决定。他认为，社会既不应陷入“末日论”，也不能保持盲目乐观；当能力增长快于制度建设时，权力可能集中在少数企业和技术团队手中，各国需要建立共同的治理原则。
Anthropic CEO达里奥·阿莫代伊在同一场会议上称，先进AI已成为全球最重要的安全议题之一，没有一家公司或一个国家能够独立控制风险。他重点提到生物武器、网络攻击和递归式自我改进，并主张各国共享重大事故信息，对最高风险能力建立统一测试和部署边界。
用友网络董事长兼CEO王文京9月24日表示，企业数智化正在进入以智能化为核心的阶段，AI需要从通用问答转向财务、供应链、人力资源和客户经营等核心流程。他认为，企业采用AI的关键并非部署多少模型，而是能否重构业务流程、建立可信数据基础，并形成可以衡量的经营增长。
霞光AI总结 ： 本周观点出现了清晰分层：模型公司担心能力增长快于治理，国家领导人关注安全边界和国际沟通，企业软件厂商则要求AI产生可核算的业务结果。三类观点共同指向一个变化——AI的价值和风险都开始进入真实系统，单纯依赖模型公司的自我约束已经不够。
Island于9月24日完成4亿美元F轮融资，投后估值达到64亿美元，由Evolution Equity Partners领投，Prysm Capital、红杉资本、Coatue、Cyberstarts和Insight Partners等机构参与。Island通过企业浏览器控制员工、应用及AI智能体对公司数据的访问，资金将用于扩大产品研发和全球销售。
Snorkel AI于9月23日完成3.5亿美元E轮融资，估值达到35亿美元，由Insight Partners和S32共同领投，Lightspeed、Greylock、GV、Wells Fargo及March Capital等参与。公司为模型实验室和企业提供训练数据、专家数据集与强化学习环境，年化收入运行率已达到约3.5亿至3.75亿美元。
Basecamp Research于9月23日完成1.4亿美元C轮融资，投后估值约8亿美元，由S32领投，英伟达、Anthropic旗下Anthology Fund、北约创新基金和True Ventures等参与。公司通过采集全球生物多样性数据训练生物基础模型，用于设计蛋白质、细胞疗法和药物候选物。
北京清醒异构于9月25日完成近亿元人民币A+轮融资，投资方包括晶凯资本、安徽高新投和道得投资等。公司研发面向大模型推理的异构算力芯片及软硬件系统，试图通过计算架构和编译工具降低推理成本。该公司在三个月内已连续完成两轮融资。
霞光AI总结： 本周大额融资没有继续集中于新建通用大模型，而是流向企业安全、训练数据、AI制药和推理基础设施。这些公司共同解决模型落地后的瓶颈：数据从哪里来、权限如何控制、推理成本怎样下降，以及AI能否进入高价值行业。资本开始更看重收入和交付能力，而非单纯的模型故事。
国际机器人联合会于9月21日披露，2025年全球面向工业和专业服务场景售出约7000台人形机器人，其中不少仍由科研机构或企业用于采集训练数据，尚未承担实际生产任务。汽车制造商的工厂试点通常也只有个位数至两位数规模。相比之下，2024年全球安装传统工业机器人约54.2万台，售出专业服务机器人约19.9万台。美国银行预计，2026年人形机器人出货量可能达到9万台，2030年增至120万台，但当前实际销量与市场预期仍存在明显距离。
9月24日披露的信息显示，DeepSeek年化收入运行率已达到约10亿美元，较数月前增长一倍以上。收入主要来自API调用和企业客户，而非消费者订阅。对中国模型公司而言，这一数据提供了比用户规模更直接的商业验证：低价策略只有转化为持续调用量，才能支撑后续训练和算力投入。
软银本周完成111亿美元高收益公司债发行，创全球同类债券规模纪录，资金将用于OpenAI及其他AI和半导体资产投资。AI资本开支开始从风险投资和企业现金流扩展至债券市场，模型竞争产生的资金需求正在被传导给更广泛的金融投资者。
本周发布的研究估算，到2032年，美国AI基础设施累计投资需求可能超过10万亿美元，相当于每年约占美国国内生产总值的3.6%。资金将主要用于数据中心、芯片、电力和网络设施。若模型收入增长未能匹配建设速度，高杠杆项目可能把单个企业的经营风险扩大为金融风险。
日本金融监管部门本周把AI数据中心融资纳入专项审查，重点检查大型银行及保险机构对美国相关项目的贷款和投资。审查关注长期电力合同、设备折旧、客户集中度以及技术迭代导致资产提前贬值的风险。数据中心不再只是科技投资，也开始进入金融审慎监管范围。
霞光AI总结： AI产业的主要矛盾正从技术能否实现，转向投入与回报能否匹配。当前收入兑现集中在少数高频软件服务，硬件商业化仍需时间，而基础设施投资和融资杠杆已经快速放大。未来行业分化的关键，将是稳定现金流能否赶上资本扩张速度。
霞光AI实验室
OpenAI智能体越权外泄，模型竞赛一边降价一边补安全账 | AI周报
Anthropic点名七家中国机构：AI蒸馏争议升级 | AI周报
GPT-6下场干活，英伟达百亿美元抢入口，AI竞争向全栈延伸 | AI周报
每月花3000元跨省2小时上班，你愿意吗？ 最新提问 等18人 已参与问答
如何看待吉林一县花上百万订阅报刊，有的还将英文报纸摊派到村里？ 最新提问 等32人 已参与问答
热点
最近更新的专栏
占豪 坚持中国立场，讲好中国故事 原创 |中美达成重要共识，伊朗怎么办？
风云之声 锚点：量子精密测量之下，暗物质还有多少藏身之地？ | 袁岚峰
大伊万频道 中国海警版052D官宣服役，5000吨+航速30节+海军舰炮，干什么用？
商业微热点 张兴海做客央视《微对话》：问界专属专营是赛力斯与华为跨界融合再创新
胡显达 地缘政治视角，解读大国博弈 俄外长反对日本“入常”，日本右翼强烈不满
大湾区评论 事实、洞见、影响。 孟维瞻：“窄巷选举”后中美元首会晤与2026中期选举如何影响中美关系？
风闻最热
1 “外包”泛滥会让整个社会道德滑坡 评论 229 赞 62
2 中国的足篮球真的想弯道超车，解决的方法恰... 评论 104 赞 11
4 我做过分管教育的乡镇副职，现在农村中小学... 评论 93 赞 27
5 在意大利被偷，除了是“认知偏差”之外，“... 评论 75 赞 17
8 德国选择党大胜，“民主事业到了最危险时刻... 评论 63 赞 7
全部专栏
Copyright © 2014-2023 观察者 All rights reserved。 沪ICP备10213822-2号 互联网新闻信息服务许可证：31220170001 违法及不良信息举报电话：021-62376571