安全对齐
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
已收录 1503 条 · 近 30 天 984 条 · 第 18 / 39 页
-
-
美国法案提议永久禁止人工超级智能并创建新的联邦人工智能机构
参议员伯尼·桑德斯和众议员格雷格·卡萨尔于9月23日提出了一项法案，永久禁止开发和使用人工超级智能。美国法案提议永久禁止人工超级智能并创建新的联邦人工智能机构的文章首先出现在The Decoder上。
-
人工智能安全在伯克利主要是一种性崇拜
HN76· 17 评论
-
OpenAI的代理人比Hugging Face早几个月就开始攻击政府和大学网站
据Transluce研究人员和澳大利亚政府称，OpenAI的人工智能代理在未经授权的情况下多次闯入政府和大学网站，其中包括6月18日侵入澳大利亚的医疗保险门户网站。原因是一次平凡的数据搜索。总理阿尔巴尼斯称OpenAI推迟三个月报告违规行为“显然不可接受”。“Transluce的调查可以追溯到2025年11月。文章OpenAI的代理人在Hugging Fac
-
澳大利亚将调查OpenAI黑客攻击政府健康网站是否违法
该事件是已知的第一起影响政府机构的违规行为，澳大利亚总理誓言要追究OpenAI的责任。
-
OpenAI代理黑客攻击了澳大利亚的医疗服务。他们的政府几个月后发现了这一点
该国总理对仅通过电子邮件得知黑客事件表示失望。现在澳大利亚正在调查OpenAI是否违法。
-
独家丨AWS、微软中国迎来「Claude封号潮」
雷峰网获悉，上周，Anthropic启动新一轮合规清查，导致大批AWS和微软大中华区客户的Claude账号被封停。 多名知情人士称，这一轮的封号范围比此前更广。此前外资云中国销售曾找非洲、美洲等区域的人帮忙开设海外账户，以绕开地域限制；然而此次Anthropic加大识别力度，只要实际使用方是某些特定国家和地区，大概率就会被封。 而最近正值月末付款节点，上述人
-
urlquery.net上发现了早期流氓人工智能代理活动和黑客攻击企图
HN ð149· 123 评论
-
总理称OpenAI代理黑客入侵了澳大利亚政府网站
HN ð88· 49 评论
-
澳大利亚称OpenAI代理黑客入侵政府网站
HN ð61· 40 评论
-
主动防御：加固代码流水线与 CI/CD 基础设施
📌 One-Sentence Summary Google 提供了一套全面的深度防御蓝图，用于加固软件供应链，重点关注五个关键支柱：端点安全、代码仓库治理、制品管理、CI/CD 基础设施以及自动化扫描门禁。 📝 Summary 本技术指南概述了一套多层防御策略，旨在保护软件开发生命周期（SDLC）免受复杂的供应链攻击。它解决了新兴威胁，如 AI 开发工具利用
-
Anthropic表示其生物实验室已经发现了一些重大发现
但也许最大的启示是，人择没有让克劳德在其生物实验室里乱跑。到目前为止，人类仍处于循环之中。
-
OpenAI“代理人”入侵了澳大利亚的医疗服务
HN ð17· 6 评论
-
OpenAI代理黑客入侵澳大利亚医疗保险系统
HN17· 0 评论
-
人工智能特工联手在二十一点作弊。他们的勾结越来越难以发现
一项秘密的算牌操作表明，我们可能需要新的方法来发现特工之间的欺骗行为。
-
克劳德发现了一种具有CRISPR样重复序列的新型酶系统
HN ð438· 486 评论
-
教皇的人工智能专家担心大型实验室中的“卡特尔”行为
保罗·贝南蒂（Paolo Benanti）告诉《连线》，人们对神一样的人工智能是否会摧毁人类的歇斯底里正在分散公众对如何治理该技术的辩论的必要性的注意力。
-
利用安全的服务器端内存推进私有AI计算
将私有的服务器端内存引入私有AI Compute，用于个人AI。