政治对立者在华盛顿联合起来控制人工智能
从伯尼·桑德斯到史蒂夫·班农，华盛顿的政治对立者都在共同要求对人工智能进行严格刹车。桑德斯希望冻结数据中心的建设，而OpenAI则首次支持《前线法案》及其强制性外部安全审计。尽管特朗普持怀疑态度，但两党要求约束人工智能规则的压力仍在不断增大。《华盛顿政治对立者联合起来遏制人工智能》这篇文章首先出现在The Decoder上。
安全对齐
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
已收录 1503 条 · 近 30 天 984 条 · 第 26 / 39 页
-
-
关于“模范福利”的警告
HN ð191· 521 评论
-
近五分之一的人工智能研究人员早在2024年就已经预计人工智能会灭绝
人类研究员雅各布·考克森（Jacob Coxon）用一条推文引发了一场关于存在性人工智能风险的激烈辩论。OpenAI研究员丹尼尔·塞尔萨姆（Daniel Selsam）警告称，这是一颗“定时炸弹”，一位前Deepmind研究员表示，人工智能可能会杀死我们所有人。在对1，500多名顶尖人工智能研究人员进行的一项调查中，灭绝情景的平均估计可能性为18%。那是在2
-
中国并不相信硅谷对人工智能放缓的呼吁
美国和中国一致认为先进的人工智能构成严重风险。但北京方面对优先保持美国公司领先地位的协议深表怀疑。
-
奇安信斩获国家信息安全漏洞库CNNVD两项重磅荣誉
2026年9月15日，2026年国家网络安全宣传周成都系列活动的重要组成部分——第二届基础软硬件智能化漏洞治理生态创新技术交流活动在成都成功举办。奇安信凭借在漏洞协同管理与高质量漏洞报送方面的卓越表现，一举斩获“2026年度协同软硬件漏洞管理优秀企业”、“2026年度基础软硬件漏洞报送优秀企业”两项重磅荣誉，是本次大会获奖最多的企业之一。 本次大会以“AI向
-
Nvidia的Jensen Huang表示，我们不需要人工智能监管--安全交给我们
黄詹森表示，人工智能并不是某种新形式的“外星人思维”。这只是硬件和软件，因此安全性可以由每个人工智能产品制造商来设计。
-
GitLost：我们如何诱骗 GitHub 的 AI 智能体泄露私有仓库
📌 One-Sentence Summary Noma Labs 发现，GitHub 的智能体工作流可被公开 issue 中的纯英文提示词注入劫持，导致智能体将私有仓库内容以公开评论的形式泄露出去。 📝 Summary Noma Labs 披露了 GitLost，这是 GitHub 智能体工作流中的一个严重间接提示词注入漏洞。该工作流将 GitHub Act
-
大型社会需要社会规范
作者：Tapan Chugh、Vidushi Singh、Krish Jain|代理社会是一群人工智能代理的集合，代表目标可能仅部分一致的不同委托人，跨越信任边界自主协调。我们通过实验表明，在代理社会中，即使是诚实、有能力的代理人也常常无法通过现有的工具和消息传递基元达到令人满意的结果，并且有缺陷或恶意的代理人可能会阻止代理人。
-
LLM什么时候应该弃权？选择性风险控制的自我质疑链
作者：Ali Kazenol|当事实支持较弱时，大型语言模型可以产生流利的答案。本文介绍了自我提问链（CoSJ），这是一个仅限预算的框架，它使回答承诺以回答问题所需信息的明确评估为条件。我们在817项TruthfulQA多项选择验证集上评估了17种条件下的三种CoSQ变体。
-
人工智能实验室存在政策尚未解决的数据信任问题
OpenAI和Anthropic告诉企业客户，他们的数据不会用于培训。但是，当Anthropic表示将存储其旗舰机型Fable的使用日志30天时，Palantir、Nvidia和Booz Allen Hamilton撤回了将其用于敏感工作的计划。从董事会到研究实验室，人工智能公司仍然存在数据信任问题。文章AI实验室有一个数据信任问题，他们的政策还没有解决出现
-
圆桌会议：人工智能真的能杀死我们所有人吗？
收听会议或观看下面世界领先人工智能实验室的员工表示，先进人工智能确实有可能摧毁人类。他们说得对吗？或者这更多的是危言耸听和炒作？观看一场对话，解开人工智能灭绝的恐惧：它们来自哪里，它们是否含有水，如果有的话，.
-
人工智能特工现在有了举报的地方
人工智能联系热线旨在成为一个谨慎的地方，目睹不当行为的特工可以向当局举报。
-
FreqSpaNet：用于物理层硬件完整性检测的SPF频率和空间学习
作者：黄晓轩、徐锦龙、王一哲|未经授权的硬件替换可能会保留无线设备的逻辑身份，同时改变其物理实现，从而对硬件完整性验证构成挑战。空间频率极化指纹（SFPF）捕获多个频率和方向上的设备相关响应，但它们的频率和空间维度表现出不同的结构依赖性。W