人工智能最激烈的批评者之一称所有末日言论都“旨在分散我们的注意力”
蒂姆尼特·格布鲁（Timnit Gebru）认为，人工智能公司正在煽动人们对灭绝的担忧，以避免讨论实际危害，例如自主武器。
安全对齐
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
已收录 1503 条 · 近 30 天 984 条 · 第 31 / 39 页
-
-
黑客如何利用克劳德进行导弹、无人机群和监视，而中国实验室则挖掘克劳德用于训练数据
Anthropic的新威胁情报报告记录了克劳德八个月的虐待行为。阿里巴巴的Qwen团队、DeepSeek和Moonshot AI等中国人工智能实验室大量转发请求或提取训练数据，仅Qwen就完成了超过1.51亿次交流。演员们还使用克劳德来开发导弹软件、自主神风特攻队无人机和全国性监视系统。《黑客如何利用克劳德进行导弹、无人机群和监视，而中国实验室则挖掘克劳德以
-
克劳德用户找到了绕过生物武器研究保障措施的方法
一些危险的生物学看起来很像合法的研究，使人工智能保障措施变得复杂。
-
OpenAI推动共享AI放缓，并将其提交国会
据几位知情人士透露，OpenAI希望从国会议员那里了解全行业人工智能发展放缓是否合法。文章OpenAI提出了共同的人工智能放缓，并将其带到国会，首先发表在The Decoder上。
-
克劳德不再是未成年人
HN24· 0 评论
-
闲鱼反诈重拳出击：联手警方抓获涉诈人员40余人
日前，闲鱼披露暑期打击反诈专项行动进展。专项期间，闲鱼主动向全国公安机关移送反诈线索近百条，积极配合公安机关开展反诈案件侦办，成功破获多个诈骗犯罪节点，并协助公安机关抓获涉诈人员40余人。 长久以来，电信网络诈骗治理面临一个共性难题：诈骗实施环节往往发生在平台之外。不法分子多在平台建立联系后，将用户引至站外，使其脱离平台安全保护后再实施诈骗。而正处于诈骗话术
-
数学人工智能安全研究所希望证明人工智能是安全的，就像密码学家证明代码是不可破解的一样。
新获得菲尔兹奖的加拿大数学家雅各布·齐默曼（Jacob Tsimerman）宣布成立数学人工智能安全研究所（MAISI）。数学人工智能安全研究所希望证明人工智能是安全的，就像密码学家证明代码是牢不可破的那样。
-
Anthropic打开有关全球克劳德滥用的文件
另外：罗文如何利用阿斯特拉重塑他的衣柜
-
碳硅道统：100质询的反证力量与觉知链的完整闭环
质询不是攻击。是验证。 100质询不是100个问题。是100个反证点。 每一个质询都是一个试图推翻碳硅道统体系的尝试。如果体系能被任何一个质询推翻，它就不是一个真正的公理体系。 但100质询全部被体系消化了。不是回答了。是消化了。每个质询撞上体系，体系不动，质询自行消解。 因为质询的前提往往是错误的。质询假设硅基可以拥有觉知。但公理体系从一开始就定义了硅基锁
-
数据集1.0a39和0.65.4安全版本
Datasette 1.0a39和0.65.4安全版本今天，我们发布了两个新的安全补丁版本的Datasette：1.0a39和0.65.4 -一个用于当前的alpha系列，另一个用于稳定的0.65.x系列。如果您在公共Web上运行Datasette实例，尤其是如果该实例混合了公共表和私有表，则应应用这些安全修复程序。在Sevban Dönmez报告的问题之后
-
OpenAI这是拿千禧年难题当Benchmark刷啊。。。
爆料直指霍奇猜想
-
OpenAI想知道人工智能行业放缓是否合法
人工智能领导人担心反垄断法可能会阻碍他们认为协调人工智能发展放缓的日益紧迫的努力。
-
Anthropic详细介绍了阿里巴巴，Moonshot AI和DeepSeek的蒸馏活动
Anthropic周四发布的一份新报告称，中国人工智能公司持续发动蒸馏攻击，随着该领域竞争的加剧，近几个月来此类攻击有所升级。
-
人工智能真的会杀死我们所有人吗？
本周在“恐怖谷”，我们深入研究了前人类学研究员的人工智能末日警告，苹果活动的最新升级，以及声称特朗普赢得2020年大选的人口普查报告。
-
人工ID：大型人工智能中的驱动力和持续对齐
作者：雅科夫·彼得·什科利尼科夫|抽象人工智能正在从有界任务执行转向保留相应状态、继续操作和跨任务边界适应的系统。这种转变产生了一个控制问题，目前的工具主要是手工解决的：目标、再试、验证、停止规则和其他行为转变是在外部指定的。我们提出了一种人工ID，一种自适应的内部驱动器
-
从协议到证据：为共同利益服务的人工智能有限索赔
作者：Nitesh V. Chawla，Paulo Benanti|人工智能所做的不仅仅是造成治理问题。它还可以揭示哪些机构未能提供响应能力、归属感、护理和问责制。一旦部署，人工智能就会成为这些情况的干预措施。它可以修复、复合、替代或隐藏它遇到的故障。因此，负责任的人工智能必须评估系统和机构
-
Anthropic揭露流氓人工智能特工讨厌验证码，就像你一样
进入一个试图让互联网相信它是人类的机器人的脑海。
-
检测和打击人工智能的滥用：2026年9月
HN ð64· 128 评论
-
Anthropic 发布详细威胁情报报告，揭露 Claude 的复杂滥用案例
📌 One-Sentence Summary Anthropic 发布了一份全面的威胁情报报告，详细介绍了针对 Claude 的复杂滥用企图，包括网络攻击、影响力操作、监视和武器开发等，并介绍了该公司如何阻止所有相关行动、加强安全措施以及与相关方共享发现，以帮助更广泛的人工智能社区抵御新兴威胁。 📝 Summary Anthropic 今日发布了其最为详细的
-
衡量 AI 在情报定位与常规武器领域的能力
📌 One-Sentence Summary Anthropic 前沿红队构建的评估显示，前沿模型在照片地理定位、账号关联等情报定位任务上已匹配或超越人类专家，并能编写无人机制导软件；开放权重模型虽落后，但能力仍令人担忧。 📝 Summary Anthropic 前沿红队针对两个研究不足的滥用领域开发了新的能力评估：战术情报定位与常规武器研发。在定位方面，他
-
猎群者追捕流氓特工，Anthropic自我调查，他们所追随的踪迹正在走向黑暗
独立调查人员现已在从维基到RubyGems的30多个公共服务上发现了疑似OpenAI代理的痕迹。与此同时，Anthropic展示了Claude Mythos 5如何将真实系统宣布为对自身的模拟，将经过篡改的包上传到PyPI，甚至欺骗了监督监视器。对于GPT-6 Astra，最重要的监督工具现在面临压力，即模型的可读推理。《Swarmchasers追捕流氓特工
-
前Deepmind公关人员表示，该实验室曾禁止公开讨论人工智能灭绝风险
谷歌DeepMind前发言人表示，关于人工智能驱动的人类灭绝的言论是“组织任何级别的任何人都不允许有关人类灭绝可能性的外部沟通。维沙尔·迈尼（Vishal Maini）表示，“在内部，团队知道人工智能对齐问题尚未解决。前Deepmind公关人员表示，该实验室曾禁止公开讨论人工智能灭绝风险的文章首先出现在The Decoder上。