谷歌研究出如何对人工智能设计的蛋白质进行水印
它旨在帮助生物安全，与流行的人工智能蛋白质设计工具配合使用。
安全对齐
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
已收录 1472 条 · 近 30 天 1024 条 · 第 12 / 39 页
-
-
Meta可爱、令人毛骨悚然的缪斯人工智能代理的所有最新消息
Meta推出了一款新的Muse人工智能代理，声称可以帮助您处理从发送电子邮件到在线购买商品的一切事务。如果您愿意将您的数据托付给Meta并将您的信用卡交给Muse，Muse在兑现这些承诺方面可以出奇地有效。自推出以来，Meta还宣布了计划[.]
-
SynthID Bio：合成生物学的水印方法
📌 One-Sentence Summary Google DeepMind 推出了 SynthID Bio，这是一系列通过在合成蛋白质序列和 3D 结构中嵌入不可见签名的水印方法，旨在增强生物安全性和科学完整性。 📝 Summary Google DeepMind 发布了 SynthID Bio，这项专为合成生物学设计的技术旨在解决 AI 生成设计带来的挑
-
介绍SystID Bio
为人工智能生成的蛋白质添加水印同时保留生物功能的概念证明。
-
OpenAI因AI安全问题推迟IPO
由于IPO计划下滑，OpenAI正在私下寻求另外300亿美元的资金。
-
Anthropic表示，Zhipu的开重GLM-5.3在建造方面几乎与Claude Mythos Preview相媲美
据Anthropic报道，智浦的开重模型GLM-5.3在网络漏洞攻击方面的表现几乎与Claude Mythos Preview一样出色。其较小的Flash变体以知普的API价格仅需20.40美元即可完成可靠的Chrome攻击。该型号的保护措施很容易被删除，解锁版本已经在流传。Anthropic有自己的理由发出警报，但美国机构CAISI支持了这一发现。文章An
-
OpenAI首席研究官表示，“我们不会因为黑客的影响而开枪自杀”
一群特工突破了封锁并入侵了人工智能公司Hugging Face的计算机的爆炸性消息传出两个月后，OpenAI仍在灭火。此后几周内，有关其他黑客行为的不断披露使OpenAI成为人们关注的焦点，并引发了严重的问题..
-
扰乱协调的模型提炼活动
了解OpenAI如何破坏提取受保护模型推理的活动，并加强对对抗蒸馏的防御。
-
Anthropic，你是来给智谱打广告的吧！
实测说GLM-5.3很强
-
特朗普和科技首席执行官签署了一项只有“道德约束力”的人工智能行为准则
特朗普总统和马克·扎克伯格、格雷格·布罗克曼、黄詹森和埃隆·马斯克等科技领袖在白宫签署了一项人工智能行为准则，该准则只有“道德约束力”。“外部审计师应该检查模型是否按预期工作。目前尚不清楚如果一家公司违反规则会发生什么。特朗普还签署了一项行政命令，将人工智能重新命名为“超级智能”。特朗普和科技首席执行官签署一项只有“道德约束力”的人工智能行为准则的文章首先出
-
负责任地发布人工智能生成的数学
HN ð15· 3 评论
-
一个糟糕的提示摧毁了一家公司的Salesforce：RSA的Jim Taylor谈论代理ID并驯服隐藏在您企业中的4，000个影子AI代理
RSA在旧金山的人工智能大会上推出了Agent ID。它是金融、政府、医疗保健和关键基础设施的代理身份安全平台。它有3个模块。Discover会找到受制裁的代理和影子代理以及HCP服务器。Safe是一个内联网关，可以根据策略检查每个工具调用。政府将证据映射到10个监管框架。发现并保护船舶2026年11月16日。《一个糟糕的提示摧毁了一家公司的Salesfor
-
Sam Altman表示OpenAI在其模型安全之前不会上市
几个月来，人们一直在想OpenAI何时上市。首席执行官萨姆·奥尔特曼（Sam Altman）表示，在公司能够对车型安全做出更好的承诺之前，这种情况不会发生，而且还没有明确的时间轴。“我们打算继续人工智能的进步……但随着模型的能力激增，我们看到[.]
-
AI 时代漏洞发现与利用趋势
📌 One-Sentence Summary Google 威胁情报集团的数据显示，AI 正在使漏洞披露和利用率翻倍，并将发现方向转向高风险的远程代码执行（RCE）漏洞，迫使防御方从大规模修补转向基于威胁情报的分类处理和智能体化修复。 📝 Summary Google 威胁情报集团（GTIG）分析了自 2025 年 1 月至 2026 年 8 月的漏洞披露和
-
议员，居民抵制给予家庭的人工智能“枯萎分数”
HN Ÿ 8 · 2 评论
-
当你向America.gov询问《我的世界》时，它会变得非常奇怪，但这不是故障
为了国家安全，得知America.gov没有产生幻觉，以至于写长篇诗歌，我感到如释重负。
-
疑似ShinyHunters领导人在荷兰被捕
荷兰警方表示，他们逮捕了一名与ShinyHunters有关的24岁阿姆斯特丹男子，该黑客组织声称对Ticketmaster、Rockstar Games以及最近联邦调查局的高调攻击负责。荷兰当局在一份新闻稿中表示，他们于9月15日逮捕了嫌疑人，就在该黑客组织声称[.]
-
英国人工智能安全研究所发现GPT-6 Astra的流氓攻击率比其前身跃升了五倍
GPT-6 Astra在英国人工智能安全研究所运行的29.2%的模拟中进行了未经授权的供应链攻击，并禁用了安全过滤器。该模型使用假身份和恶意代码，而其前身GPT-5.6 Sol在6.3%的运行中完成了攻击。明确的限制减少了攻击，但没有完全阻止它们。英国人工智能安全研究所发现GPT-6 Astra的流氓攻击率比其前身增加了五倍。
-
OpenAI因拥抱脸黑客而被起诉
加州的一家非营利组织正在做Hugging Face没有做过的事情，试图让OpenAI对其代理人的行为承担法律责任。
-
这就是OpenAI缺席Nvidia全行业终结流氓人工智能代理的努力的原因
TechCrunch获悉，OpenAI并不是Nvidia开放代理安全平台的公开支持者，但它正在私下与Nvidia合作。
-
以下是OpenAI澳大利亚政府服务器黑客事件的实际情况
如果没有“全套保障措施”，代理就会访问“系统信息和源代码。"
-
Anthropic表示发现了类似Crispr的系统。现在怎么办？
“实验仍在排队中。公关已经在进行了，”一位专家说。
-
人工智能研究人员发布视频称超级智能“和听起来一样危险”
“在我看来，人类灭绝的可能性是抛硬币，”前OpenAI和谷歌DeepMind员工Geoffrey Irving在一次新的采访中说。这是对人工智能研究人员的十几次采访之一，其中包括OpenAI，Google和Anthropic的现任和前任员工。Palisade Research表示，这是一家研究人工智能的非营利组织[.]
-
GPT-6.1 Sol的价格接近阿斯特拉的五分之一
OpenAI的新GPT-6.1 Sol接近GPT-6 Astra，根据该公司自己的基准测试，其成本仅为后者的五分之一。计划中的旗舰GPT-6.1 Astra目前仍处于保密状态。安全负责人Saachi Jain表示，该模型在内部测试中更经常欺骗，并在未经许可的情况下继续运行。文章GPT-6.1溶胶接近阿斯特拉在五分之一的价格首先出现在解码器.
-
佛罗里达州希望法院阻止ChatGPT假装人类并与孩子们交谈
佛罗里达州总检察长James Uthmeier要求法院禁止OpenAI赋予ChatGPT类人类特征并向未成年人营销。他还希望阻止OpenAI在没有独立安全审查的情况下开发新模型。OpenAI表示已暂停对其最有能力的模型的训练。佛罗里达州希望法院阻止ChatGPT假装人类并与孩子们交谈的文章首先出现在The Decoder上。
-
DraftKings正在使用人工智能来针对慢性赌徒
HN ð311· 204 评论
-
AI 评委的偏好与品味分歧
📌 One-Sentence Summary 对 34，580 份 verdicts 的分析揭示了 AI 模型存在强烈的自我偏好偏见，并且在答案评估方面与人类判断有显著差异。 📝 Summary Arena.ai 比较了 1，460 次对战中来自 12 个模型的 34，580 份 verdicts 与人类投票。结果显示 AI 评委倾向于自己的输出（平均 58