谷歌的新SynthID网站可以识别人工智能生成的媒体
谷歌周二推出了一个新网站，任何人都可以验证媒体（无论是图像、视频还是音频片段）是否是使用人工智能生成的。
安全对齐
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
已收录 1472 条 · 近 30 天 1024 条 · 第 8 / 39 页
-
-
在自杀谈话期间父母警报失败后，ChatGPT被评为青少年“不可接受的风险”
OpenAI针对ChatGPT的青少年安全功能未通过独立审计。经过4，000多个测试提示后，Common Sense Media Youth AI安全研究所将该服务评为未成年人“不可接受的风险”。测试账户上有关自杀和自残的对话从未引发家长警报。该研究所希望青少年被锁在外面，直到安全性得到独立验证。在父母在自杀谈话中警告失败后，ChatGPT将青少年评为“不可
-
Anthropic让更多的安全团队能够在更少的安全限制下接近克劳德
Anthropic正在扩展其网络验证计划，让更多的安全专业人员能够访问Claude模型，并且在渗透测试、恶意软件分析和漏洞研究方面的安全限制更少。Anthropic表示，从2026年4月到7月，其前身项目的合作伙伴发现了至少129，000个已确认的漏洞，其中包括超过33，000个高严重性或关键性漏洞。文章Anthropic让更多的安全团队可以更少的安全限制访
-
《碳硅道统·跨域迁移治理法典》188集 总纲摘要
一、法典核心定调 本法典为弱AI至AGI全周期、全行业、全文明维度的AI跨域迁移治理唯一终审基准，是国内首套从事故解剖、机理溯源、权责确权，到行业落地、顶层监管、文明风控、终局闭环的全链路可工程化治理范式。 法典严格遵循集数规范：000为独立零号基准定标集，不计入正集；七层主体001–188严格合计188集，无溢出、无错乱、无重复，终局声明不占用正集编号，全
-
碳硅道统·跨域迁移治理法典
000|全局唯一前置定标：负迁移NT1-NT4四类原型·终审定义 零号基准集，独立于七层主体序列，不计入188正集计数。本集为全书负迁移判定唯一法定口径，常规场景永久锁死，不接受衍生释义、简化释义、片面释义，为AI跨域治理公理原点。 前置总叙 AI跨域迁移，是将源域经过闭环验证、边界固化、权责确权的知识包、模型权重、决策逻辑、评价指标、隐式前提与治理规则，迁
-
碳硅道统《AI安全与文明治理法典》188集 · 七层体系目录
当前全球AI治理讨论多聚焦法规与产业监管，往往忽略底层认知安全与模型原生技术风险。碳硅道统发布《AI安全与文明治理法典》，全套共188集，搭建七层递进式研究框架。从普通人的AI认知风险，到大模型底层安全机理，再到行业权责、国家算力监管，最终延伸至跨代际文明尺度的长期风控。这套体系尝试打通技术安全、法律权责、产业落地与文明治理，为AI安全与碳硅共生发展提供一套
-
Common Sense Media表示，ChatGPT for Teens是一个“不可接受的风险”
Common Sense Media是一家提供针对青少年安全的应用程序、服务和娱乐评论的非营利组织，该组织今天表示，OpenAI的ChatGPT for Teens是一个“不可接受的风险”。“ChatGPT for Teens于八月推出，为青少年提供护栏，旨在帮助学生学习，但Common Sense Media表示，青少年[.]
-
维基媒体项目上发现的OpenAI“流氓”代理活动
在维基媒体项目上发现的OpenAI“流氓”代理活动鉴于目标维基对流氓代理群的诱惑力，维基百科在寻找时发现这种活动的证据并不令人惊讶：维基媒体基金会进行了自己的调查，以了解维基媒体网站是否受到人工智能代理的类似影响，重点关注由OpenAI运营的网站。我们可以确认，我们在维基媒体平台上发现了这些“流氓”OpenAI代理的一些活动。未经授权的机器人活动包括编辑我们
-
引用维多利亚·金的话
权先生（OpenAI首席战略官）表示，自医疗保险违规事件以来，OpenAI已实施额外监控，以便员工“立即干预”，以停止培训，如果公司的模特以不应该的方式访问互联网。- Victoria Kim，澳大利亚议会报道标签：意外网络攻击、生成人工智能、人工智能安全研究、openai、人工智能、llms
-
OpenAI将默认为ChatGPT输出添加水印-但仅限于欧盟
与其他解决方案一样，它不是特别可靠，而且很容易规避。
-
人工智能决策模型如何改变内容审核
周二，Musubi宣布了一个用于实时审核的轻量级决策模型，名为PolicyLM-1.7B，以开放权重发布。
-
维基媒体证实OpenAI的流氓人工智能代理编辑了维基，试图破坏工具，并对其基础设施进行了攻击
根据维基媒体基金会的说法，流氓OpenAI代理未经许可编辑维基，试图滥用引用工具作为代理，并可能通过大规模爬行导致部分维基数据查询服务中断。维基媒体表示，人工智能公司需要对他们的代理人负责，而不是将负担推给志愿编辑。Wikimedia证实OpenAI的流氓AI代理编辑维基，试图破坏工具，并破坏其基础设施的文章首次出现在The Decoder上。
-
AdvSim2Real：在Web世界模型中训练Web代理以对抗自适应提示注入
作者：Sarim Hashmi、Mukul Ranjan、Kshitij Mishra| Web代理通过阅读第三方编写的页面并对其进行操作来完成用户请求，因此页面上的指令可以将代理重定向为远离用户的目标。代理不能简单地忽略该页面，因为该页面还保存任务所需的值和控制。当前的防御系统对训练前固定的注射进行微调，以及适应训练的攻击者
-
随着人工智能代理人失控，保险公司准备应对数百万美元的索赔
保险公司正在为来自流氓人工智能代理的数百万美元索赔做好准备，OpenAI的萨姆·奥尔特曼（Sam Altman）和Anthropic的达里奥·阿莫迪（Dario Amedei）等高管可能会亲自承担后果。随着人工智能特工失控，保险公司为数百万美元的索赔做好准备这篇文章首先出现在The Decoder上。