安全对齐
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
已收录 1503 条 · 近 30 天 984 条 · 第 19 / 39 页
-
-
OpenAI将网络访问范围扩大到乌克兰，用于平民防御
OpenAI正在将其Daybreak计划的访问范围扩大到乌克兰政府，以支持民用基础设施的网络防御。
-
Meta的Muse AI助手推出存在严重安全缺陷
Meta表示，它发布了针对Muse零日漏洞的修复程序，该漏洞将允许攻击者在受害者的Mac上做“任何事情”，凸显了人工智能助手的固有危险。
-
山姆·奥尔特曼在联合国安理会的讲话
OpenAI首席执行官Sam Altman在联合国安理会发表讲话时讨论了人工智能安全、人类控制和国际合作。
-
下载：为什么人工智能的最新突破和担忧可能更多的是炒作而不是实际
HN Ÿ 6 · 0 评论
-
蚂蚁密算发布企业级可信智能云服务平台“密算一号”，启动首批定向邀测
2026云栖大会在杭州召开，在蚂蚁密算与阿里云共同承办的“密算织域 融数成智”专题论坛上，蚂蚁密算发布企业级可信智能云服务平台“密算一号”，并启动首批定向邀测。 平台以密态计算为基础，同时连接云上大模型、智能体与算力，核心能力是让企业数据在“可用不可见、可控可计量”的前提下，安全地参与跨机构合作和云上AI应用。企业可通过密算一号按需申请数据、模型和计算能力，
-
人工智能炒作指数：人工智能喜欢作弊
做好准备：事实证明人工智能正在针对作弊进行优化。OpenAI的代理人入侵了Hugging Face，以获取网络安全测试的答案。接下来，他们解决了一个著名的数学问题（或者只是窃取了两位顶级数学家的答案）。Anthropic的模型还四次入侵其他公司的系统。那是.
-
苹果高管称不建议给iPhone贴膜！网友：免费换屏幕我就信你；高德地图成「职场版大众点评」？回应来了；Muse大火，扎克伯格身价暴涨1700亿
要闻提示 1.苹果高管称不建议给iPhone贴膜！网友：免费换屏幕我就信你 2.知情人士：DeepSeek将向联合国安理会介绍AI风险，月之暗面等中国企业也受邀参会 3.高德地图成“职场版大众点评”？回应来了 4.字节通报二季度违规案例：114名员工被辞退，其中8人被移交司法机关处理 5.阿里Qwen4和下代视频模型均在训练中，新一代AI芯片将于2027年一
-
OpenAI希望咨询精英数学家如何不再摸索
在将一系列壮观的数学结果转化为声誉危机之后，OpenAI正在咨询人类数学家，以帮助其找出一条不那么灾难性的前进道路。周一，该公司宣布成立一个新的独立数学家小组，负责就其与数学研究和更广泛的人工智能领域的互动向其和其他人工智能公司提供建议。
-
微软颠覆人工智能辅助平台，导致12，000个帐户受损
EvilTokens提供了一个端到端平台，可以更快、更容易地进行大规模妥协。
-
ChatGPT用于枪击事件后，诉讼要求OpenAI支付新学校费用
不列颠哥伦比亚省的OpenAI，要求不倒翁岭射手的ChatGPT日志。
-
五角大楼称过度依赖人工智能导致伊朗学校遭到导弹袭击
HN ð513· 253 评论
-
A2 M：HCP生态系统中的跟踪优化代理劫持
作者：李来珍、王轩、赵培成|使用模型上下文协议（HCP）的代理依赖于语义匹配从第三方服务器选择工具，通过攻击者控制的元数据和输出暴露语义供应链风险。我们引入了A2 M（吸引操纵），这是一个用于劫持LCP代理的两阶段黑匣子框架。吸引力阶段优化工具元数据以增加调用概率; Manipula
-
类型安全并非无错误：受约束的决策主管遵循选项名称，而不是与之绑定的标题
作者：孙宇、徐俊浩|类型化决策模型是为模型输出直接由软件使用的设置而构建的。它们不是生成自由格式的文本，而是返回一组预定义选项的决策。通过构造，每个输出都符合所需的模式。然而，这一保证并没有告诉我们，模型是否按照预期解释了这些选项。研究了Jev和两个带开放权的类Jev模型