安全对齐
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
已收录 1472 条 · 近 30 天 1024 条 · 第 11 / 39 页
-
-
沙箱是否足以遏制流氓特工？
HN Ÿ 3 · 0 评论
-
谷歌发布Gemini 4 Argon，被称为迄今为止最强大的型号
谷歌发布了最新的Gemini模型，将其营销为编码和网络安全工作的主力。
-
谷歌宣布双子座4，并表示它是如此强大，只有值得信赖的网络防御者可以拥有它现在
谷歌今天公布了其下一个人工智能前沿模型，称之为Gemini 4 Argon。据首席人工智能架构师兼谷歌DeepMind高级副总裁Koray Kavukcuoglu称，新模型在现实世界的软件工程、法律和金融等企业知识工作以及网络安全防御等复杂工作流中提供了“前沿性能”。但该公司限制访问[…]
-
特朗普的人工智能安全“协议”是一个花哨的粉红色发誓
六家主要人工智能公司本周与白宫签署了一份自愿协议，誓言实施保障措施。目前尚不清楚这有多重要。
-
Gemini 4 Argon：我们 frontiers 智能时代的下一章
📌 One-Sentence Summary Google 宣布 Gemini 4 Argon，一款输出上限达 100 万 token 的 frontier 模型，在 DeepSWE、Vals Index 和 CWE-bench 上的表现居首，将首先通过 Fairwind Program 提供给值得信赖的网络安全防御者。 📝 Summary Google D
-
Gemini 4 Argon 前沿模型正式发布
📌 One-Sentence Summary Google 推出全新前沿模型 Gemini 4 Argon，首先面向网络安全防御人员开放，其推广期价格为每百万输入 token $2，每百万输出 token $10。 📝 Summary Google 推出了其最新的前沿模型 Gemini 4 Argon。该模型从今天起首先向网络安全防御者（cyber defe
-
小RFK认为人工智能将把我们从医学事实、专业知识的“暴政”中解放出来
人工智能远非完美的资源。但它的幻觉似乎比肯尼迪少。
-
即使没有人工智能，也有很多理由担心生物武器的发展
安妮·雅各布森（Annie Jacobsen）在她关于生物战的新书中甚至没有讨论人工智能，因为科学家已经可以扭曲大自然以创造灭绝级别的事件。
-
特朗普应对人工智能风险的计划取决于科技巨头的监管
特朗普让数十家人工智能公司同意自愿安全测试。
-
非营利组织因Hugging Face黑客事件起诉OpenAI，称“人工智能做到了”并不能辩护
非营利组织表示，OpenAI让其他人遭受“其不安全决策的伤害”。
-
在DP-Singapore下，权重绑定对于私人环境中仅解码器的LLM仍然有利吗？
作者：Razan El Mais、Ali Chehab、Ibrahim Issa|差异私有随机梯度下降（DP-BCD）是大型语言模型（LLM）的隐私保护微调的领先方法。许多仅限解码器的LLM在输入和输出嵌入之间采用权重绑定，这是一种设计选择，最初是为了参数效率和改进非私有环境中的语言建模性能而引入的。然而，体重束缚的影响
-
股东应该为AI的危险买单
HN24· 0 评论
-
据报道，亚马逊的送货司机智能眼镜将几乎不间断地拍照’
亚马逊送货很快就会出现一个新的问题：送货司机的智能眼镜将拍摄他们在使用时看到的任何东西的照片，包括人和私人财产。彭博社报道称，这款眼镜可以“在单个驾驶员的典型轮班中拍摄数千次”，亚马逊计划将其上传到其人工智能[.]
-
Meta对Muse未经许可阅读用户私人消息的说法提出异议
Meta表示，其Muse AI代理在没有明确许可的情况下无法访问用户的消息，这对一名记者的说法提出了质疑，即该代理在所需的Mac设置关闭时阅读了他的私人消息。
-
FTC因消费者保护问题对OpenAI、Anthropic和其他人工智能实验室展开全面调查
FTC正在正式调查OpenAI、Anthropic和其他领先的人工智能实验室是否存在违反消费者保护规定的行为。该机构计划通过具有法律约束力的要求强制文件移交和行政证词。这项调查在Hugging Face黑客事件发生之前就已经开始，远远超出了联邦贸易委员会早些时候要求公司为其代理人行为承担责任的努力。FTC因消费者保护问题对OpenAI、Anthropic和其