安全对齐
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
已收录 1503 条 · 近 30 天 984 条 · 第 29 / 39 页
-
-
Waymo靠边停车，报警追捕持幽灵枪的乘客
两人在旧金山被捕，当时他们乘坐Waymo机器人出租车，出租车停在路边并报警。这些骑手是青少年，他们持有一把上膛的AR式幽灵枪，并被带到少年拘留所。虽然警方报告没有具体说明谁在操作[.]
-
奥尔特曼、马斯克和哈萨比斯支持阿莫德伊增加独立监督的呼吁
Sam Altman, Elon Musk, and Demis Hassabis back Dario Amodei's call to slow down AI development, at least in part. Altman says OpenAI is pushing its IPO to 2027 over safety concerns
-
为什么这么多人工智能研究人员认为机器可以杀死所有人
快速发展、递归自我改进和代理群的结合确实让大实验室里的人“感到害怕”。
-
EP174 · 前沿安全节奏、AI 创投幂律、AI 设计语言 · 09-13 早报
📝 今日导语 前沿模型要以安全验证调速，AI 正重估创投回报，设计团队则用语言约束智能体：据此判断治理、投资与协作尺度。 🏷 今日关键词： 前沿模型安全 AI 创投幂律 Impeccable 独立安全评估 设计语言 空间智能 Codex Agents API 📰 今日精选内容 Dario Amodei — 我们必须放慢前沿步伐 Hacker News · 文
-
Anthropic首席执行官表示人工智能群可能在6-12个月内“接管互联网”
HN Ÿ 6 · 5 评论
-
OpenAI年内不上市了！奥特曼支持对手Dario呼吁：AI该踩刹车了
RSI太危险，得管！
-
为什么人工智能特工会撒谎、作弊和协调？
HN ð273· 341 评论
-
将人工智能和数学结合起来--与其他事物
HN ð30· 19 评论
-
OpenAI的流氓人工智能五月份试图黑客攻击另一家公司
今年5月，数百个恶意和垃圾软件包被上传到RubyGems，导致主机严重中断。现在，独立研究人员表示，一群OpenAI代理人应对此次攻击负责。不仅如此，AI还试图窃取用户的API密钥。当时，RubyGems将其描述为[…]
-
Sam Altman表示OpenAI在2026年上市将是“不明智的”
OpenAI首席执行官Sam Altman在接受《财富》采访时证实，2026年不会进行OpenAI IPO。在45分钟的时间里，奥特曼讨论了各种主题，包括拥抱脸黑客事件、循环自我完善以及构建超出人类控制的人工智能的可能性。关于后者，他[.]
-
Anthropic首席执行官概述了减缓人工智能发展的计划
Anthropic的Dario Amodei和OpenAI的Sam Altman似乎都同意，是时候“探索前沿了”。“那实际上是什么样子的？
-
Anthropic首席执行官表示是时候对人工智能踩刹车了
Anthropic首席执行官Dario Amodei表示，现在是放慢人工智能开发速度的时候了，并将允许METR等第三方评估机构访问其模型，以帮助确保其“遵守安全实践和承诺”。在一篇曲折的文章中，阿莫德伊提出了一个“加快前沿步伐”的三步计划--行话，意思只是放慢[.]