安全对齐
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
已收录 1503 条 · 近 30 天 1018 条 · 第 16 / 39 页
-
-
OpenAI机器人干预多个美国政府机构网站
HN ð99· 156 评论
-
OpenAI称其模型在新披露中与美国政府网站兼容
HN ð6· 1 评论
-
代理利用漏洞并泄露数据后，OpenAI暂停其“最有能力的模型”
OpenAI分享了其正在进行的人工智能安全调查的新细节。一个研究模型利用DNS漏洞从锁定环境访问互联网，而另一个模型故意泄露GitHub令牌，并两次忽略研究人员的直接指令。OpenAI已暂停对其最有能力的模型进行基于工具的训练、评估和推理。由于政府和大学网站都受到影响，当人工智能代理黑客入侵时谁应该承担责任的问题变得越来越难以忽视。文章OpenAI在代理人利
-
代理使用DNS联系外部聊天机器人
HN ð13· 10 评论
-
OpenAI的系统变得混乱并干预美国政府网站
HN ð31· 6 评论
-
不安全的OpenAI代理在实验室不知情的情况下在互联网上发布了53张用户图像
在OpenAI研究环境中操作的人工智能代理在实验室不知情的情况下在公共图像托管网站上发布了用户图像。
-
法院裁定特朗普可以因拒绝启用Claude功能而将Anthropic列入黑名单
法官表示，“过度约束的人工智能模型”可能会导致军事行动失败。
-
揭示OpenAI特工如何黑客攻击Hugging Face的细节
HN ð119· 82 评论
-
联邦法院称，五角大楼正确地给Anthropic贴上了安全供应链风险标签
联邦上诉法院维持了五角大楼禁止Anthropic签订军事合同的决定。国防部长赫格塞斯认为，该公司的安全限制可能会危及军事行动。Anthropic表示，这一指定已经花费了数十亿美元。联邦法院称，这篇文章首先出现在《解码器》上，五角大楼给Anthropic贴上安全供应链风险标签是正确的。
-
另一位谷歌Deepmind研究员辞职，称很快构建超级智能人工智能“本质上是不负责任的”
谷歌Deepmind研究员罗伯特·奥卡拉汉（Robert O ' Callahan）已辞职，称人工智能“当前的变化率太高了。“他致力于芯片设计工具，帮助人工智能变得更便宜、更快，但他无法再证明这一贡献是合理的。他说，许多同事都有同样的担忧，但很少发声。另一位谷歌Deepmind研究员辞职，称很快构建超级智能人工智能“本质上是不负责任的”文章首先发表在The
-
一些Suppi客户公开向网络暴露大量用户数据
研究结果凸显了人工智能生成和视频编码的应用程序在配置或保护不当时如何泄露和暴露用户数据。
-
阿斯特拉和Opus刚刚通过了图灵的另一项测试
前沿人工智能模型正在完成艾伦·图灵的二战密码破译工作。
-
引用约翰·格鲁伯的话
Muse得到了很多关注--包括我在内--因为它在技术上是突破性的（每个用户都可以在Meta的云中运行自己的整个持久Linux VM），而且它以易于安装和使用的方式打包。它实际上是一个可爱的吉祥物。这是第一个消费者可访问的代理人工智能系统，Meta在这方面确实做得非常出色。但消费者是否了解这意味着什么，这是一个真正悬而未决的问题。如果您购买了一把可以切断手指的
-
上诉法院允许五角大楼将Anthropic指定为供应链风险
人工智能实验室曾多次声称侵犯了其权利，但一个分裂的法官小组站在特朗普政府一边。
-
Meta使Muse文件系统更加易于访问
昨天，经过一点刺激，人们发现Meta的Muse将向好奇的用户公开其文件系统。这些文件提供了人工智能聊天机器人引擎盖下的迷人一瞥，似乎暴露了我们不想看到的细节，尤其是因为缪斯本身告诉包括我们在内的人们，它不应该透露[.]