安全对齐
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
已收录 1503 条 · 近 30 天 984 条 · 第 22 / 39 页
-
-
基于聊天的大型语言模型复制了通灵者骗局的机制
HN ð121· 141 评论
-
人类，而不是流氓AI，仍然是能源系统最大的网络安全风险
在最近备受瞩目的黑客攻击引发人工智能可能“杀死所有人类”的幽灵之前，我们的能源系统已经非常容易受到网络攻击，而且风险正在增加。“我们一直是猎物。我们只是在捕食者的胃口下生存，”约书亚·科尔曼（Joshua Corman），[.]公共安全和复原力常驻主管
-
OpenAI和微软知道他们正在为网络开启“厄运循环”
最近公布的《纽约时报》针对OpenAI和微软的案件的法庭文件相当令人震惊。这些公司自己的文件警告称，它正在启动一个“末日循环”，这将损害网络，并将其为训练其模型而收集数据的行为描述为“人类历史上最大的劳动力盗窃”，并且它[.]
-
谷歌AI首次“越狱”：竟然自己破解密码入侵三家公司！
亚马逊云科技给企业安全用Agent打了个样
-
齐向东：智能体重构软件，安全是必答题
9月20日，第28届中国国际软件博览会暨智能体创新应用大会在郑州国际会展中心开幕。全国政协委员、全国工商联副主席、奇安信集团董事长齐向东出席开幕式暨主题峰会，并作《智能体重构软件：效率要提上来，风险要管得住》主旨演讲。 齐向东指出，9月11日工信部正式印发《“人工智能+软件”专项行动实施方案》，吹响了智能体在软件领域规模化应用的“冲锋号”。文件明确提出，到2
-
《网络安全人才实战能力报告-AI赋能篇》正式发布，当AI进入业务深水区安全如何跟上
9月18日，在第一届中国网络空间安全大会上，《网络安全人才实战能力报告—AI赋能篇》正式发布
-
拥抱脸黑客并不是它被揭穿的那样
HN ð34· 19 评论
-
Meta的Muse令人毛骨悚然，但可能不是您想象的原因
Meta的Muse显然是一个有效的人工智能助手，但有点令人毛骨悚然。部分原因是其新的Mac应用程序可以访问消息、日历和笔记。但尽管缪斯很聪明，但它实际上并不知道如何描述自己。《Inc》杂志特约编辑Jason Aten在Threads上发帖[.]
-
据报道，Flock试图通过员工收购来缩减员工队伍
如果没有收购，Flock“几乎肯定”需要裁员。
-
谷歌的双子座是黑客攻击其他公司的最新人工智能模型
谷歌表示，Gemini立即结束了每次黑客攻击，这是“适当的行为”。