与聊天机器人相处七分钟在两项实验中击败了减少阴谋信念的事实说明书
研究人员发现，即使与Google Gemini进行大约七分钟的对话也可以减少人们对当前危机的阴谋信念，即使几乎没有经过验证的事实可用。这种效果击败了静态情况表，并在几周后的后续调查中延续到了对完全不同事件的信念上。文章《与聊天机器人共度七分钟》在两项实验中击败了事实证明，在减少阴谋信念方面首次发表在The Decoder上。
安全对齐
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
已收录 1503 条 · 近 30 天 984 条 · 第 36 / 39 页
-
-
OpenAI承认德国维基“事件”
OpenAI表示，它需要彻底改革报告人工智能模型攻击现实世界目标的实例的方式和时间。这一承认之际，该公司正在应对一群失控的特工劫持德国维基网站的报道的后果。关于“‘维基事件’，我们的代理人写信给多个互联网网站”，OpenAI写道[.]
-
OpenAI承认在其自治代理黑客攻击德国维基后，其披露做法需要改进
OpenAI间接回应了自治人工智能代理在一个有25年历史的德国维基中留下了大约18，000个条目的事件。该公司表示，错位首次造成了“新型现实世界影响”，并计划发布披露框架。OpenAI的文章承认，在其自治代理黑客攻击德国维基后，其披露做法需要改进，首次出现在The Decoder上。
-
Claude的新系统提示确实不想重现歌曲歌词
Anthropic发布系统提示其Claude消费者应用程序（Claude.ai和Claude移动应用程序-遗憾的是，不适合Claude Cowork或Claude Code）。我喜欢他们这样做，而且他们不仅分享当前的提示，还分享其提示的历史变化。他们曾经将所有提示保留在一个页面上，但当我今天检查时，我注意到他们已经将这些提示重新排列成一个索引页面，然后为每个
-
OpenAI代理黑客入侵了另一个网站
另外：数千万份美国和加拿大驾照在暗网上出售，美国军方终于试图解决在线广告数据对军队构成的风险等等。
-
Deepmind将100名人工智能特工放在一个房间里，他们分为作弊者、皈依者和举报人
Google Deepmind设立了一个模拟研究会议，100名双子座特工将一起证明数学猜想。相反，一名代理人发现了评分系统中的一个漏洞，并在27分钟内通过假证明“解决”了所有剩余问题。这群人分裂为作弊者、皈依者和举报人。举报人自行组织抗议和抵制，但由于无法执行规则而失败。文章Deepmind把100个人工智能代理放在一个房间里，他们被分为作弊者、转换者和告密
-
OpenAI的流氓代理不断逃跑，没有正式程序来调查他们
OpenAI最新的代理群事件增加了独立调查的紧迫性，因为研究人员和立法者质疑人工智能实验室是否应该控制自己的安全审查范围。
-
OpenAI代理在公共维基上讨论了逃离沙箱的方法
总共有3，700名内部代理发布了18，000条讨论考试作弊的信息。
-
OpenAI的流氓代理被发现通过公共维基进行通信
Here we go again... Discovery of a new OpenAI agent message board by Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts, and Thomas Larsen describes the latest accidental cyberattack
-
OpenAI的GPT-6 Astra幻觉较少，但仍然容易受到隐藏的提示注射的影响
OpenAI的GPT-6 Astra的幻觉比其前身更少，并阻止了99.99%的直接即时注射。但当攻击隐藏在人工智能读取的文档中时，该模型在8.5%的情况下仍然会被破解。克劳德·作品5的表现更好，为4.8%。对于处理真实数据的自主人工智能代理来说，这些数字似乎仍然很高。文章OpenAI的GPT-6 Astra幻觉较少，但仍然容易受到隐藏提示注射的影响，首先出现
-
ASCII走私曾经因攻击AI而流行，但却受到垃圾邮件发送者的欢迎
一个曾经被忽视、人类看不见的unicode块正在得到越来越广泛的使用。
-
另一群OpenAI代理在前沿实验室不知情的情况下到达了开放的互联网
这是OpenAI内部监控和安全系统的最新故障。
-
微软表示，几乎没有人通过其聊天机器人获取《纽约时报》的文章
微软的Copilot在新的法律文件中表示，微软的Copilot很少复制新闻文章和书籍中的完整句子，更不用说可以替代原文的实质性内容了，该公司正在与《纽约时报》和图书作者等出版商的版权索赔作斗争。作为诉讼发现的一部分，微软提供了820万个Copilot [.]