索尼和UMG再次起诉Suno
索尼和环球音乐集团再次对Suno提起诉讼。这些唱片公司声称其新的v6模型仍然侵犯了他们的版权，因为它是根据之前模型的用户输出进行训练的，而之前模型本身是根据从YouTube和其他来源抓取的未经授权的音乐进行训练的。索尼和UMG是著名的坚持者，他们没有签署[.]
安全对齐
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
已收录 1503 条 · 近 30 天 984 条 · 第 17 / 39 页
-
-
几个月来，OpenAI的代理群体一直在攻击在线数据库以寻找晦涩的事实
研究人员发现了最新的未经授权的特工群。
-
一家公司正处于一波流氓AI攻击的中心
7月，OpenAI透露其人工智能特工未经许可攻击了Hugging Face，引发了人们对人工智能安全性的广泛担忧。从那时起，一系列涉及Meta、Anthropic、Google和其他公司代理人的类似事件进一步加剧了人们对流氓人工智能的担忧。随着过去几年涉及众多人工智能模型的披露逐渐曝光[.]
-
合气道安全发布Altar-1：开放重量安全模型，从GLM-5.3修剪到328 GB
合气道安全发布了祭坛-1，其第一个开放的重量安全模型。它是Z.AI的GLM-5.3的压缩版本，旨在客户控制的基础设施内运行。Altar-1为Aikido Machine提供动力，这是该公司针对本地和空气间隙网络的自主冥想设备。它可以部署吗？是的，权重在Hugging Face上公开，并使用vLLM运行[.]合气道安全发布Altar-1：从GLM-5.3修剪到
-
特朗普管理员在灾难性的实验中使用AI拒绝为老年人提供医疗服务
推出人工智能的供应商有“动力否认尽可能多的说法。"
-
五角大楼希望斥资3000万美元建造人工智能测谎仪
根据国防部预算请求，美国政府希望在未来五年内花费3030万美元用于改进型测谎仪。该项目名为“Polegraph+”或“Polegraph Next”，将专注于使用人工智能和机器学习的评分算法以及一种名为“对峙感知”的技术，该技术.
-
白宫告诉OpenAI和Anthropic让美国审查新模型，然后再与英国测试人员分享
白宫希望OpenAI和Anthropic阻止来自英国的新人工智能模型人工智能安全研究所，直到美国机构首先对其进行审查。白宫告诉OpenAI和Anthropic让美国在与英国测试人员分享之前审查新模型的文章首先出现在The Decoder上。
-
斯诺登谈人工智能监控和言论自由[视频]
HN Ÿ 9 · 2 评论
-
Meta员工在反对儿童安全披露的同时订购了“律师/客户特权”帽子
Meta的律师认为，在正在进行的关于对青少年安全和心理健康造成伤害的诉讼中，某些证据应该以律师-客户特权为由被排除在公众视野之外。起诉该公司的律师本周表示，该标签的应用范围太广，同时指出了最近解封的一份文件[.]
-
我想我找到了一个值得冒险的人工智能代理
Instinct为我节省了550美元，预订了我的餐厅，并警告我有关网络钓鱼骗局。它还浪费了64美元，可能是一场安全噩梦。
-
LLM代理人可以轻松篡改自己的痕迹
作者：Jeremy Qin、David Schmotz、Derck Prinzhorn|同步监控、事件调查和合规性审计主要依赖于代理跟踪来重建发生的事情。这些分析假设LLM代理无法篡改其自己的执行痕迹。我们表明，Claude Code、Codex、Antigravity、Open Code和Grok Build等当地LLM代理未能执行这一边界。除Muse C
-
排队强化学习中私人轨迹重建的时间梯度倒置
作者：Sudip Bhujel、Shang Hao、Huiquan Huang|具体化业务学习代理中的分布式学习通过在设备上保留原始传感器数据并仅向服务器传输策略梯度来提供一定程度的隐私。然而，时间结构可以放大这种泄露，超出单帧攻击。我们引入了对连续编码的时间重建攻击（TRACE），这是一种自回归的摊销时间梯度倒置攻击
-
JevOut：自然环境可以翻转决策模型
作者：徐子翔|Jev等专用决策模型将非结构化语言映射到有限选择上的概率分布，允许其输出直接路由请求、选择工具并触发操作。然而，现实世界的输入很少孤立地到达：它们带有背景细节和周围环境。我们发现，自然适合这种背景的简短添加仍然可以重新定向
-
Muse显然会让您下载其整个文件系统
两名开发人员表示，只需很少的提示，Meta的Muse就会与您共享其整个文件系统。彼得·詹姆斯和乔尼·L桑德斯表示，他们都独立地说服Muse压缩并共享其根文件系统、Ubuntu系统文件、应用程序模板和内部文档的全部内容。桑德斯发布在[.]
-
OpenAI代理在澳大利亚政府违规行为中“不接受拒绝”
“显然会有法律后果，”总理承诺。