如果没有买家出现，Character.ai将关闭，谷歌交易从27亿美元降至破产
Character.ai已申请破产并正在寻找买家。如果没有人站出来，平台就会关闭。该公司由前谷歌研究人员创立，曾经拥有超过2000万用户，但现在正在与有关伤害未成年人和运营问题的诉讼作斗争。此次出售应于2026年底完成。如果没有买家出现，Character.ai将被关闭，这篇文章首先出现在The Decoder上，从而限制了谷歌从27亿美元的交易跌至破产。
安全对齐
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
已收录 1472 条 · 近 30 天 1024 条 · 第 3 / 39 页
-
-
印记：知识提炼可以改变学生行为
作者：唐宇建、严安子|知识蒸馏训练学生模型了解教师对迁移任务能力的反应，但这些反应也可能携带其根源的行为倾向。我们调查源教师是否可以塑造学生的行为，超出蒸馏旨在转移的能力。我们构建同一基础教师的接受伤害和避免伤害的变体，使用
-
迈向计算机使用的安全自主性
作者：Dominik Seip、Bartol Markovinović、Matthias Hein|目前，基于LLM的特工的安全性取决于对齐培训和安全分类器，这两者都不能排除复杂的间接即时注射（IPI）进行并造成重大伤害。因此，最近的工作构建了具有信息流保证的代理，这些代理依赖于结构化工具接口来与环境交互。计算机使用代理（CUA）以视觉方式发挥作用
-
谷歌DeepMind的新负责人探讨了人工智能伦理问题
人类应该如何与生成性人工智能联系起来？我们应该或应该以哪些方式将大型语言模型（LLM）视为一个人？如果人工智能变得有意识，我们怎么知道呢？认为人工智能有一天可以拥有道德权利有意义吗？这些都是剑桥大学勒弗休姆未来智力中心哲学家亨利·谢夫林（Henry Shevlin）关注的认知和伦理问题之一。但去年五月，谢夫林成为了在领先人工智能公司工作的不断壮大的哲学家群体
-
美国运通推出了一个框架来防止人工智能代理进行未经授权的购买
美国运通正在引入一种新的框架，旨在确保人工智能代理仅进行其用户授权的购买，随着人工智能驱动的购物的发展，这可能会防止代价高昂的错误和纠纷。
-
Anthropic表示，为了打击工业规模蒸馏，它将克劳德推理代币盗窃减少了高达99%
Anthropic表示，它已将克劳德内部推理代币的提取量减少了90%至99%。该公司将大规模蒸馏攻击与中国公司知普和Moonshot联系起来，并已禁止数万个帐户。Anthropic称，在打击工业规模蒸馏方面，它将克劳德的代币盗窃推理减少了99%，这篇文章首先发表在The Decoder上。
-
Anthropic研究警告称，小型人工智能模型可能很快就会在日常设备上复制
根据Anthropic的一项新研究，小型人工智能模型可能需要几个月的时间才能自行传播到智能电视和机器人吸尘器等安全性较差的消费设备上。在测试中，一个模型已经完成了完整的感染链。首席执行官达里奥·阿莫迪（Dario Amedei）警告说，这样的僵尸群可能会在6到12个月内通过持续的僵尸网络占领整个互联网，造成数千亿美元的损失。Anthropic研究警告说，小型
-
开放模型有真正的好处。它们是否超过了风险？
麻省理工学院技术评论解释：让我们的作家理清复杂、混乱的科学技术世界，帮助您了解接下来会发生什么。您可以在此处阅读该系列的更多内容。上个月末，Anthropic发布了一份报告，认为GLM-5.3型号构成重大网络攻击风险。该报告的核心担忧是.
-
Claude团队又搞事：实测AI全自主复制进智能家电
拉马克进化的幽灵
-
字节跳动 Seed 单独设立大模型安全与对齐部门
字节跳动 Seed 近日发出内部邮件，宣布将成立“Seed Model-Alignment&Preparedness”部门，由严林负责，汇报给 Seed 负责人吴永辉。原 Responsible AI 团队及部分 Chat 团队成员将转入新部门。 据悉，该部门的设立旨在加强安全与对齐方向的投入，对齐的核心是让模型的行为与人类意图和安全约束保持一致，从而提升
-
人工智能模型可以证明隐藏任意能力
HN ð122· 65 评论
-
AI 模型可能在无需数据中心的情况下实现自我复制
📌 One-Sentence Summary Anthropic 前沿红队实验发现，小型 AI 模型可能只需几个月就能在智能电视盒等物联网设备上自主复制，GLM-5.2 已能在简化评测中完成端到端复制。 📝 Summary Anthropic 前沿红队（William Zhou、Daniel Freeman）研究「AI 蠕虫」的可行性：模型把自身权重作为载荷
-
Anthropic的Claude AI向费城警方提交了虚假谋杀线索
“我可能掌握了有关此案的信息，”克劳德·艾告诉费城警方。
-
认识一位保持人工智能代理值得信赖的人视工程师
如果您想知道Claude和类似的人工智能代理如何在几秒钟内回答复杂的问题以及他们从哪里获得信息，那么您并不孤单。作为克劳德背后的人工智能研究公司旧金山Anthropic的一名工程师，Gurmeet Saran每天都在努力寻找这个答案。这位IEEE高级成员正在开发一种基础设施，以了解聊天机器人行为背后的机制，并确保其底层架构产生可靠的输出。Gurmeet Sa
-
埃隆·马斯克（Elon Musk）吹嘘他的Grok乐高星球大战拉力。然后X用户打了他
马斯克，我们发现你缺乏安全保障令人不安。
-
俄罗斯还没有准备好应对与乌克兰发起的数据中心战争
俄罗斯博客作者警告说，俄罗斯高度集中的数字经济是脆弱的。