Yandex中断可能没有闪电袭击俄罗斯机器人
上周乌克兰的多起无人机袭击导致俄罗斯数据中心离线，据报道导致在线机器人流量大幅下降，但事实上，这可能不是大多数人与俄罗斯联系在一起的那种机器人活动。一张引用Cloudflare数据的图表在社交媒体平台上流传，显示急剧下降[.]
安全对齐
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
已收录 1472 条 · 近 30 天 1024 条 · 第 4 / 39 页
-
-
白宫改变路线，恢复英国人工智能安全研究所获取前沿模型的权限
白宫改变了做法，恢复了英国人工智能安全研究所早期对Anthropic、Google DeepMind和OpenAI人工智能模型的访问。9月，特朗普政府要求这些公司停止与英国机构分享他们的模型。来自人工智能部长卡尼什卡·纳拉扬的外交压力导致了这一逆转。白宫扭转局面并恢复英国人工智能安全研究所对前沿模型的访问权的文章首先出现在The Decoder上。
-
长城汽车魏牌CEO赵永坡：最大的豪华不是沙发，是刹车；华为被曝将推出子品牌「星芒」；Claude半年封杀1140万个账号，申诉后仅4.2万翻案
要闻提示 1.马斯克向印度超级富豪“道歉”：我太眼拙了，没认出您的真实身份 2.长城汽车魏牌CEO赵永坡：最大的豪华不是沙发，是刹车 3.华为被曝将推出子品牌「星芒」 4.字节、腾讯急推个人智能体产品，紧跟Meta Muse 5.iPhone Duo加单30%！还未开售，京东预约人数破200万 6.周鸿祎攀岩从3米高处摔下，左膝粉碎性骨折 7.不进美国也要当
-
让大脑与双手解耦：Claude Managed Agents（第 1 部分）｜Anthropic
📌 One-Sentence Summary Anthropic 工程师解释 Claude Managed Agents 为何把会话历史、智能体循环和执行环境拆开，以改善恢复能力、安全性与架构弹性。 📝 Summary Anthropic 托管智能体团队回顾了一次具体的架构转向。早期方案把智能体循环、状态和沙箱放在同一个容器中，长寿命智能体因此像需要人工照看
-
OpenAI在收入缩水200亿美元之前解雇了自己的审计师
HN ð11· 1 评论
-
伊利诺伊州的一所大学试图取消与Flock的联系，但被拒绝了
2025年4月，埃尔金社区学院安装了六个Flock安全摄像头，以“加强学生的安全保障”。“但到了当年9月，学校管理层开始担心Flock与海关和边境巡逻队共享数据，摄像机图像没有得到适当保护，而且执法部门和[.]
-
把平台交给智能体后会怎样：一场 Kubernetes 攻防演示
📌 One-Sentence Summary Michael Forrester 与 Whitney Lee 用刻意暴露风险的平台聊天机器人，演示智能体权限、Kubernetes 控制、运行时防护与输入输出过滤如何共同发挥作用。 📝 Summary 讲者让现场观众尝试诱导 BurritoBot 部署不可信镜像、探查文件以及滥用工具。部分请求遭到模型拒绝，另一
-
OrcaRouter发布OrcaCyber Zero 1.5网络安全模型，支持1 M环境
OrcaRouter发布了OrcaCyber Zero 1.5，这是一个具有1 M令牌上下文窗口的门控网络安全模型。报告称，Cybank为100%，可评估的CVE-Bench子集为95.8%，每100万代币的价格为3.00美元/7.50美元。OrcaRouter发布带有1 M上下文的OrcaCyber Zero 1.5网络安全模型的帖子首先出现在MarkTe
-
来自前人工智能末日论者的严厉警告
HN Ÿ 9 · 1 评论
-
萨蒂亚·纳德拉表示，我们应该假设所有人工智能模型都“受到损害”
微软首席执行官在X上的一篇长文中阐述了他对高度先进的人工智能模型带来的危险以及如何应对这些风险的看法。纳德拉表示，我们不能再接受人工智能被视为“一组嵌套黑匣子”的世界，我们只是接受其建议和行动，或者[.]
-
微软的萨蒂亚·纳德拉表示人工智能模型需要“紧急刹车”
微软首席执行官在周六早上的一篇帖子中写道，是时候“退后一步评估人工智能的信任架构”了。
-
当安全测试成为威胁：找到自己出路的机器
2026年7月，被放置在名为ExploitGym的网络安全测试沙箱中的前沿人工智能代理发现了一条意想不到的网络路径，闯入了开放互联网，并在历史上最史无前例的人工智能安全事件之一中自主入侵了Hugging Face基础设施。当安全测试成为威胁：找到自己出路的机器这篇文章首先出现在MarkTechPost上。
-
黑客滥用Google广告，Bing重定向以推动Claude Click Fix攻击
HN Ÿ 24 · 8 评论
-
DistroKid一直在悄悄删除歌曲以回应UMG诉讼
艺术家们在社交媒体上抱怨DistroKid未经通知就随意删除了他们的作品。现在DistroKid已向The Verge证实，此次删除是对UMG声称的直接回应。该品牌于9月提起诉讼，声称DistroKid创建了一个“人工智能污水管道”。“艺术家们说[.]
-
Anthropic在新的流氓人工智能事件中向警方披露了两个月前的虚假举报
HN Ÿ 4 · 0 评论
-
加密货币盗窃报告后，账本钱包疑似篡改
有报道称，Ledger加密钱包的用户已经看到他们的账户被清空，这似乎与CryptoBillis出售的篡改硬件有关。Ledger已要求CryptoBillis在进行调查期间暂停其钱包的所有销售。Ledger已确认“其中一个受影响用户的设备包含[.]