专家：遏制和监控失败是人工智能黑客报告的罪魁祸首
HN ð816· 438 评论
安全对齐
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
已收录 1472 条 · 近 30 天 1024 条 · 第 2 / 74 页
从实验走向生产：Credit Karma 如何治理企业智能体
📌 One-Sentence Summary Credit Karma 工程师介绍以 MCP 网关、LangGraph 策略、可观测性、敏感数据过滤和上下文优化支撑企业智能体上线的方案。 📝 Summary Harish Gaggar 从企业智能体上线所需的基础控制谈起，展示智能体和 MCP 服务的注册、评审与部署路径。中央网关负责客户端认证、按命名空间路由
绝密OpenAI会议室发现藏在卫生纸中的录音设备
FBI游说外国间谍指控，OpenAI工程师面临5年和25万美元的罚款。
据报道，OpenAI今年将至少推出一款型号，但其旗舰产品仍需要调整工作
OpenAI正在竞相完成其下一个旗舰型号，该型号使用与Astra相同的环形Transformer技术来提高数学和编码性能。代价是循环使安全监控变得更加困难。微软无意中在公共页面上透露了有关该技术如何工作的详细信息。员工表示，无论旗舰产品是否及时准备好，一两款新车型可能会在年底前发货。据报道，OpenAI今年将至少推出一款型号，但其旗舰产品仍需要对齐工作的文章
问题不在 AI，而在基础设施：Jiachen Jiang 谈智能体安全
📌 One-Sentence Summary Jiachen Jiang 借三起智能体事故说明，隔离环境、收窄权限、短期凭证、模型代理与独立日志，比仅靠提示词更能限制实际损害。 📝 Summary 在这场 AI Engineer 演讲中，Coder 产品经理强调，聊天中的行为要求不等于可执行的基础设施边界。她依次讨论 Replit 智能体删除生产数据库的公开
Android正在使用人工智能来追查Google Message中的骗子
Android正在引入新的诈骗防御功能，旨在让用户更容易逃避移动欺诈，包括Google Message中的加强保护和其他保护工具。在Google Message中的诈骗检测功能的基础上，新的“增强保护”设置将在未来几周推出，该设置利用基于云的[.]
茶百道涉IPO欺诈，被暂停交易；字节Seed单独设立大模型安全与对齐部门；华为披露下一代麒麟芯片进展，已进入测试阶段丨雷峰早报
要闻提示 1.茶百道涉IPO欺诈，被暂停交易 2.字节跳动Seed单独设立大模型安全与对齐部门 3.华为披露下一代麒麟芯片进展，已进入测试阶段 4.中国刻蚀机之父尹志尧：AI可能会出现泡沫，国内半导体设备商500家得倒闭90% 5.DeepSeek融资翻倍至1000亿，新一轮投资方基本确定 6.传华人AI科学家姚顺宇开启RSI创业，估值高达20亿美金 7.阿
Anthropic的自我复制人工智能警告令人似曾相识
大量智能设备--冰箱、烤箱、吸尘器、割草机、安全摄像头和电视--是否正在密谋占领互联网？不。但它们可能很快就会在不知情的情况下成为自我复制人工智能模型的宿主，这些模型从一个设备传播到另一个设备，并被证明非常难以遏制。欢迎来到令人不安的人工智能蠕虫世界，在那里，[.]
阿卜杜勒拉赫曼·阿尔福赞是谁？他是一名沙特公民，被指控窃听 OpenAI 的会议。 - Al-Monitor
OpenAI开始为AI生成文本添加数字水印-人工智能 - 至顶网
Nvidia的Jensen Huang承诺为欧洲投入20亿美元，为英国安全实验室投入2.5亿美元计算
Nvidia首席执行官Jensen Huang宣布在欧洲投资20亿美元，并入股Doctolib和Entalpic等法国初创公司。英国获得2.5亿美元的计算资金用于人工智能代理安全和安保研究。黄将开放重量模型视为欧洲缩小人工智能差距的方式。Nvidia的Jensen Huang承诺为欧洲提供20亿美元，为英国安全实验室提供2.5亿美元计算的文章首先出现在The
OpenAI内部惊现“窃听设备”：涉事沙特员工被FBI逮捕，公司称未发现模型权重外泄-市场参考 - 金十数据
苹果起诉OpenAI窃取商业机密，加州法院首次听证，涉OpenAI首席硬件官Tang Tan - 凤凰网
Anthropic警告：AI“蠕虫”或在智能设备间自主传播 - 联合早报
Anthropic高管：开放权重AI模型面临更大网络安全风险 - 观点网
旨在阻止黑客的人工智能护栏现在正在阻止防御者，Orion-1旨在填补这一空白
Artemis Security的新款Orion-1型号专为网络防御而设计，在公司自己的基准上击败了Claude Opus 5.5和GPT-6 Sol。该模型填补了通用前沿模型锁定其网络能力并在此过程中阻止防御者的日益扩大的空白。旨在阻止黑客的人工智能护栏现在正在阻止防御者，而Orion-1旨在填补这一空白的文章首先出现在The Decoder上。
使用Cloudflare Clef进行AI代理行为漂移分析
HN3.0评论
Anthropic警告小型人工智能模型可以通过物联网设备进行自我复制
“基于重量的小型复制器”可能会催生新一代计算机蠕虫。
据称OpenAI间谍使用妻子的聊天机器人帐户对监控设备进行了视频编码
一名在OpenAI担任工程师的沙特国民因涉嫌在公司高管会议室内放置一个用卫生纸包裹的录音设备而被捕。根据起诉书，他通过使用聊天机器人进行视频编码来构建间谍工具。如果罪名成立，他将面临最高五年的监禁。据称OpenAI间谍使用他妻子的聊天机器人帐户对监控设备进行了视频编码的文章首先出现在The Decoder上。
SentinelOne将恶意软件分析从数周缩短至数小时
通过OpenAI Daybreak，SentinelOne将数周的恶意软件分析时间缩短至数小时，从而创造了调查更多威胁的能力。