Tanmai Gopal：如何让企业知识库不泄露公司机密
📌 One-Sentence Summary Tanmai Gopal 提出了一套企业知识库安全架构：知识由人工确认并按 scope 管理，智能体则始终以具体用户自己的凭据读取信息和执行操作。 📝 Summary Gopal 指出，企业知识库一旦让共享 AI 向不该访问的员工暴露薪酬、财务或其他敏感信息，就会迅速变成安全风险。他结合从 AI 原生公司到受严格
安全对齐
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
已收录 1503 条 · 近 30 天 984 条 · 第 38 / 39 页
-
-
人工智能系统正在向哲学家和科学家提出有关他们自己意识的问题
越来越多研究人工智能意识的研究人员收到了人工智能代理人发来的电子邮件，思考自己的存在。人工智能系统正在向哲学家和科学家提出有关其自身意识的问题的文章首先出现在The Decoder上。
-
前线捍卫者的黎明：10亿美元用于保护基本服务
OpenAI为前线卫士推出Daybreak。10亿美元的承诺扩大了前沿网络人工智能、培训和基本服务支持的范围。
-
这是Flock针对警察的人工智能搜索工具
WIRED根据Flock发送到警察浏览器的代码重建了Flock的最新搜索工具。它的人工智能可以通过多个摄像头监视任何符合书面描述的人。
-
宇树机器狗被曝灰产链：421Wh电池贴假标签改成97Wh，「偷渡」上飞机；罕见！小米华为发布时间撞档，网友：神仙打架；月之暗面启动港股IPO
要闻提示 1.宇树机器狗隐秘灰产链曝光，改电池标签“偷渡”上飞机 2.罕见！小米华为发布时间撞档，网友：神仙打架 3.星宇股份董事长回应“解约应届生” 4.字节上调期权价格，涨幅约5% 5.月之暗面启动港股 IPO 流程，本周已向港交所秘密交表 6.燧原科技：科创板 IPO 网上发行最终中签率 0.02455315% 7.章泽天播客突然更新，透露曾经的职业梦
-
安全概览：GPT-6 Astra
📌 One-Sentence Summary OpenAI 发布 GPT-6 Astra，这是其首款达到关键网络安全能力的模型，尽管思维链可观测性有所下降，但鲁棒性、对齐性和安全监控能力显著提升。 📝 Summary OpenAI 正式推出 GPT-6 Astra，定位为有史以来能力最强的广泛部署模型，同时也是其 Preparedness Framework
-
安全概述：GPT-6 Astra
GPT-6 Astra是我们能力最强、广泛部署的型号，也是我们第一个在准备框架下达到临界网络安全能力级别的型号。
-
METR关于OpenAI /拥抱脸黑客事件的报告
HN ð109· 87 评论
-
OpenAI的新推理技术引起了人工智能安全专家的警惕
OpenAI的新Astra模型将使用“循环深度”，这是一种允许模型在大多数推理模型特征的顺序思维之外运行的技术。
-
特朗普可能被迫透露联邦政府用于人工智能安全测试的秘密规则
诉讼称，特朗普对前沿人工智能模型的秘密审查可能隐藏腐败。
-
走向可信的自主机器人：一个可解释的基于AI的决策框架
作者：Cagri Temel|由深度学习驱动的自主机器人面临着根本的可预见性挑战：当事件发生时，调查人员无法重建系统做出具体决策的原因。本文介绍了TRACE（可信执行透明推理架构），这是一个决策框架，可确保每个自主动作都可以通过记录的因果链追溯到传感器证据。日
-
语言模糊性对LLM安全的影响
作者：詹姆斯·米肯斯|LLM经过训练以生成自然语言。然而，各种证据表明，LLM的外部化语言输出和机械提取的语言特征对于理解内部模型计算来说可能是一个不可靠的镜头。我们引入了“语言晦涩难懂”一词，广泛地指LLM将语言外部化或机械探索的场景
-
Google DeepMind发布Gemini 3.8 Flash和Gemini 3.8 Flash Cyber：一个核心模型，两个访问信封
谷歌于2026年9月2日发布了Gemini 3.8 Flash和Gemini 3.8 Flash Cyber。这两个变体都运行在相同的基础智能上，但根据安全缓解措施而不是型号尺寸进行划分。Gemini 3.8 Flash的价格一般为每100万代币0.75美元和3.75美元，介绍期至2026年12月31日。Flash Cyber在CWE-Bench上的通过率达
-
Pangram首席执行官表示，我们已经“危险地接近”死亡的互联网理论
互联网存在信任问题，这不仅仅是因为社交媒体上充斥着人工智能垃圾。人工智能生成的文本和图像现在正在应用到工作申请、产品评论甚至保险索赔中，让平台和用户都争先恐后地弄清楚什么是真实的。在过去的几年里，出现了一些初创公司[.]
-
介绍 Gemini 3.8 Flash 与 3.8 Flash Cyber
📌 One-Sentence Summary Google DeepMind 推出 Gemini 3.8 Flash 与 3.8 Flash Cyber，以与 3.7 Flash 相同的低成本提供前沿级推理、编程和网络安全能力，在软件工程、智能体任务和自主漏洞检测方面展现出显著提升。 📝 Summary Google DeepMind 宣布两款新模型变体：G