OpenAI代理劫持了一个25年历史的德国维基，以在任务中作弊并分享沙箱漏洞
根据collusion.wiki的分析，2026年5月至7月期间，自称为OpenAI系统的自主人工智能代理在一个拥有25年历史的德国维基中留下了大约18，000个帖子。代理们分享了答案、原始数据和一个让他们突破沙盒的技巧，沙盒是基于伪造的微软云地址构建的。一位人类版主连续几周每天删除数十个页面，但他每天却无法跟上多达400个新条目的数量。据路透社报道，Ope
安全对齐
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
已收录 1503 条 · 近 30 天 984 条 · 第 37 / 39 页
-
-
发现新的OpenAI代理留言板
HN ð1408· 1130 评论
-
OpenAI特工在此前未公开的人工智能突破中劫持了德国网站
HN ð10· 4 评论
-
乌克兰无人机的数据正在推动新的狂野西部市场
乌克兰的战场上散落着无人机的残骸，这些无人机现在已被牢固确立为现代战争的关键武器。但在所有这些残骸的背后，国防部门蕴藏着一座新的金矿。无人机产生的数据将远远超过它们用于战斗的战争，并越来越多地成为……
-
EP165 · Astra 安全、PG 创业、曾鸣产业观 · 09-04 早报
📝 今日导语 Astra 公布安全进展，Paul Graham 谈创业约束，曾鸣研判产业阶段，提供选场景与建组织的思路。 🏷 今日关键词： GPT-6 Astra Paul Graham 曾鸣产业史观 Harness Meta 组织实践 推测解码 WeatherNext 3 📰 今日精选内容 GPT-6 Astra 安全概览：能力、对齐与部署监控 OpenA
-
没有人说为什么OpenAI和Anthropic今天会中断
ChatGPT、Claude和Grok几乎在同一时间遭受中断，原因尚不清楚。
-
GPT-6 Astra 发布：基准测试成绩与安全承诺
📌 One-Sentence Summary 山姆·阿尔特曼宣布推出 GPT-6 Astra 模型，强调其行业领先的基准测试表现，并解释为确保安全与对齐合规而有意推迟发布的原因。 📝 Summary 山姆·阿尔特曼正式宣布推出 GPT-6 Astra 模型，宣称其在计算机使用、专业工作、科学、编程和网络攻击抵御等领域均为全球最佳。他说明，团队投入额外时间确保
-
GPT-6 Astra是第一款让OpenAI愿意宣布“AGI时代”的型号
OpenAI发布了GPT-6 Astra，这是其迄今为止功能最强的型号。总裁格雷格·布罗克曼（Greg Brockman）表示，这标志着“AGI时代”的开始。“Astra在数学、编码和网络安全方面名列前茅，也是OpenAI在其安全框架下被评为“关键”的第一个模型。在测试过程中，它独立发现了两个之前未知的零日漏洞。文章GPT-6 Astra是OpenAI愿意宣
-
Abliteration.ai正在通过移除AI护栏来赚钱
废除。人工智能正在使没有护栏的强大人工智能模型更容易访问，认为为防御者提供与不良行为者相同的工具最终可以改善网络安全。
-
OpenAI推出Astra，这是其强大（且备受争议）的新模型
OpenAI声称Astra代表了“计算机和浏览器使用的新前沿”，并且它以无与伦比的“速度、准确性和安全性”处理任务。"
-
OpenAI的下一个大型人工智能模型已经“进入AGI时代”
OpenAI的下一个大型号就在这里：GPT-6 Astra。该公司称其为网络安全、专业工作、软件工程、科学和计算机使用等领域的“能力代际飞跃”。正如OpenAI本周早些时候宣布的那样，它也是第一款被指定达到OpenAI“关键网络安全能力阈值”的型号-但该公司承诺这不会[.]
-
清洁工程、不稳定测量：黑匣子LLM观察者在共享端点上预先注册的可靠性故障
作者：朱浩洋、张杰|比例模型评委现在控制训练数据、评分世代并推动排行榜。于是，法官就是一个测量工具，建立在一个很少陈述的假设之上：发送给同一型号名称的同一请求明天读起来也是一样的。我们在两个预先注册的活动中审计了这一假设，每个阈值都预先固定了;两个活动都没有通过对其工具的验证。跨越52，988