面向政府和企业的主动网络防御
介绍Fairwind计划
安全对齐
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
已收录 1503 条 · 近 30 天 984 条 · 第 39 / 39 页
-
-
企业急于确保人工智能部署安全，HiddenLayer获得1亿美元
安全公司正在争先恐后地开发不仅可以监控代理人，还可以监控他们使用的工具和附加组件的产品。
-
PSA：亚马逊的购物人工智能现在可以告诉您该消息是否是骗局
亚马逊正在为Alexa for Shopping添加诈骗检测功能，可以验证可疑电子邮件、短信和其他消息是否实际上来自零售商。
-
OpenAI称Astra为迄今为止最危险的模型-观察它所做的事情只会变得越来越困难
OpenAI正式将其即将推出的Astra模型评为第一个具有“关键”网络能力的系统。该公司计划通过监控思想链来控制它。问题是，监控已经被视为模型真实决策的不可靠反映，根据一份报告，Astra的新架构将更多的想法推入了不可读的领域。因此，随着能力的飞跃，安全网可能会变得越来越弱。文章OpenAI称Astra是迄今为止最危险的模型--观察它所做的事情只会变得越来越
-
OpenAI和Anthropic之后的六个curl cve都是零
HN ð175· 57 评论
-
OpenAI还面临30起与Tumbler Ridge枪击事件有关的诉讼
Edelson PC将就Tumbler Ridge枪击事件对OpenAI提起30起新诉讼，升级了协助、教唆和点名Chris Lehane的指控，尽管证据尚未得到证实。