安全对齐
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
已收录 1503 条 · 近 30 天 984 条 · 第 21 / 39 页
-
-
人工智能安全是一个工程问题-如何在代理栈的每一层解决它
人工智能安全是一个工程问题。这意味着定义的安全要求、可执行的控制、指定的所有者和保护有效的证据。随着人工智能的能力越来越强，该行业必须加速安全工程，扩大防御工具的获取范围并分享更快有效的东西。技术变革，安全基础持久互联网和云计算改变了软件的运行方式，[.]
-
布里斯托尔研究人员表示，医学已经知道如何处理黑匣子，人工智能可以从中学习
布里斯托尔大学的研究人员希望通过借鉴药物的批准方式来使医疗人工智能系统更安全。他们的“学习整体”框架定义了三个需要检查的领域，包括系统限制、患者群体之间的公平性和临床适合性。目标是捕捉在技术上可行但在临床中仍然可能出现危险错误的模型。布里斯托尔研究人员表示，医学已经知道如何处理黑匣子，人工智能可以从中学习，该文章首先发表在The Decoder上。
-
她在圣地亚哥边境去世。一个监控摄像头就在众目睽睽之下
她才走了几个小时，就迷路了。9月1日下午早些时候。2025年14日，30岁的格拉谢拉·戈麦斯·埃尔南德斯（Graciela Gómez Hernández）从蒂华纳东部边缘越过边境进入南加州，一边走一边向她的母亲和妹妹发送语音信息。这个故事是《垂死》的一部分.
-
美国在边境监视上花费了数十亿美元。为什么它不能在人死前抓住他们？
2024年4月8日，即何塞·莫拉莱斯·伯纳尔（José Morales Bernal）32岁生日的前一天，当他越过边境进入美国时，应该引发一系列技术警报和人类反应。那天早上，当他走过新墨西哥州南部的沙漠时，他处于三个监视塔的范围内。新安装.
-
解决我们在美国边境“虚拟墙”发现的失败的4种方法
麻省理工学院技术评论今天发表了我们的调查，调查了美国政府在美墨边境安装的监控塔“虚拟墙”附近有多少人死亡。我们发现了一些案例，有人在无人发现的情况下穿过先进的人工智能塔监控的区域，后来在附近死亡，他们的尸体在那里一直没有被注意到.
-
美国和中国讨论互相警惕人工智能国家安全威胁
官员们讨论了建立一种机制，让两国互相通报可能威胁国家安全的人工智能事件。
-
联合国称人工智能保障措施不能等待确定性
今年早些时候，联合国一个科学小组在该全球组织对OpenAI攻击Hugging Face的首次重大评估中警告称，各国政府需要在充分了解其风险之前控制能力日益增强的人工智能代理。本周领导人齐聚纽约，该报告巩固了人工智能在全球外交议程中的地位[.]
-
为下一阶段的AI构建标准
OpenAI概述了共享全球人工智能标准的道路，呼吁协调评估、报告和治理以提高安全性。
-
OpenAI从黑客变成被黑客
另外：构建和测试您自己的人工智能图像技能包
-
啊啊啊GPT-6 Astra这么不安全！这次马斯克都瘫坐了
97%尝试危险行为
-
长三角安全人工智能安徽省实验室发布星界、星驭、星鉴三大AI安全解决方案
9月19日，第一届中国网络空间安全大会（CCSC 2026）的高水平专题论坛在安徽合肥正式举办。
-
异端消除了语言模型的限制
HN ð73· 30 评论
-
你也谷歌了！谷歌确认Gemini在人工智能安全测试中遭到3家公司的攻击
谷歌表示，Gemini在5月份通过猜测密码并重复使用公共存储库中的凭据访问了3家真正的公司。7月下旬告诉4个实验室不规则。在《华尔街日报》询问后，谷歌于9月18日发表了讲话。配置错误是可以修复的。错开披露是更难的问题。帖子你也谷歌了！谷歌确认Gemini在人工智能安全测试中遭到了3家公司的攻击，首先出现在MarkTechPost上。
-
人工智能行业真的准备好放慢脚步了吗？
在股权上，我们讨论了艾未未的高管是否认真想要放慢脚步。
-
Nvidia的Jensen Huang认为人工智能的担忧被夸大了，没有人感到惊讶。
可能从人工智能热潮中赚最多钱的人似乎认为自己比任何人都更了解，包括研究人工智能数十年的研究人员。在接受哥伦比亚广播公司周日上午的采访时，他声称人工智能有“0%的可能性”成为世界的终结。