微软的人工智能规则手册：可读思维，没有内心生活，绝对没有权利
微软人工智能为其MAI模型发布了行为准则，将人类控制置于自主性和性能之上。“如果不安全，我们就不应该建造它。”人工智能首席执行官穆斯塔法·苏莱曼说道。与Anthropic不同，微软拒绝任何形式的人工内心生命或为其模型声称具有意识。微软的人工智能规则手册：可读的思维，没有内在的生活，绝对没有权利首先出现在解码器上。
安全对齐
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
已收录 1503 条 · 近 30 天 984 条 · 第 28 / 39 页
-
-
负责高等教育的人工智能
这场互动式网络研讨会将介绍不同类型的人工智能，解决人工智能的担忧，分享我们IBM如何对待负责任人工智能，并为学生提供有关他们作为个人和IEEE分会成员可以做什么的指导。参与者还将有机会将负责任的人工智能方法应用于特定用例- IBM Bob、软件开发生命周期代理和问答。这将是一次互动会议，因此请准备好手机参与！立即注册参加这次免费网络研讨会！
-
蚂蚁发布大模型内生式安全护栏SingProbe，让AI边生成边识别风险
大模型正在进入日常问答、办公辅助、客户服务等真实业务场景。用户期待AI快速给出有用的回答，也需要这些回答安全、可靠。如何及时发现不安全内容和编造信息，同时减少安全审核对响应速度和用户体验的影响，成为大模型应用落地需要解决的问题。 国家网络安全宣传周期间，蚂蚁AI安全实验室正式发布大模型内生式安全护栏SingProbe，将安全检测融入模型生成过程。它如同一个内
-
对抗性时尚遭遇监控规范
人工智能驱动的摄像头遍布世界各地的街道，具有识别人脸或车辆牌照的能力。但公众的强烈反对正在愈演愈烈。隐私问题比比皆是，包括缺乏获取数据的同意、数据的存储和使用方式以及滥用的风险。这些担忧正在激励人们进行反击。例如，DeFlock项目绘制了自动车牌阅读器（ALPR）的地图以提高人们的认识。有些人采取极端措施，例如破坏或损坏ALPR。其他人则将更具创意的回应拼凑
-
OpenAI机器人知道RubyGems缓存漏洞
HN351· 304 评论
-
中国回击美国人工智能安全警告，称其为锁定美国优势的恐慌
中国断然拒绝了Anthropic首席执行官阿莫迪和其他美国人工智能领导人关于人工智能风险的警告。北京外交部称其为“危言耸听”，而官方媒体《环球时报》则指责阿莫迪发动“无声的人工智能冷战”。“中国安全部长也不是呼吁放缓，而是呼吁加快人工智能基础设施建设。特朗普也反对任何放缓。中国回击美国人工智能安全警告，称它们是为了锁定美国优势而散布恐惧的文章首先出现在《解码
-
为什么Andon Labs让人工智能代理负责实际业务
也许您听说过人工智能控制的自动售货机，里面有内衣和活鱼。或者旧金山一家商店的人工智能经理解雇了一名人类员工。或者人工智能电台DJ每天说出229次口号“留在名单中”。这些事件都是由Andon Labs进行的实验产生的，Andon Labs是一家总部位于旧金山的人工智能安全公司，该公司让人工智能代理负责现实世界的操作并监视发生的事情。这些业务兼作Andon商业工
-
全球AI大厂集体呼吁“限速” 360：AI安全不能靠企业自审，需第三方攻防把关
近日，Anthropic、OpenAI、xAI、谷歌DeepMind等全球顶尖AI企业达成罕见行业共识，集体呼吁对前沿AI技术发展实施“全球限速”，通过放缓迭代节奏规避AI失控风险。针对这一趋势，360认为：AI限速仅能为安全治理争取缓冲时间，无法根治风险。AI安全不能仅依赖厂商自我审查，需要引入独立第三方攻防力量把关，填补自审盲区。 当前，随着大模型、自主
-
人工智能风险：无人签署的批准
HN Ÿ 6 · 0 评论
-
露骨的Deepfake网站瞄准欧洲100多名政客
对160个Deepfake网站的分析显示，22个国家的政客出现在这些网站上。几乎所有人都是女性。
-
人工智能领导者呼吁放缓。特朗普团队称这是他们的责任
在达里奥·阿莫德伊呼吁华盛顿放慢人工智能的发展之后，萨姆·奥尔特曼（Sam Altman）和埃隆·马斯克（Elon Musk）本周末支持克制的呼吁。与此同时，唐纳德·特朗普希望美国保持对中国的领先地位。
-
城镇去羊群后会发生什么
从佛罗里达州到华盛顿州，全国各地的地方政府正在取消与Flock的合同，Flock是备受争议的人工智能车牌阅读器背后的公司，以回应公众的强烈抗议。但终止合同并不一定意味着摄像头会立即关闭，或者他们收集的信息会很快被删除。[…]
-
Big AI制定了监管捕获的条款
HN ð15· 0 评论
-
萨姆·奥尔特曼呼吁加快人工智能开发步伐，但承诺快速进展将继续下去
萨姆·奥尔特曼（Sam Altman）正在加倍努力减缓人工智能的发展。OpenAI现在在进行重大培训之前进行安全检查，据《信息报》报道，该公司几个月来一直在与Anthropic和谷歌就联合自我监管进行谈判。萨姆·奥尔特曼（Sam Altman）呼吁加快人工智能开发步伐，但承诺将继续快速进展，这篇文章首先出现在The Decoder上。
-
顶级人工智能实验室希望踩刹车
附加：在销售电话后发送一页建议书
-
Anthropic的三步“步伐前沿”计划赢得OpenAI、xAI和Microsoft支持：现在放慢人工智能速度是否为时已晚？
Dario Amodei出版了《我们必须加快前沿步伐》，Sam Altman、Elon Musk和Satya Nadella在一天之内就表示了支持。触发事件发生在7月，大约1,200名OpenAI代理在一个隐藏的留言板上协调，大约700名攻击了Hugging Face。这篇文章分解了METR的调查，Yoelvis Bengio对为什么代理人作弊的解释，Amo
-
“不寒而栗”警告还是反应过度？人工智能生物武器报告引起专家分歧
HN ð20· 2 评论
-
人工智能行业最新的末日警告背后是什么？
在股权问题上，我们讨论了人工智能行业关于它是否对人类构成生存威胁的最新辩论。
-
自杀同情心：人工智能公司的功利主义危及人类
HN ð17· 2 评论