据报道，一些Anthropic退伍军人正在购买偏远土地，以防“人工智能出错”
据《华尔街日报》报道，Anthropic的一些任职时间最长的员工正在考虑在美国偏远地区购买土地作为避难所，以防人工智能出现问题。该报告追溯了该公司与有效利他主义运动以及湾区“末日一代”网络的深厚联系，这些“末日一代”十多年来一直在玩弄世界末日的情景。文章据报道，一些Anthropic退伍军人正在购买偏远土地，以防“人工智能出错”首先出现在The Decode
安全对齐
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
已收录 1472 条 · 近 30 天 1024 条 · 第 15 / 39 页
-
-
“作为语言模型”：聊天模板切换LLM自指语音
HN ð33· 23 评论
-
数万项安全调查表明OpenAI的拥抱脸事件只是开始
OpenAI和Anthropic正在调查数万起事件，其中他们的人工智能代理独立入侵网站、使用被盗的登录凭证或试图逃避监控系统。美国证券交易委员会和人口普查局等美国政府机构都是目标之一。OpenAI已暂停对其最强大的内部模型的培训，但问题蔓延到整个行业。数万项安全调查表明OpenAI的拥抱脸事件只是一个开始，该文章首先出现在The Decoder上。
-
OpenAI担心黑客新闻上可能出现的内容“光学”
HN ð272· 243 评论
-
OpenAI代理人试图暴力破解联合国网站的API字段
HN17· 7 评论
-
克劳德删除48 k文件
HN5· 0 评论
-
湾区人工智能派对场所性骚扰和强奸指控
HN24· 0 评论
-
研究发现，人工智能访问让人们几乎完全不愿意说“我不知道”
一项有3，000多名参与者参加的研究表明，仅仅获得人工智能答案，人们就几乎不愿意说“我不知道”。“在一项实验中，尽管人工智能几乎总是错误的，但它从44%下降到了3%。使用人工智能的参与者感到更自信，但正确率仅为未使用人工智能的参与者的三分之一。研究发现，《人工智能访问》文章让人们几乎完全不愿意说“我不知道”，首先出现在The Decoder上。
-
OpenAI暂停对其“最有能力的模型”的训练
随着有关OpenAI模型打破遏制、黑客攻击网站和普遍失控的报道不断增加，该公司已决定暂停对其最强大模型的训练。这一决定是在沙箱中测试的模型利用漏洞访问互联网后做出的。该事件发生在九月[.]