“用我们的生命来赌博”：人性研究员辞职，警告不要自我完善的人工智能
人类研究员雅各布·考克森（Jacob Coxon）因担心人工智能灭绝而辞职，呼吁实验室之间达成协议。
Anthropic / Claude
Anthropic 的全部动态：Claude 系列模型、Claude Code、安全研究路线与公司进展的持续追踪。
已收录 1078 条 · 近 30 天 752 条 · 第 30 / 34 页
-
-
人类科学家认为，本十年人工智能摧毁人类的可能性超过10%
OpenAI和Anthropic的前培训前研究员雅各布·考克森（Jacob Coxon）已辞职，并指责两家公司故意冒着人类灭绝的风险。人类学的同事埃文·哈宾格（Evan Hubinger）认为，未来十年内，一个错位的超级智能人工智能消灭人类的可能性超过10%。《人存科学家》文章认为，本十年人工智能摧毁人类的可能性超过10%，该文章首先发表在《解码器》上。
-
人类研究人员认为人工智能“可能杀死所有人类”的可能性超过10%
HN3· 1 评论
-
忧心忡忡的人视研究人员警告人工智能可能杀死所有人类’
一位高级Anthropic安全研究员表示，到本世纪末，人工智能“可能杀死所有人类”的可能性超过10%，就在几个小时前，一位同事因担心人工智能实验室及其竞争对手粗心大意地竞相建造“超人系统”而辞职。他们无法控制。在[.]上的一篇帖子中
-
克劳德，将“添加到购物车”按钮更改为蓝色
HN ð950· 385 评论
-
EP170 · Images 2.5、Grok Bot、Claude 智能体 · 09-09 早报
📝 今日导语 ChatGPT Images 2.5 升级，Grok Bot、Claude Managed Agents 给出取舍坐标。 🏷 今日关键词： ChatGPT Images 2.5 Grok Bot Claude Managed Agents 可信任务委托 结果评估闭环 Navier–Stokes 证明 AlphaGenome Atlas 📰 今日
-
我今天从Anthropic辞职
HN ð181· 234 评论
-
黑客正在从订阅者那里窃取Claude代币
上个月，一位Claude用户注意到，尽管他没有工作，但他的帐户仍在消费代币。此后，Anthropic向用户发出了黑客警告。
-
创始人如何基于 Claude Managed Agents 构建产品
📌 One-Sentence Summary 多位创始人分享 Claude Managed Agents 如何通过结果 rubric、独立验证、分层记忆、沙箱工具和对速度、成本、控制力的取舍，支持会议准备、销售情报与产品分析。 📝 Summary 这场 Claude 圆桌讨论提供了 Managed Agents 在三类生产场景中的具体实践：会议准备与后续跟进
-
据称OpenAI研究人员迫使数学家将Anthropic的合著者从数学突破性论文中删除
数学家特里斯坦·巴克马斯特（Tristan Bucmaster）表示，在据称他在纳维尔-斯托克斯方程上的人工智能辅助进展信息到达该公司后，一名OpenAI研究人员向他施压。根据巴克马斯特的说法，研究人员试图删除他的合著者，因为他在Anthropic工作，并在巴克马斯特拒绝时威胁了他。OpenAI随后使用同样不寻常的解决方案路径取得了自己的突破。巴克马斯特已将
-
人工智能超级用户声称Anthropic用订阅欺骗了他们，他们正在将其告上法庭
Anthropic表示，超级用户是其业务的关键--即使这意味着切断OpenClaw等其他流行应用程序，它也会优先考虑他们。但其中一些客户表示，Anthropic误导了他们，让他们相信他们从顶级定价订阅中获得的收益会比他们更多。在提起的扩大集体诉讼中[…]