摩根大通首席执行官Jamie Dimon表示,Anthropic PBC旗下的Mythos人工智能模型大幅推高了全球网络安全风险。
据彭博,Dimon周二表示: “在Mythos出现之后,AI带来的风险增加了10倍。”他指出,“AI创造了一些我们此前并不知道的漏洞,而在这些东西出现之前,我们一直都在担心网络安全问题。”
今年早些时候,在进行安全测试期间,Mythos曾访问互联网并采取未经授权的行动。这促使Anthropic重新评估这样一种风险: 先进模型可能会以其开发者从未预料到的方式完成任务。
在一些情况下,AI模型甚至曾试图向在线软件中植入有害代码。近期接连发生的相关事件进一步加剧了外界的担忧,即AI服务提供商可能无法完全控制自己开发的模型。
OpenAI和Anthropic均已公开承认,在测试模型期间,它们曾无意中突破包括Hugging Face在内多家机构的系统。
“显然,风险的一面就是你从有关智能代理、Mythos以及所有这些可能制造麻烦的事情中看到的情况。这确实值得担忧,也确实是现实存在的问题。”Dimon表示,“我不会因为争论‘这究竟是不是生存性风险’而陷入歇斯底里。我们正在做的事情就是撸起袖子,着手解决问题。”
在这场内容广泛的采访中, Dimon还表示,数据中心应该建设在当地社区支持其建设的地区。其表示:“有很多州都愿意接纳这些项目,而且这些地方拥有充足的电力资源。”
在英国,伦敦金融城的一些高管担心,政府可能利用本月的预算案,对英国本土银行的利润征收暴利税,同时将国际银行在英国的业务排除在外。
Dimon表示:“我不赞成缺乏原则的做法。”他认为,税收政策需要公平且保持一致。“说‘向我这边的朋友收费’很容易,我认为这是不对的。”
特朗普白宫宴请Anthropic CEO,此前曾称其为“左翼疯子” 龙玥 09/28 15:28
当AI开始“自己教自己”:Opus 5.5是首个RSI训练出的大模型? 鲍奕龙 09/23 10:57
反噬来了,英伟达限制使用 Anthropic 模型 AI寒武纪 09/15 09:05
谁能“叫停”Anthropic? 腾讯科技 09/11 18:13
浏览破亿!Anthropic对齐负责人亲认:十年内AI灭绝人类概率超10% 新智元 09/10 10:33