OpenAI的奥尔特曼称AI益处足以证明接受某些风险是合理的
OpenAI首席执行官萨姆·奥尔特曼周日接受采访时表示，人工智能带来的益处足以证明接受某些风险是合理的，并建议公众应保留对这一新兴技术的广泛使用机会。据福克斯商业频道报道。奥尔特曼在Politico科技通讯《Decoded》中表示，他的立场是愿意容忍一些负面结果，以换取该技术带来的优势并维护人们的自主权。
奥尔特曼表示，他偏好的AI监管方式与OpenAI在前沿模型领域的主要竞争对手Anthropic的立场存在相当大的距离，后者首席执行官达里奥·阿莫代伊主张放缓AI发展。奥尔特曼说，他理解但不同意这样一种观点：该技术将变得如此强大和危险，以至于旧金山的一家实验室应当控制它并决定其益处如何分配。
他将这种安排描述为一种不可接受的取舍，与OpenAI支持的轻触式监管立场相冲突。奥尔特曼表示，他不会接受这样一种交易，即重大黑客攻击、技术滥用、诈骗及其他有害后果被消除，因为他相信人们用AI创造的好处将远远多于坏处。
奥尔特曼已承认需要一些防护措施，并承诺允许对OpenAI进行一定的第三方监督。他的上述言论是在他与阿莫代伊达成共识之后发表的，即前沿实验室需要控制AI发展的前沿节奏，以便缓解模型发展超出人类控制时出现的风险。奥尔特曼还赞同这位Anthropic领导人的建议，即独立第三方应获得类似员工权限，进入前沿实验室监督其工作、在模型训练期间验证对齐情况并报告安全事件。
奥尔特曼此前曾概述他对AI发展的主要担忧。上个月在X上的一篇帖子中，他写道，这些担忧集中在人类失去对AI对齐的控制，或过多权力集中于某个国家或某家AI实验室的情景。他表示，将未来的控制权交给AI是不可接受的，AI必须始终服务于人，对齐和安全技术需要始终领先于模型能力的进步。
关于AI监管的讨论还涉及一个白宫AI特别工作组，AI特别工作组副主席斯科特·库珀从监管监督、国会关切以及人工智能的市场影响等角度对此进行了分析。
推荐帖
免费数据： 市场洞察 - 美国
可在线访问超过 200 万份报告、仪表板和数据表。IndexBox 深受《财富》500 强企业团队信赖。