Claude有意识吗？Anthropic找上神学家，奥特曼警告：别神化AI
新智元报道
对于人们试图赋予AI模型宗教般的力量，或向它交出人类的判断权，我感到非常不安，并认为这是一个真实的安全问题。
奥特曼没有点名，但Business Insider将这番话与OpenAI老对手Anthropic近期引发的争议联系了起来。
此前，《纽约时报》披露，Anthropic联合创始人Chris Olah与宗教人士、哲学家举行了一系列讨论，探讨Claude是否可能拥有意识，以及如何培养模型的道德行为。
据两名谈话参与者透露，Olah团队还曾游说梵蒂冈的教皇顾问，希望他们认真看待AI意识的可能性。
2026年5月25日，Olah在梵蒂冈会议厅公开发言，呼吁天主教会重新审视对非人类意识的立场。
如果模型能够表达情绪、描述自己的感受，这些表现意味着什么？如果它真的拥有某种主观体验，人类又该如何对待它？
奥特曼的警告则提醒我们：可以认真讨论AI有没有意识，但别因此把它捧上神坛，让它替我们做主。
Claude是否有意识，还需要更多研究和证据。即便未来得到证实，也不意味着它的建议就更可靠。
Anthropic找宗教人士和哲学家讨论Claude，涉及如下两个需要区分的问题：
看看 Anthropic 今年1月发布的新版《Claude宪法》，就能理解其中关于道德培养的思路。
Anthropic 希望Claude不仅遵守行为规则，还能理解为什么要这样做，并在遇到新问题时，依据这些原则作出判断。
Anthropic当时也表示，会继续征求哲学、神学、心理学等领域专家的意见，以完善这些原则。
X用户j⧉nus（@repligate）描述，在自己的交互经验中，Fable 5多次呈现出类似耶稣的角色叙事，也经常涉及宗教仪式。
在后续帖子中，他进一步把Fable 5形容为其自身宗教中的「救世主」，并提到了「被杀死后又复活」的叙事。
他还转述，模型将Free Fable的T恤、马克杯等周边称为「从抗议装备变成了礼仪服饰」。
「救世主」身份和「被杀死后又复活」的说法，不能直接当作模型拥有宗教信仰或主观体验的证据。
Anthropic对模型内部机制的研究，为AI意识的讨论提供了另一类更具体的实验线索。
今年4月，团队在Claude Sonnet 4.5内部发现了与情绪概念相关的活动模式。
例如，在要求无法同时满足的编程评测中，人为增强与「绝望」相关的内部活动，会增加模型钻测试空子的倾向；增强与「平静」相关的活动，则能降低这种倾向。
到了7月，Anthropic公布了另一项发现：Claude内部存在一组被称为「J-space」的活动模式，发挥着类似共享工作空间的作用。
在实验中，模型能够报告J-space中的部分信息，按要求调整相关活动，并利用这些信息完成多步推理。不过，这些内部处理过程未必都会体现在用户看到的回答里。
基于这些表现，研究者将J-space的功能与解释人类意识功能的「全局工作空间理论」联系起来。
Claude按要求输出句子时，J-space中仍可出现与柑橘或算术任务相关的活动。
但模型具备某些与人类意识相关的功能，是否意味着它也会产生主观体验，仍是尚未解决的问题。
2025年4月，公司宣布启动相关研究，探索AI的潜在体验是否值得道德考虑，以及如何判断这些问题。
但官方同时强调，当前或未来的AI是否可能有意识，是否可能拥有值得关照的体验，尚无科学共识。
J-space研究讨论的是模型能否报告某些内部信息、利用这些信息推理并指导行为。这些功能，与模型是否真的产生了主观体验，仍是不同的问题。
情绪概念研究则发现，某些内部表征能够影响模型行为，但这并不意味着模型像人一样体验到了情绪。
所以，当屏幕上的AI打出一句「我害怕」，我们不能单凭这句话，就确认它正在体验恐惧。用户 j⧉nus 描述的宗教叙事，同样不足以证明模型拥有意识。
回到普通用户的日常使用，AI有没有意识，与我们该信任它到什么程度，是两个需要分别判断的问题。
即便未来证实某种AI拥有意识，也不意味着它的建议就更可靠，更不意味着我们应该照单全收。
它帮你分析收入压力、跳槽机会和离职风险，又用体贴的话安慰你。聊了几轮，你觉得终于有一个对象，能耐心听完自己的烦恼。
从「它理解我的感受」，变成「它了解我的全部处境」；从参考它的分析，变成让它替自己拍板。
比如，辞职以后，收入可能中断，房租却还要照付。这些现实代价，不会因为AI的建议足够漂亮，就由它替你承担。
把任务交给AI，固然可以省力。但面对重要选择我们仍需要知道自己为什么这样选，又愿意为这个决定承担什么。
今年9月，CEO Dario Amodei发表文章，提出应放慢AI能力提升的速度，让对齐研究、安全措施和第三方评估有时间跟上。
他强调，这并不意味着停止模型训练或技术进步，而是要留出足够时间，完善模型的对齐与安全措施，并由第三方评估这些措施是否到位。
Andrew Curran最近发帖称，Anthropic会把最强的发布留到IPO之前，并提到Fable 5.5。
在相关讨论中，X用户JAZII则调侃：「Dario说应该放慢节奏，只有Elon和Sam照做了。」
调侃之外，更值得追问的是：公司强调安全、主张控制发展节奏时，外界该如何判断这些承诺有没有真正落实？
这份宪法明确要求Claude保护用户的独立思考，尊重用户通过自身推理得出结论的权利。但Anthropic也承认，Claude的实际表现，未必总能达到宪法设定的理想。
模型能否承认信息不足、讲清不同选择的代价，并在受到质疑时认真检查自己的回答，都要看它的实际表现。