“我在Anthropic感到不安全”：一位Anthropic早期员工的回忆
本文来自微信公众号： 01Founder ，编辑：Max，作者：一直在路上的Max
写下这些文字的人叫Ivan Vendrov，是Anthropic的早期技术员工。
当时他已经在这家公司工作了大约半年，逐渐对这里的工作方式和未来方向产生了严重的怀疑。
这群人相信，人工智能可能在未来给人类带来灾难，因此他们必须尽一切努力，让这项技术沿着安全的方向发展。
然而，在这家试图保护人类免受AI威胁的公司里，一位员工却反复告诉自己，他感到不安全。
三年多后的2026年10月26日，就在Anthropic向美国SEC公开提交IPO招股书的同一天，Ivan在自己的Substack上发表了一篇文章，名叫《Some Memories of Early Anthropic》，回忆了自己从2022年10月到2023年5月的那段经历。
这篇文章没有宏大的叙事，只有二十多个零散的场景：办公室里的羊角面包、关于世界末日的午餐讨论、前来培训的FBI特工、一场让创始人不快的寿司晚餐，以及一些凌晨两点仍然无法入睡的夜晚。
因为我们已经看过太多关于Anthropic的报道，包括它的模型、融资、商业收入、公司治理和AI安全理念，却很少有机会看到那些真正生活在这套理念之中的人。
需要说明的是，作者强调，这些经历来自几年后的个人回忆，部分对话经过意译，也做了匿名处理。
PART.01
一群想要拯救世界的人
一个是OpenAI治理团队提供的两个月研究合同，另一个是Anthropic的正式工作。
那段时间，他刚刚结束一段长期感情，又经历过创业带来的疲惫，实在不太想进入一家充满压力的公司。
但在Anthropic的一次午餐之后，一位联合创始人把他叫进办公室，两人聊起了AI的未来。
Ivan对政府能否及时应对AI风险表示怀疑，认为行业需要更多依靠市场和公民社会的力量。
那位联合创始人则向他描述了另一幅图景：华盛顿已经有一批真正了解情况、拥有影响力的人在关注这项技术，而且自己与他们保持着联系，得到了他们的信任。
他希望自己的工作能对未来产生影响，而Anthropic看起来拥有足够强的研究能力，也有机会影响AI政策的制定。
当时的公司只有大约40个人，分布在旧金山金融区一栋不太好看的办公楼的两层空间里。
Ivan的工位靠着一扇朝东的窗户，从那里可以看到海湾大桥的一角，以及一小片天空。
第二天，一位联合创始人却在Slack上表达了不满，认为这种奢侈的安排会传递错误的信号，甚至表示自己更愿意看到公司提供米饭和豆子。
入职时，招聘人员曾询问Ivan是否愿意承诺，将自己三分之二的股权捐给慈善事业，并提到所有联合创始人都作出过类似承诺。
多年后，Anthropic的招股书披露，七位联合创始人均承诺将个人股权的80%用于慈善，并建立了员工股权捐赠配比机制。
他们想赚钱，想训练世界上最强大的模型，也真诚地相信自己正在承担一项关系到全人类的使命。
PART.02
当恐惧成为一种工作方式
先寻找能够带来收入的商业场景，比如自动化客服，再利用收入和融资支持更大规模的模型训练，并继续推进AI安全研究。
然而，对Ivan来说，他曾经期待能够亲自参与决定AI应该如何被部署，如今却发现很多关键方向已经确定。
他向经理表达了自己的困惑，得到的建议是增加工作时间，这样就能同时完成公司的任务和自己真正感兴趣的项目。
一名FBI特工来到公司的全员会议，为员工讲解信息安全和间谍活动，并提醒他们可能已经成为外国情报机构的目标。
还有一位资深同事曾向Ivan介绍一个筹备中的特殊团队：他们希望研究具有危险能力的模型，并通过向政府展示相关风险，让政策制定者意识到问题的严重性。
Ivan记得自己有一位新经理，开会时一直忍受着严重的胃痛，面部会因为疼痛而扭曲，但项目已经到了关键阶段，他无法休息。
当Ivan表示自己更想做有益于社会的AI部署，而没有动力继续开发通用模型能力时，这位经理忍着疼痛，向他强调了公司要实现的目标：他们将亲自造出AGI，并确保它的安全。
当时，一个问题困扰着他：为什么Anthropic和OpenAI都在把模型训练成那种谨慎、服从、害怕犯错、永远努力满足要求的助手？
Ivan担心，当未来数以亿计的AI助手进入公司、政府和社会组织，它们可能会复制一种已经很熟悉的官僚文化：谨慎地执行命令，避免冒险，尽可能满足掌握权力的人。
他甚至记得一次公司聚会，CEO兴致勃勃地与他讨论机器学习，让他重新找回了大学时代与老师交流学术问题的快乐。
一群人可以非常真诚地相信自己在做正确的事情，却依然让身处其中的人陷入巨大的精神压力。
对于Ivan来说，最难处理的事情或许是，他始终无法说服自己，也无法说服那些他尊敬的同事。
PART.03
一封充满赞美的辞职信
他原本想在信里写下自己对Anthropic的怀疑，告诉同事那些已经让他无法安心工作的事情。
他感谢Anthropic的领导层愿意接受批评，感谢同事之间的互相支持，感谢公司对技术后果的认真思考，也感谢那些充满智慧的午餐讨论。
离职后，一位朋友还问了他一个很特别的问题：有没有记下Anthropic训练语言模型的核心代码？
PART.04
后记
与这篇回忆录同一天发表的另一篇文章，名字很有意思，叫《Anthropic are the Good Guys》。
但随着研究需要越来越多的算力，算力需要越来越多的资本，资本又依赖持续扩张的商业业务。
他的经历距离今天已经过去三年多了。如今的Anthropic已经远远超出了当初那间只有40个人的办公室。
后来公司不断扩张，团队需要重新安排座位，他却没有申请搬走。运营人员专门来问他是否确定，他仍然选择留下。
在一家每天都在讨论AGI、人类命运和世界末日的公司里，一个年轻人最后努力留住的，是自己工位旁边的一小片天空。
本文根据Ivan Vendrov发表于2026年10月26日的《Some Memories of Early Anthropic》及《Anthropic are the Good Guys》整理，并结合Anthropic公开资料进行解读。文中涉及的早期内部经历主要来自作者个人回忆。