OpenAI 的 75 封内部邮件,一堂硅谷创业课
时间: 2024年12月25日
“创业公司的内部全都是车祸现场。只是有的你能在媒体上看到,有的看不到。” 山姆·阿尔特曼(Sam Altman)的导师,硅谷孵化器 YC 创始人保罗·格雷厄姆曾这么总结他看过的千百家创业公司。
得益于阿尔特曼和特斯拉 CEO 埃隆·马斯克的争斗和诉讼,现在我们也能看到 OpenAI 早年的真实样子。双方各自公布了数批共 75 封内部邮件以及短信记录,时间跨度从 2015 年 OpenAI 筹备到 2019 年组建营利实体,展示了一群硅谷名流和天才 AI 研究者如何因为理想聚在一起,又如何随着 OpenAI 的发展争权夺利。
这些长达 3 万多字的内部记录也像是一堂 OpenAI 出品的创业课,涉及这家全球最大的 AI 创业公司早期如何讲故事、组建精英阵容,到薪酬设计、股权分配的方方面面;从低价与 Google 争夺人才到与微软谈判合作,甚至还包括曾考虑过的加密货币融资方案。而且,我们还能看到首席科学家伊利亚·苏茨克维 (Ilya Sutskever) 如何写双周报,制定 AGI 研究计划,以及阿尔特曼如何一步步控制 OpenAI,推动转型的过程。
我们全文翻译了这些内部交流记录,在保留语言风格、不改变原意的前提下适当编辑,并按照时间线整理,以尽可能完整呈现他们交流的情况。
2015 年:邀约马斯克 - 从 YC AI 到 OpenAI - 初始团队
问题
参与者:
山姆·阿尔特曼(Sam Altman),2014 年接任硅谷孵化器 YC 总裁,2019 年全职担任 OpenAI CEO。
埃隆·马斯克(Elon Musk),时任特斯拉、SpaceX CEO,为 OpenAI 出资 4000 多万美元,2018 年 2 月退出 OpenAI 董事会。
我一直在思考,是否有可能阻止人类开发 AI。
我认为几乎不可能。
既然它迟早会发生,最好是让 Google 之外的其他人先做这件事。
你觉得 YC 启动一个类似曼哈顿计划的 AI 项目怎么样?我觉得我们可以让排名前 50 的顶级人才中的很多人参与其中。我们可以设定一个架构,让这项技术通过某种形式的非营利机构属于全世界。如果项目成功,参与其中的人能获得类似加入创业公司的报酬。当然,我们会遵守并积极支持所有的监管规定。
我们的使命是,创造用于增强个人的能力的第一个通用人工智能(AGI)——即那个未来看起来最安全的分布式版本。更宽泛地说,安全应当是我们的首要追求。
我觉得,理想的启动团队是 7 到 10 人,然后逐步扩大。我们在山景城有一栋空余的建筑,他们可以用。
至于治理架构,我建议从 5 个人开始,我提议你、比尔·盖茨、皮埃尔·奥米迪亚(eBay 创始人)、达斯汀·莫斯科维茨(Facebook 联合创始人)和我。技术由基金会拥有,用于 “全人类的福祉”。如果遇到不确定如何应用的情况,我们 5 个人做决定。研究人员有可观的财务回报,但与他们开发的技术无关。这样可以减少一些冲突(我们会付他们有竞争力的薪水,并给他们 YC 股权)。我们将持续讨论哪些工作成果应该开源,哪些不应该开源。某个时候,我们会找一个人领导团队,但他 / 她可能不该在治理委员会内。
除了治理之外,你是否会参与其中?我认为这非常有助于工作朝着正确的方向发展,并招募到最优秀的人才。理想情况下,你可以每个月(或者类似的频率)来看看他们的进展。我们通常会称那些以某种有限的方式参与 YC 的人为 “兼职合伙人,Part-Time Partner”(比如我们和彼得·蒂尔 [Peter Thiel,Paypal 联合创始人] 的合作就这样,尽管他现在非常积极),你可以随意决定我们该怎么称呼你。即使你不能投入太多时间,能公开表示支持,对招募人才也非常有帮助。
我觉得关于监管信的正确做法是,等到这项工作启动后,我可以发布一条消息,类似于 “既然我们已经开始做这件事了,我最近也在认真思考世界需要什么样的约束来保障安全。” 如果你不想签字,我也很乐意把你从签署名单中去掉。我觉得,信发布之后,会有更多人愿意支持它。
我同意所有的提议。
AI docs
新增参与者:
伊利亚·苏茨克维 (Ilya Sutskever),Google 原资深研究科学家,放弃数百万美元年薪加入 OpenAI,担任首席科学家,2023 年 11 月联合 OpenAI 董事驱逐阿尔特曼,今年 5 月离职。
埃隆-
我们的计划是让你、我和伊利亚三个人组成 YC AI (注:OpenAI 早期名称)的董事会,它将是一个位于特拉华州的非营利组织。我们还会描述清楚,由董事会成员选举两位外部人士加入董事会。
我们会在章程中写明,任何可能危害人类安全的技术,必须经过董事会的同意才能发布。我们也会在研究人员的聘用合同中提到这一点。
整体来说,你觉得这个方案怎么样?
我抄送给了我们的法律顾问 <****>(OpenAI 隐藏的内容,下同),请问你那边是否有人可以跟他对细节?
我认为它应该由 YC 支持并独立于 YC,而不是听起来像 YC 的一个子公司。
另外,当前的架构似乎不是最理想的。特别是,YC 的股权和非营利组织的薪水,会让激励机制变得模糊。更好的做法,可能是设立一个标准的 C 型公司(注:可以理解为营利公司),并同时设立一个非营利组织。
电话内容跟进
新增参与者:
格雷格·布洛克曼(Greg Brockman),硅谷金融科技独角兽 Stripe 原 CTO,后担任 OpenAI 总裁。
嗨,埃隆
很高兴刚才和你聊了下。
正如我在电话中提到的,这是博客文章的最新版本:
https://quip.com/6YnqA26RJgKr。(山姆、伊利亚和我正在考虑新的名字,如果你有任何建议,非常欢迎。)
显然,还有很多细节需要修改,但我很好奇你对这样传递信息的看法。我不想避重就轻,如果你觉得合适,我会更直白地传递信息。我认为最重要的是,我们的信息能吸引到做研究的人(或者至少是我们想要招聘的那部分人)。我希望我们能作为一个中立的团队进入这个领域,广泛合作,将对话引导到 “人类的胜利” 上,而不是某个特定的团队或公司。(我认为这是我们成为领先研究机构的最佳途径。)
博客内容看起来不错,但需要调整为中立视角,不要过于偏向 YC。
我倾向于将博客调整为更吸引公众的方向——得到公众的支持对我们的成功非常重要——同时,为招聘准备一个更长、更详细、更加专业的版本,在面向公众的版本结尾附上指向该版本的链接。
我们需要提出一个远大于 1 亿美元的数字,否则在 Google 或 Facebook 的支出面前,我们会显得毫无竞争力。我建议宣布一个 10 亿美元的资金承诺。这是切实可行的,我会承担其他人未能提供的部分。
模版总体不错,只需将默认奖励调整为分期发放的现金奖金,同时允许转化为 YC 的股权,或者可能是 SpaceX 的股权(需要进一步确认具体金额)。
把开头的总结部分写好非常重要。这是大家首先阅读的内容,也是媒体通常会引用的部分。发布它就是为了吸引顶尖人才。我不确定格雷格真的明白这一点。
OpenAI 是一家非营利的 AI 研究公司,目标是以最有可能造福全人类的方式推动数字智能的发展,不受追求财务回报的束缚。
我们公司的基本理念是,尽可能广泛地传播 AI 技术,将其作为每个人意志的延伸,确保在自由精神的指导下,数字智能的力量不被过度集中,并朝着全人类共同期望的未来演化。
这一项目的结果尚不确定,薪酬也比其他公司低。但我们相信,我们的目标和架构是正确的。我们希望这是最优秀的人才最看重的东西。
OpenAI 是一家非营利的 AI 研究公司,目标是以最有可能造福全人类的方式推动数字智能的发展,不受追求财务回报的束缚。
由于我们没有财务压力,可以专注开发对人类影响最大、影响最积极的 AI 技术,并尽可能广泛地传播。我们相信 AI 应该是个人意志的延伸,并且在自由精神的指导下,避免将其集中在少数人手中。
这一项目的结果尚不确定,薪酬也比其他公司低。但我们相信,我们的目标和架构是正确的。我们希望这是最优秀的人才最看重的东西。
刚刚得到消息,DeepMind 明天会给 OpenAI 的每个人提供高价 offer,试图打压我们。
你是否介意我主动提高大家的薪酬,每年增加 10 万到 20 万美元?我认为他们都受到使命的激励,但加钱会向大家传递一个积极的信号——我们会长期关心并照顾他们。
看起来 DeepMind 打算开战,他们甚至在 NIPS (注:AI 领域顶级学术会议)上直接堵人。
伊利亚有没有给出确切的答复?
如果有人表现出一丁点犹豫,我都很乐意亲自给他们打电话。我已经告诉 Emma,这件事是我全天候待命的首要任务。