ChatGPT之父成平衡大师：赚钱和AI技术安全我都要

福特婚车队长 · 发表于 2023-4-4 14:59:18

4月3日消息，OpenAI的终极目标是开发安全的通用人工智能。该公司首席执行官萨姆·奥尔特曼(Sam Altman)既需要利用技术收益推动人工智能不断进步，又需要使用非营利性来确保人工智能技术的安全性。他的密友们都称，这是平衡的艺术。
现年37岁的OpenAI首席执行官奥尔特曼一直梦想着计算机可以像人类一样相互交流和学习。他因ChatGPT而走到人工智能热潮的前沿。奥尔特曼说，自己记得最清楚的就是儿时在卧室里熬夜玩麦金塔LC II，那是他八岁生日时得到的礼物。当时奥尔特曼就突然意识到：“总有一天，电脑会学会思考。”
在最近几个月里，奥尔特曼不仅在构建人工智能的未来，还在努力将其商业化。去年11月，他领导的OpenAI公司发布了ChatGPT，这款聊天机器人可以像人类一样写文章，已成为科技史上最具病毒式传播效应的产品之一。投资者文件显示，在ChatGPT火爆全网的过程中，OpenAI以近乎创纪录的速度从一家小型非营利机构成长为价值几十亿美元的公司。这在一定程度上得益于OpenAI成立了一个营利性部门，并从微软那里获得了130亿美元的融资。
这种成功也是微妙平衡行为的组成部分。奥尔特曼说，他也担心如果不计后果地将人工智能投入社会，到底会发生什么。他和其他人在八年前共同创立了非营利性研究组织OpenAI，当时奥尔特曼认为，用利润推动开发人工智能强大模型非常危险。
奥尔特曼对用利润激励人工智能开发非常谨慎。他说，自己并没有直接持有OpenAI股份，这在硅谷很罕见。要知道，硅谷成功创业公司的创始人通常都是通过所持有的股权致富的。
奥尔特曼谈到经济效益时说：“和大多数人一样，我也喜欢看着财富数字上涨，但我只是不想让这成为全部因素。”OpenAI表示奥尔特曼的薪酬“适中”，但没有透露具体数字。奥尔特曼透露，他持有一家投资OpenAI的风险基金的少量股份，但那点东西“无关紧要”。
奥尔特曼早年通过投资初创企业赚到了一大笔钱，“赚得比我需要的还要多”。他拥有三处房产，其中包括旧金山一处社区的豪宅和纳帕谷的一处度假屋。他雇了几十名员工来管理房产和家族投资事宜。
奥尔特曼的目标是建立新秩序，用机器来解放人们，这样人们就可以自由从事更具创造性的工作。在奥尔特曼的设想中，每个人都会获得基本收入，从而弥补被人工智能所取代的那些工作的报酬。他甚至认为，人类会非常喜欢人工智能，而先进的聊天机器人可以成为“人们意志的延伸”。
奥尔特曼说，从长远来看，他希望建立全球化的治理结构，监督有关未来人工智能的决策，并逐渐降低OpenAI高管团队对人工智能技术的影响力。
支持者表示，奥尔特曼是领导OpenAI的理想人选。但也有不少人说奥尔特曼的商业头脑太过发达，总是沉浸在硅谷思维中，无法承担这场正在重塑商业和社会生活的技术革命。
投资者文件显示，今年1月份OpenAI与微软签署了一项价值100亿美元的协议，微软将拥有OpenAI旗下营利性部门49%的股份。这种企业合作关系加上奥尔特曼一系列积极推动人工智能技术商业化的举措，让OpenAI早期的负责人们感到失望。他们认为这些决定违背了最初的承诺，在股东影响之外开发人工智能。
特斯拉首席执行官埃隆·马斯克(Elon Musk)也批评OpenAI。马斯克在2015年参与OpenAI的创立，但在2018年因控制权和发展方向的争议而离开。今年2月，马斯克在Twitter上表示，OpenAI成立之初是一家开源的非营利组织，“是为了制衡谷歌，但现在它已经变成了一家资源封闭、追求最大利润、实际上被微软控制的公司。这完全不是我的本意。”
当被问及马斯克的批评时，奥尔特曼停顿了一下。“我喜欢马斯克，”他最后回答道，“我留意他所说的话。”
在上周发布的一封公开信中，包括马斯克、苹果联合创始人史蒂夫·沃兹尼亚克(Steve Wozniak)在内的硅谷名人呼吁全行业6个月内暂停开发比OpenAI最新技术GPT-4更先进的人工智能，避免出现技术竞赛可能失控的局面。
长期以来，人们一直在想象通用人工智能不仅擅长生成文本或图像，还能像人类一样理解和学习，甚至比人类表现更好。奥尔特曼说，OpenAI不一定要成为开发通用人工智能的第一团队，但他们的终极任务是开发出安全的通用人工智能。
根据投资者文件显示，OpenAI为投资者设定了利润上限，任何超出一定水平的收益都将流向所属的非营利性机构。利润上限的具体数值从投入资金的7倍到100倍不等，取决于投资时间。OpenAI和微软还成立了一个联合安全委员会，成员包括奥尔特曼和微软首席技术官凯文·斯科特(Kevin Scott)。如果委员会认为微软和OpenAI发布的产品过于危险，就有权进行撤销。
OpenAI的早期捐赠者、亿万富翁风险投资家彼得·蒂尔(Peter Thiel)是奥尔特曼的密友。他表示，通用人工智能的可能性让奥尔特曼萌生了一种想法，认为某种类似技术创造了宇宙。长期以来，蒂尔一直支持人类和机器终有一天会相互融合的观点。
ChatGPT发布后，一系列与之竞争的人工智能系统也纷纷出现。今年2月份，谷歌宣布正在测试自家聊天机器人Bard，并于3月份向公众开放。
“他们竞相发布新闻稿，奥尔特曼在谈到竞争对手时说，“显然，他们现在落后了。”
OpenAI在其创始宪章中承诺，如果另一个项目比它更接近开发出通用人工智能，OpenAI将放弃现有的研究工作。公司表示，这是为了将人类安全放在首位，避免竞相打造危险的人工智能系统。
OpenAI总部位于旧金山教会区，办公室内遍布石头喷泉、多肉植物和蕨类植物。奥尔特曼滔滔不绝地讲述了自己设计的中央楼梯，这样公司400名员工每天都有机会近距离相遇。周一到周三，员工们还必须面对面工作。楼内还设有大学风格的自助餐厅、自助酒吧和图书馆。图书馆的设计是奥尔特曼最喜欢的巴黎书店和斯坦福大学图书馆顶楼安静学习空间Bender Room设计灵感的结合。
奥尔特曼穿着典型的科技公司CEO装扮：灰色卫衣、牛仔裤和白得发亮的运动鞋。他说自己的成长过程很朴素。
奥尔特曼在圣路易斯的郊区长大，是家中四个孩子中的大哥。他母亲是皮肤科医生，父亲做过律师等各种工作。家人们说，奥尔特曼父亲真正的职业是运营经济适用房方面的非营利组织，曾花了多年时间试图重振圣路易斯市中心。
奥尔特曼说，父亲教给他的一课是，“你要尽量帮忙别人。即使没有时间，你也要想办法。”
奥尔特曼的母亲说，她儿子在2岁时就开始使用家里的录像机，13岁时自己改签从夏令营回家的机票。她说，在奥尔特曼读三年级的时候，就开始帮助当地公立学校的老师解决电脑问题。中学时，他转到私立的约翰·巴勒斯学校。
“老师们喜欢他，因为他真的非常非常聪明又努力，而且也非常善于社交，”时任校长安迪·阿博特(Andy Abbott)说。“他很有趣，很有个性。”
奥尔特曼后来去了斯坦福大学，在一个人工智能实验室做研究。大二时，他与人共同创立基于位置的社交网络服务公司Loopt，后来成为了创业加速器Y Combinator第一期课程的一部分。随后奥尔特曼也离开了学校。
Loopt从未大热过，2012年以4.34亿美元的价格出售，接近红杉资本等投资者的投资额。
随后，奥尔特曼又创办了一家风险基金，结交了蒂尔和Y Combinator联合创始人保罗·格雷厄姆（Paul Graham）等朋友。这些人帮忙将奥尔特曼的公司打造成在硅谷有影响力的经纪人。奥尔特曼用自己的钱成功投资了几十家公司，其中包括云软件公司Asana和留言板网站Reddit。
在和Y Combinator打交道期间，奥尔特曼越来越担心像DeepMind这样的大型研究实验室正在公众视线之外开发有潜在危险的人工智能技术。马斯克也同样担心强大的人工智能机器会支配人类社会。
奥尔特曼和马斯克都认为是时候建立自己的实验室了。最终两人参与的一个团队承诺向非营利组织OpenAI提供10亿美元的成立资金。
OpenAI在成立之初步履蹒跚，尝试过一些小项目，比如教机器人如何拼魔方等等。2017年，OpenAI裁掉了一大批员工。
OpenAI研究人员很快得出结论，实现通用人工智能最有可能的途径在于大型语言模型，也就是模仿人类读写方式的计算机程序。奥尔特曼说，这种模型需要基于大量文本内容的训练，需要大量计算能力。但作为一家非营利性组织，OpenAI不具备大规模融资的条件。
"我们其实没有意识到这个项目会有多么昂贵，" 奥尔特曼说，“我们当时还不知道。”
奥尔特曼表示，那一年他探索了各种为OpenAI筹集更多资金的方案，比如寻求政府资助或是推出一种新的加密货币。他说：“没有人愿意为这项研究提供资金，那段时间真的很艰难。”
知情人士透露，奥尔特曼和马斯克之间的紧张关系不断加剧。马斯克对研究进展缓慢感到沮丧，他想获得更多对OpenAI的控制权。
OpenAI高管们最终提出了一个完全不同的想法，创建一个营利性部门OpenAI LP，并向非营利性母机构汇报工作。
招聘平台LinkedIn联合创始人里德·霍夫曼(Reid Hoffman)当时是OpenAI的顾问，后来成为公司董事会成员。他表示，这个想法是为了吸引那些渴望从OpenAI技术商业化中获益的投资者，加速推动OpenAI的发展。
霍夫曼说：“你想要成为实现目标的第一个人，你想设定标准。”“这就是为什么开发速度会成为道德和伦理问题的一部分原因。”
知情人士表示，这一决定导致马斯克的营运理念与OpenAI进一步疏离。2018年2月，他与OpenAI分道扬镳。
参加会议的前员工们说，马斯克是在一次全体员工会议上宣布离职的。马斯克当时解释说，他认为自己通过特斯拉会有更好机会开发通用人工智能，因为在特斯拉他可以获得更多资源。
前员工们说，一名年轻的研究人员当时质疑马斯克是否考虑过安全问题。他们说，马斯克明显变得很沮丧，还称这名实习生为“蠢货”，让员工们惊呆了。这是他们中的许多人最后一次见到马斯克本人。
不久之后，OpenAI一位高管委托为这位年轻研究人员制作了一个“傻瓜”奖杯，后来还把奖杯放在枕头上送给了他。“你得找点乐子，”奥尔特曼说。“这就是公司文化的组成部分。”
马斯克的离开成为OpenAI的转折点。当年晚些时候，OpenAI领导层告知员工，奥尔特曼将领导公司。他正式成为OpenAI首席执行官，并于2019年初帮助创建了营利性部门。
在最初承诺的10亿美元捐赠中，OpenAI表示大约收到了1.3亿美元。在营利性部门成立后，OpenAI不再需要更多捐款。马斯克则在推特上表示，他向OpenAI捐赠了约1亿美元。
据参加会议的前员工们说，马斯克是在一次全员会议上宣布辞职的。马斯克当时解释说，他认为通过特斯拉，他能够获得更多资源，从而有更好的机会开发通用人工智能。
前员工们表示，一名年轻的研究人员曾问马斯克是否考虑过安全问题。他们说，马斯克显然感到非常沮丧，并称这名实习生为“笨蛋”，让员工们大吃一惊。这是他们中的很多人最后一次见到马斯克本人。
不久之后，OpenAI的高管委托制作了一个“傻瓜”奖杯，并把它放在这位研究人员的枕头上作为礼物。奥尔特曼说：“你得找点乐子，这也是公司文化的一部分。”
马斯克的离开成为了OpenAI的转折点。当年晚些时候，OpenAI的领导层告知员工，奥尔特曼将领导公司。他正式成为OpenAI的首席执行官，并于2019年开始创建营利性部门。
在最初宣布的10亿美元捐赠中，OpenAI表示已经收到了大约1.3亿美元。在创建营利性部门后，OpenAI不再需要更多的捐款。马斯克在Twitter上表示，他向OpenAI捐赠了约1亿美元。
与此同时，奥尔特曼开始寻找投资者。2018年夏天，他在爱达荷州太阳谷（Sun Valley）参加了艾伦公司年会，碰巧在楼梯间遇到了微软首席执行官萨蒂亚·纳德拉（Satya Nadella）。奥尔特曼向纳德拉介绍了OpenAI，并得到了他的兴趣。那年冬天，双方展开了正式的谈话。
“我记得后来回来时，我说，这是唯一合适的合作伙伴，”奥尔特曼回忆道。“他们得到了安全的东西，他们得到了人工智能。而且他们有资本，有大量算力。”
OpenAI前员工们表示，奥尔特曼在谈判过程中及时公布合同内容，并安排全员上班，以消除人们的顾虑，防止人们认为这种合作关系与OpenAI最初承诺的在企业领域之外开发人工智能相矛盾。
但是，一些员工仍然认为这是在与魔鬼做交易。OpenAI首席安全研究员达里奥·阿莫代伊（Dario Amodei）和他的副手们担心，这笔交易将允许微软在OpenAI技术通过足够的安全测试之前销售相关产品。他们认为OpenAI技术还远远没有准备好实施大规模发布，更不用说与世界上最大的软件公司之一合作了。他们担心技术可能会出现故障或被滥用，从而造成无法预测的危害。
一些前员工说，阿莫代伊还担心，这笔交易将把OpenAI和微软绑在一起，使得OpenAI更难履行创始章程中的承诺，即如果首先实现通用人工智能，就会转身帮助另一个项目。
微软最初向OpenAI投资了10亿美元。这笔交易为OpenAI带来了所需的资金，但也带来了一些限制。OpenAI同意只通过Azure云服务使用微软巨型服务器来训练人工智能模型，并将OpenAI技术授权给微软的产品使用。
纳德拉在最近一次采访中说：“当你站在悬崖边缘时，唯一能做的就是跳下去，期望自己能够稳定着陆。”他称这是平台转型的过程。
纽约大学心理学和神经科学名誉教授加里·马库斯（Gary Marcus）是一家机器学习公司的联合创始人，他说：“这笔交易完全破坏了OpenAI获得非营利组织地位所遵循的原则。”
马库斯认为，奥尔特曼“操纵了一个180度大转弯，在我看来，这只是在口头上表达对人类安全的关心。”
奥尔特曼则不同意这种说法，“微软作为合作伙伴的非同寻常之处在于，它让我们保留了所有我们认为对使命很重要的原则。”他说，其中包括投资的收益上限以及如果首先实现通用人工智能，就会转身帮助另一个项目的承诺等等。
这笔资金无疑加速了OpenAI的研发进展，使研究人员获得了改进大型语言模型所需的关键计算能力。OpenAI很快开发出更强大的语言模型GPT-3，并于2020年6月通过应用程序接口（API）向开发人员出售这一技术。
据前员工透露，奥尔特曼和阿莫代伊在API发布问题上再次发生冲突。阿莫代伊认为，应该将产品发布限制在更小的用户群体，并分阶段进行，以减少公众关注，让安全团队有更多时间进行测试。
几个月后，阿莫代伊与其他人一起离开了OpenAI，创办了一家与之竞争的人工智能实验室Anthropic。奥尔特曼称：“他们与我们在如何获得安全的通用人工智能方面存在分歧。”
Anthropic已经从谷歌获得了超过3亿美元的投资，并在今年3月发布了人工智能聊天机器人Claude，开发者可以通过API调用这款机器人。
最近的一份投资者报告显示，Anthropic表示“致力于大规模商业化”来开发出安全的通用人工智能，并计划在9月发布“符合承诺”的商业化方法。Anthropic成立时定位为一家人工智能安全和研究公司，并计划可能从产品中创造商业价值。
投资者文件显示，在最初交易之后的三年时间里，微软向OpenAI共投资了30亿美元。
去年11月，ChatGPT发布后仅仅五天内就获得了超过100万的注册用户，这个速度甚至让奥尔特曼感到惊讶。在此之前，OpenAI推出了DALL-E 2，可以根据文本提示生成复杂图像。
ChatGPT传播开来后，人们使用这款聊天机器人进行各种趣味应用，比如写诗或策划生日派对等，引起了互联网的热议。
据瑞银分析师称，到今年2月份，ChatGPT的活跃用户数量已经达到了1亿，是历史上消费类应用程序普及的最快速度。
奥尔特曼的亲密伙伴们盛赞他在平衡OpenAI优先事项方面的能力。蒂尔表示，没有人比他更适合在“理想主义”和“现实状况”之间寻求平衡。
奥尔特曼说，为了进行更多的安全测试，他将最新版本的GPT-4推迟到了今年3月进行发布。不少用户报告在使用GPT-4模型时出现了一些问题，比如在集成到微软的必应搜索中，GPT-4会编造一些错误的答案。
奥尔特曼表示：“正确的方法是让人们参与进来，探索这些系统，研究它们并学习如何使它们变得更加安全。”
根据文件显示，在收回初期投资后，微软将在OpenAI达到收益上限之前获得约49%的利润，高于之前安排的21%。非营利性母公司OpenAI将获得剩余收益。
除了OpenAI，奥尔特曼还投资了其他项目，其中包括他联合创立的Worldcoin公司，目标是为所有人提供加密货币服务。
近年来，奥尔特曼几乎把所有流动资金都投入了两家公司。奥尔特曼说，他向Helion Energy投资了3.75亿美元，这家公司正在研究如何通过核聚变创造无碳能源，已经接近于“在真正演示中创造出净能量增益”。
此外，他还向Retro公司投资了1.8亿美元，目标是通过“细胞重编程、等离子体疗法和自噬”等创新技术，将人类寿命延长10年。
奥尔特曼表示，从道德上讲，这些问题比人工智能要容易得多。“如果你在研究核聚变，这肯定是有利的。是好事。”他说，“如果你在开发人工智能，它可能非常好，也可能非常糟。”（辰辰）

账号		自动登录	找回密码
密码			立即注册

ChatGPT之父成平衡大师：赚钱和AI技术安全我都要

本帖子中包含更多资源