编者按: 白宫在变,硅谷也在变。本年美国大选,硅谷与白宫的联动成为美国政治光谱变迁的一道“靓丽的风景线”。 日前,《奥尔特曼传》作者周恒星做客调查者网的“心智调查所”。作为国内榜首个采访到马斯克的科技记者,周恒星叙述了他与OpenAI创始人奥尔特曼的来往,以及对硅谷美妙转型的一线调查。
心智调查所:你推出的这本《奥尔特曼传》,是不是快出书了?
周恒星:是的, 这个月就会出书。
心智调查所:这本书,你是从什么时分写到什么时分?
周恒星:其实是从2014年我刚知道萨姆·奥尔特曼(Sam Altman)的时分,那时我刚到硅谷,然后写到本年八九月份,中心跨度或许有10年。
【与马斯克、奥尔特曼的因缘际会】
心智调查所:在议论这些细节之前,我想先问一下,你觉得他是一个什么样的人?
周恒星:假如让我用一个词来描绘,我觉得他十分像政客。他跟硅谷的许多创业者都不太相同,他是一位挺好沟通的人。由于我在硅谷见了许多那种书呆子类型的,他们不太好沟通,就像马斯克相同。
心智调查所:由于我常常看他们上各种播客节目。给我的感觉马斯克便是那种十分天马行空的,特立独行的这么一个人,很敢闯、很莽撞,什么都说,无所顾忌。而奥尔特曼就给人感觉是滴水不漏,他上节意图时分,感觉十分谦逊,他上崔娃(Trevor Noah)、莱克斯·弗里德曼(lex Fridman )的节目,我都有看。不知道你在2014 年见到他是什么时刻?那是在创立 OpenAI 之前?
周恒星:对,他是在 2015 年创立 OpenAI 的。2014 年他刚刚接任Y Combinator(注:简称YC) 的总裁,其时我是带了一个我国企业家团去硅谷调查,团里边许多人说想去 YC 观赏一下,由于其时 YC 是硅谷最有名的一个孵化器。所以我其时就测验联络了萨姆,经过 the information 的 Jessica Lency 她帮我牵的线。其时萨姆就说他有爱好,然后让我去斯坦福找他,他在那儿上课。我记住其时便是一个下午,我去找他,他在一个教室里边上课,给我的感觉就十分像一个大学生。尽管其时他或许现已快30了,但特别瘦弱,然后说话特别快,其时他台下坐了许多或许年岁比他大的创业者。上完课之后,我就去跟他聊了一瞬间,横竖感觉他对我国特别感爱好。然后他也很想见一下咱们那个团。
心智调查所:我初次在互联网上找他的材料是我所看到的他的榜首个揭露讲演,他穿了两层 Polo T恤在上面讲演,那个就让我形象很深,然后许多人就说这是一个传奇的开端。
周恒星:对,我记住应该是在08或许09年。
心智调查所:你的这本书我在这个周末把它读完了。感觉十分好读,从最初到完毕趁热打铁,我觉得最大的一个特色便是多线叙事。由于硅谷各个人物之间的联络扑朔迷离。可是你把每一条联络依据你的板块,把这其间的逻辑收拾得十分明晰。我首要想问一下,你这本书写了许多的细节,比方说奥尔特曼他是怎样样拉到微软的出资?比方他在太阳谷的会上,和纳德拉怎样去推他的东西。
上一年 11 月所谓OpenAI 的宫廷政变都有十分多的细节,这些细节你是怎样去了解到的?是从直接途径知道的,仍是你直接去问他们?由于有太多细节,包含他在家里边喝什么咖啡的牌子,你全都知道。
周恒星:你方才说的其实是分两部分,一部分便是宫斗这五天发生的作业,还有一部分或许便是宫斗之前,像他去太阳谷峰会晤纳德拉那段,是我在《纽约客》杂志上找到的。有个记者他有说到,说在一个楼梯间里边碰到他,这后边我就找了许多材料。
我在书后边也注明晰引证来历。还有便是那五天发生的作业,由于其时我正好在硅谷。我是在 2023 年 11 月14 号那天采访了他,然后他十七号就被开除了,但 22 号又回来了。那段时刻我在硅谷,有点像处在风暴的中心。我去找了各种人问,然后也去了OpenAI 的大楼现场。外面有许多记者,但咱们都进不去,里边安保特别严厉。
我回来想写这本书的时分,就把那五天他们其时全部人发的Twitter做了收拾,引证一些媒体的报导。过后,触及到一些博客里边的描绘我悉数都收拾了一遍,其时是依照时刻次序,比方说每小时发生什么作业,中心差不多七十个小时悉数梳理了一下,当然里边有些是流言,我把它们删去掉了。那五天的作业我花了许多时刻去收拾。
2023年11月,奥尔特曼(左)和微软CEO纳德拉(右)在OpenAI Devday上
心智调查所:那你怎样去分辩这什么流言和本相?你要打电话去核实吗?
周恒星:我会经过一些办法去区分,就比方当事人在之后有弄清,或许有人去辩驳他,然后那个人又出头说这是我其时搞错了等相似的办法, 至于你方才说的喝咖啡,那个是我用的非虚拟写作的办法,我知道他最喜爱的一款咖啡,然后我也去看了,他住的当地是能够看到海的。
心智调查所:所以你是依照时刻线来收拾,然后自己扫除一些不可信的东西。方才你说到说你榜首次见到奥尔特曼是 YC 适当于训练营的一个活动。
周恒星:应该是一个创业课。YC 其实便是保罗·格雷厄姆做的一个项目。 格雷厄姆是一位很有意思的人,假如咱们喜爱创业的话,或许许多人都看过他的那本书,叫《黑客与画家》。他是一位很棒的创业者和作家。我觉得他写的内容十分有感染力和生动。我觉得奥尔特曼他许多时分在仿照格雷厄姆,格雷厄姆或许是担当了萨姆的一个教父人物。
心智调查所:你知道保罗·格雷厄姆吗?
周恒星:我跟他有过来邮件交游,但我没有见过他,由于他不住在硅谷。他应该住在东海岸,剑桥那儿。然后他们应该是在 2004 年的时分,保罗在东海岸做的榜首个训练营。其时萨姆·奥尔特曼(Sam Altman )是榜首期的学员,其时大约有十几个团队请求,许多都是大学生,保罗就把他们接到自己的身边,手把手教他们怎样创业。那个创业营完毕之后作用十分好,许多人都说想请求下一期,然后保罗就觉得能够把它作为一个作业。由于他很喜爱年青人,然后也很喜爱创业这件作业。
心智调查所:他的热心是怎样来的?
周恒星:我觉得他有一种黑客精力。黑客精力便是我不要遵从这个人间的这些规律,我要经过创业去打破一些作业。比方做一个小公司,然后这个小公司能够去应战大公司,他觉得这是黑客精力的一种表现。
后来他就去了硅谷,在硅谷开端做这种创业营,然后越做越大,名望很快就打响。包含后边许多很有名的硅谷公司,像Airbnb、stripe,一些其他的公司都是从那儿孵化出来的。到13 年的时分,保罗就觉得我做这件作业现已享遭到这种进程,就想退休了。他就把YC 掌门人的这个宝座给了萨姆奥尔特曼。
心智调查所:Y Combinator原来是一个程序言语,是编程言语中的函数。他为什么会起这么一个美妙的姓名?
周恒星:他是个极客,很喜爱编程。他如同是前期一个很有名的程序的创造者,或许他觉得公司其实也像写代码相同,他是能够去制作的,然后经过一些办法论把它们组合在一起。
心智调查所:那你其时是带了我国科技界的创业者、企业家去访问吗?我风闻还包含了张一鸣。
周恒星:对,张一鸣应该是在其时团队里边最年青的,现在回想起来他其时不太爱说话,比较害臊,但还有其他比较闻名的企业家像猎豹的傅盛、易道用车的周航、小米的黎万强,还有他们的联合创始人、一加手机的刘作虎。
心智调查所:你对我国的 CEO 的了解程度和你对硅谷 CEO 的了解程度哪个更深?
周恒星:或许我在硅谷那几年,相对来说对硅谷愈加了解,但我之前也在国内作业过,那段时刻我常常跑中关村。我是一位科技记者,然后其时对我国的也挺了解的。
心智调查所:那咱们国内也有许多科技企业,你觉得在创始人这方面有什么相似的当地或许有什么不相同的当地吗?
周恒星:我觉得在我国的前期的互联网作业,或许咱们更多的是学习硅谷那一套,原创的东西比较少。比方说百度学习了谷歌,然后腾讯也是学习OICQ,还有阿里巴巴或许参阅了亚马逊。依据孙正义的韶光机理论,这也是正常的,由于我国是一个后发商场。
但我后来发现在移动互联网阶段,大约到了2012 年之后,其实我国也是有许多立异的。就比方说张一鸣的今天头条,我觉得在引荐算法上有一个共同的立异。我记住他其时在那次去咱们的活动的时分还去了Facebook总部,在座谈会的讲演中叙述了他的引荐算法,我觉得其时硅谷许多人是没有听懂的,许多人是不了解的。他说我会把你想要的信息推到你的面前,其时许多人很惊奇。但许多年之后,TikTok 出来了。
心智调查所:Facebook 后来或许了解了。
周恒星:后边他们肯定是了解了,Facebook也在抄袭TikTok。我国许多线上到线下的立异,这些美国是没有的。由于美国传统作业都十分先进,很难被推翻,但在我国互联网接管了我国商业的很大一部分,中美之间或许便是会有一些差异,但我觉得企业家精力仍是比较共同的。
心智调查所:由于 YC 像是一个创业者的加快器,选各个当地的好点子孵化。国内也有相似的公司,曾经比方说中关村也有一些孵化器。你觉得这种孵化器对现在国内这种科创的独角兽应该去学习什么或许有什么学习?
周恒星:据我所知,现在国内的孵化器如同消失了许多。
前些年是许多,然后政府也十分支撑,其时也有相似群众创业、万众立异的。创业是需求一些传承的。在硅谷其实传承了许多代,从最早 60 年代就开端做芯片的,后边到互联网,到移动互联网,再到AI,这些人其实是一代一代传下来的。像保罗·格雷厄姆,他或许算是互联网开端的时分,我觉得我国或许在这方面传承还略微有些短缺,或许只传承了一代罢了,可是硅谷现已传承三四代了。我觉得假如我国的这种传承文明能够向硅谷这边学习。假以时日的话,也是能够呈现像 YC 这样的孵化器。像之前的YC 我国,后来他变成了奇观论坛。陆奇教师,我觉得他是有那种 YC 精力的,他们那个形式跟 YC 也很像。
心智调查所:相似斯坦福大学这种,守着硅谷输出人才,坚持产学研高度集中的互动,国内有没有相关学习?
周恒星:我觉得许多校园现在都在做,但或许不像斯坦福那么灵敏。比方说有些大学教授他们做出来的东西,校园乐意以十分低的价格无偿给这个教授,再给他一些出资。或许国内还没有这么自在的这种产权形式,或许跟国内的教育体制也有联络。
心智调查所:你在2015年去了硅谷,那一年马斯克榜首次成功发射火箭。你是怎样联络到他的?
周恒星:2013年我刚刚作业的时分,我的领导风闻特斯拉进入到我国,他们其时在北京芳草地开了榜首家店,但还没有开业。其时领导让我去采访,我就想是否能够试一下马斯克。然后我就去猜他的邮箱是什么,比方说姓或许名、组合一下之类的,我猜了好几个,后边我就猜中了,其时邮箱便是名,就埃隆(Elon),后来他把邮箱给换了,我也没有张狂给他发邮件,其实就给他发了一封。
心智调查所:一封就回了。
周恒星:对,并且很快就回了。我觉得他那个时分特别像机器人,说话没有感染力,不像现在这样很会讲故事。至少他在我面前那种状况不是现在这样的。之后我看埃萨克森在列传里(注:艾萨克森编撰的《埃隆·马斯克传》)面也有说到他这种状况,是一种BLANK look,便是十分空泛的看着你,或许看你跟看个杯子没有什么区别。其时那个采访便是这样。咱们其时聊了一个小时,然后我问什么他就答复什么,有些创业者是十分会讲故事,十分有感染力的,而他没有给我这样的感觉。
心智调查所:那后来写了相关报导文章吗?
周恒星:当然写了一篇文章,由于我是榜首个采访他的我国记者。第二天他让我去参加他一个在洛杉矶的发布会派对。我又见了他一次,我感觉他那个时分就比较快乐,有或许是喝了一杯酒,他其时就有点嗨的那种感觉,比照挺剧烈的。参照埃萨克森的那本书,我也感觉到,他有时分心情崎岖很大。
2023年5月31日,马斯克飞抵北京
心智调查所:马斯克这个人的轶事真的许多。风闻在创业阶段他的压力比较大,常常会把自己累吐。
周恒星:他真的是九死一生,然后让他养成了便是十分敢赌,并且每次都all in这种性情,包含这次美国大选,我觉得像现已到这种等级的,其实不应该all in,应该两端下注。
心智调查所:传统上咱们都会这样想的。
周恒星:他是真的 all in,并且赌赢,我觉得这个很厉害。他在 2018 年之前,我每年简直都会看到他公司要破产的风闻,或许一向到 Model 3 真实量产之后,咱们才觉得这家公司活下来了。
他有很强的危机认识,我在书里边也说到,2018 年他们有个“量产阴间”,马斯克说咱们每周要出产 5000 辆车,否则我就不出这个工厂,他每天都睡在工厂里边,就处理各式各样的问题,这也导致他 2018 年跟 OpenAI 彻底分裂,是由于那段时刻他的心情特别不安稳,他有几回直接在公司里谩骂。这个也是他跟 OpenAI 彻底闹掰的一个导火线。
心智调查所:所以他是一个心情动摇很大的人,跟奥尔特曼彻底是两种人。
周恒星:对,萨姆·奥尔特曼心情很安稳,他有时分很会示弱,就经过示弱来取得怜惜,比方在听证会的时分,说“听证会那几天我感遭到咱们的爱意”。他还常常求助一些导师,像保罗·格雷厄姆,彼得·蒂尔等,而这些年长的人都很乐意协助他这样一个年青人。
【AGI与硅谷两条路途的宗教战役】
心智调查所:如同你在书里边说到了马斯克和奥尔特曼之间有很杂乱的前史渊源和恩怨情仇,咱们可不能够花一点时刻去评论一下他们两个最开端的交集?
周恒星:对,我这本书一开端就梳理了整个 AI 开展的进程, AI 从上世纪 60 年代咱们就开端广为评论,其实中心有许多波折,也发生了一些门户纷争。但大部分的时分AI都很失利,中心阅历了许多低谷。
一向到 2012 年的时分,本年取得了诺贝尔物理学奖的辛顿(Geoffrey E. Hinton)搞出了一套算法。这套算法经过十分少的算力,用了戋戋几块GPU,就能够辨认一些图片,准确率一会儿就到达97%——这应该算是前史性的作业,阐明 AI 真的能够去辨认许多东西了。在那个时分,奥尔特曼其时在硅谷应该很早就看到了这个打破,所以他在2014、2015 年的时分,他在 YC 的时分就特别想经过 AI 来做一些作业,他其时觉得互联网现已进入到瓶颈期了,由于在其时许多该上市的公司都上市了,他感觉互联网或许不会再引领下一波的科技浪潮,而AI 会引领,所以他就找了许多人去聊。
他在那个时刻点详尽调查了AI工业,感觉这个工业有迸发的潜力。他是一个很好的攒局者,比方说会安排一些饭局,包含他去找了许多不是创投圈,乃至是学术圈的人,比方说辛顿的学生伊利亚·萨特斯基弗(Ilya Sutskever)。他大约在 2014 年的时分给马斯克发过邮件,说咱们一起来做个非营利安排来敌对谷歌。可是由于马斯克跟拉里·佩奇(Larry Page)是很好的朋友,不过他们在一点上有很大的不合,便是拉里·佩奇觉得未来机器人会操控人类,这是前史的必定,他是一个十分达尔文主义者,他觉得人类便是有一天要被机器人操控的。但马斯克说我酷爱人类,我不能让这种作业发生。
心智调查所:马斯克酷爱人类的主见是从哪里来的?由于我知道这个有用算法(effective algorithm )和牛津大学教师William Macasco有关。他是何时接触到Macasco的?由于 Macasco也是个年青人。马斯克是什么时分开端忧天下了呢?
周恒星:这是个很好的问题,其实我也一向在想这个问题,由于他不是一个幼年很夸姣的人,儿时也一向遭到同龄人的架空,包含他的父亲对他也有许多精力优待。他为什么会酷爱人类?这个其实我也测验去找到答案,说实话我没有找到。我其实觉得他更像拉里·佩奇(Larry page )相同,我之前问过他,我说你有没有崇奉?马斯克的答复说我没有崇奉,我只信任物理学。为什么这么一个理性,把物理学作为崇奉的人会酷爱人类,说实话我不知道。
心智调查所:但其实信任物理学,信任自然规律和酷爱人类也没有什么敌对。
周恒星:但我觉得假如他是一个十分理性的人,他把人类跟其他生物是放在同一个相等位置的话,或许就会觉得我被机器人操控,那也OK。
心智调查所:萨姆奥尔特曼(Sam Altman)、 伊利亚·萨特斯基弗(Ilya Sutskever)他们两个都是犹太人。但他们都应该都仅仅文明特色的,不是一向参加宗教活动的人。但会不会文明背景在某一点程度上给予了他们一种十分坚决的崇奉?
先讲一讲马斯克,马斯克和奥尔特曼这些带有极客精力的一些人想要去应战谷歌,由于谷歌财大气粗,并且像DeepMind 也是走在了全国际的前面,就像你在书里边写的,假如咱们从后往前看的话,谁有或许做出这个ChatGPT?答案应该是谷歌。由于 transformer 是谷歌做的。他们两个就适当所以后来的一个应战者,然后由于他们都很喜爱看那种科幻著作,“咱们去解救这个国际,不要被凶恶的大公司给操控”。那为什么这个护戒小队动身之后就中道崩殂呢?
周恒星:我觉得有几方面原因,在 2018 年的时分,马斯克他其时阅历了 Model3 的量产阴间,他其时心情不太安稳,并且那段时刻谷歌正在吊打OpenAI,OpenAI 是什么都没有,他们其时也没有找到正确的方向,他们测验了许多,比方说做机械手臂,或许说去玩游戏,但这些都失利了,一向到 Transformer 这个论文出来之后。
心智调查所:可是那个时分咱们都不是做大言语模型的。
周恒星:对,但谷歌就财大气粗,它是能够接受,测验许多不同的方向,但像OpenAI 其实并没有许多资金,假如他们四处出去乱花钱的话,很快钱就烧没了。可是马斯克也对这个团队失掉决心了,其时就说要把这个团队并入到特斯拉里边。其时应该是 OpenAI 的全部人都敌对,那时 Transformer 现已出来了。
敌对理由便是OpenAI现已找到正确方向,他们现已预备发布榜首代GPT。假如马斯克再多呆两个月的话,他看到 GPT 1 的效果,他或许会改动主见,但他其完成已对团队里的开展不太了解,由于他住在工厂里边,而工厂离 open AI 总部开车要两个小时,所以我猜他那段时刻便是不怎样去,然后又对他们彻底绝望,就你只会花我的钱,然后什么都没有做出来。
心智调查所:可是奥尔特曼那个时分去总部吗?
周恒星:萨姆奥尔特曼就住在旧金山,他跟 OpenAI 总部其实离得很近,我猜他应该知道说 GPT 1快做出来了,所以他也是敌对并入特斯拉。但马斯克他是一个很顽固的人,他在 2018 年 2 月的时分开了一次会,他还骂了一个实习生是蠢蛋,然后就离开了,再也没有回来。
之后奥尔特曼,他也没有办法,由于没有钱了,但一起他知道快做出来了,所以他就去抱大腿找了微软。可是从马斯克的视点来说,其时做OpenAI其实为了敌对谷歌,成果你去抱别的一个巨子的大腿,他觉得他被萨姆奥尔特曼骗了。马斯克其实并不是由于这些钱,他说不记住他究竟捐了多少钱。由于他后边说了好几个数字都不太对,后来有人跟他算了一下,或许就 5,000 多万美元。后边他就改口一向说 5000 多万美元,这或许是有人跟他说之后他才想起来的。
心智调查所:他后边责备说,咱们叫OpenAI,但如同做成了一个 Close AI。他的意思便是咱们最开端说好的是开源,你们需求把全部的全部都让群众去运用,不要像 Google 搞DeepMind黑盒化。他这个说法你觉得站得住脚吗?
周恒星:能够看看其时的邮件来往。伊利尔给马斯克发邮件,说开源就开一部分,闭源实际上在某个阶段是更好的挑选。马斯克其时如同就回了一个OK,也便是他其时是没有敌对的。我觉得他并不是敌对开源或许闭源,他敌对的是自己失掉了对Open AI的操控权。
心智调查所:他后来如同还说,奥尔特曼把握了权利之戒,马斯克自己莫非他不想要去把握这个权利之戒吗?
周恒星:其实我在书里边也写到,像比尔盖茨,其实咱们都觉得他是一位慈善家,实际上在他的年代里边,30 多岁的时分他打败了全部的竞赛对手,是名副其实的科技界战神,但他在2000 年美国有个反独占案,其时说要拆分微软,后来比亚盖茨就隐退了,然后就让鲍尔默成为了微软的CEO,但鲍尔默成为 CEO 不久谷歌就呈现了。后边便是谷歌一向在吊打微软,并且微软错过了许多时机,像互联网、移动互联网其实都错过了。
心智调查所:查找这个方面,像曾经yahoo之类的也都做不过谷歌。
周恒星:对,谷歌商业形式也很好,基本上融了一轮之后就能够赚许多钱了,他也不需求出资,后边许多人想收买谷歌也都失利了,所以谷歌便是一向吊打微软,到纳德拉成为 CEO 之后,或许云核算方面开端让微软略微扳回了一局,由于谷歌尽管也有云核算,但其实不是它的优势。纳德拉觉得应该做一些谷歌还不是特别拿手的东西,就看准了AI,他也说服了比尔盖茨,之后就跟 OpenAI 结盟了。我觉得两边或许彼此都有需求,就一拍即合。
心智调查所:它成了一种弯道超车的东西。谷歌有自己的 AI 、微柔和OpenAI 也有它们之间特别的联络,亚马逊有Anthropic、马斯克有个X AI,包含各个国家都有许多公司在做这个内容。现在全部人都在AI 的这条赛道上张狂的卷。从技能的视点来讲,这些大公司之间,他们彼此的厮杀能对咱们国内做 AI 的公司供给什么启示吗?他们这些公司的意图都是在寻求 AGI 吗?
周恒星:我觉得他们的终极目标仍是AGI。 AGI 有点像圣杯,全部人都在追逐它。我觉得国内现在确实是略弱小一些,不过仍是有弯道超车的时机。假如回忆前史,我国科技作业其实一向都是从一个跟从者,然后渐渐逾越。从互联网到新能源轿车, AI 的话,我觉得现在或许距离不会比当年小。
我国人才也是满足多的,但现在现在来看我国更寻求的是使用,而不是大模型。在使用层面我觉得我国是有优势的,就看能不能做一些比较好的 AI 使用出来。至于说假如要到达 AGI 做大模型,这或许不是咱们的优势。
别的一方面我国还有个优势,便是硬件。我国的供应链或许除了芯片造不出来,其实能够造任何东西,而美国现在其实什么东西都造不出来。我国在这方面是有优势的。在未来,像具生智能需求做的那种机器人,假如要确保量产的话,或许那些公司还要来我国,必需求依托我国的供应链。
心智调查所:这如同是一个圣杯战役,在美国咱们都朝着 AGI 的方向在卷。你觉得你作为一位科技作业调查者来讲,这是AI 的未来吗?这是人类的未来吗?AGI如同不光是科技的问题了,不是一个单纯讲技能的问题,人算什么?人要干什么?由于比方说像辛顿(Hinton),他如同就不太支撑AGI。
周恒星:对,他比较垂青 AI 安全,不想让大公司独占整个作业,比方就只需Open AI 取得AGI,取得这个圣杯,然后其他人都做不到,这个时分他觉得很风险。我觉得 AGI 这个作业迟早会发生,并且会很快,尽管现在遇到一些瓶颈,但仍是会渐渐到达那个点,我觉得或许速度会逾越许多人幻想,这会对社会的冲击十分大。
OpenAI的AGI机器人
心智调查所:不做十分笔直类的AI,而是要做通用的智能,让它有人类的这种推理才能。你觉得这个是必定的趋势吗?
周恒星:我觉得这个或许要依据作业来说,其实假如仅仅需求AGI的推理才能,彻底没有必要有个硬件,只需用软件就能够。假如触及到硬件的话,比方说陪同机器人,当然便是越像人类越好。而像工厂机器人,其实只能做一个动作。但假如未来它或许不像人类这么智能,但它能够取得智能,能够做许多动作,那就不需求多条出产线,就只需求一条出产线,然后这个机器人能够轮番做不同的动作。这个其实是能够节约本钱的,但这需求看作业。
心智调查所:所谓未来能处理万事万物的AGI要答复你全部问题,包含情感陪同、前史哲学、数学题,还要写程序,人们对他的等待就会影响本钱对他的估值。这是一个十分理性的故事。
人类先要有一个幻想,然后期望这个幻想真的会在实际中心呈现出来,以这个办法推进的话,未来咱们是朝着哪条路?
周恒星:假如大模型越来越智能,具身机器人也能够变得越来越聪明,这是需求跟工业结合起来,我国的优势或许更多是工业结合这条路,由于我国的大模型现在略微比美国弱一些。
心智调查所:奥尔特曼最近被辛顿(Hinton)批判更关怀赢利,而不是关怀 AI 安全。你怎样看待赢利和安全之间的取舍?
周恒星:我觉得这是两种价值观的抵触,或许 Hinton是学术圈的。我觉得学术圈特别是西加州的一些大学许多遭到了自在主义左派的影响,他们应该当年是从一些环保,反战的环境中生长起来的。我觉得学术圈有个问题,对商业缺少知道,可是从创业圈的视点来说,关于创业者最大便是竞赛。这就需求你在竞赛里边活下来。
我觉得关于奥尔特曼他们来说,他有或许认识到了安全这个问题十分重要,包含他其时也容许了伊利亚,会给 20% 算力来做超级对齐的问题——究竟AI的某些情感价值观跟人类不共同。但后边很有或许便是由于跟谷歌和 Anthropic 竞赛实在太剧烈了,OpenAI有必要全力向前,把资源都投入到做大模型里边,所以后边的敌对就越来越大。其实我觉得这两点都是能够了解的。由于我觉得他作为一个 CEO首要要赢得竞赛,这方面压力应该是最大的,而不是像辛顿把这个问题看的这么重。
心智调查所:马斯克也常常考虑安全和人类未来。
周恒星:对,我在书里边其实也写到他在 OpenAI 那段时刻,特别是 2018 年的时分他的一些言辞,其时他很明显是个有用加快主义者。他其时就一向批判团队,说你们太慢了,要快一点,这跟奥尔特曼是相同的,从一个本钱家的视点不断去强逼团队。但他从OpenAI出来之后就说安全的问题,我觉得这更多的是一种竞赛战略。
心智调查所:所以你在书中有一章是说到“硅谷宗教”。前史上的宗教战役,往往也不是为了宗教这件作业自身,而是实际中心所坚持的利益,只不过找到一个理由。
周恒星:对,假如咱们看马斯克,他的许多理论包含他描绘的蓝图其实是有改动的。依据他的这套逻辑,终极目标是要把人类送往火星。他把电动车当作是在火星上一个运送的东西,火箭是作为从地球到火星中心的运送东西,X渠道便是在火星上的通讯,包含还有一些脑机接口方案。他是有一整套逻辑,里边有他的抱负和坚持,当然也有许多其实是为了讲故事。
心智调查所:除了加快主义,还有另一条路途:“有用利他主义”,榜首次见马斯克,对他的观感是这样的吗?
周恒星:他其时让我很惊奇,他很看不惯加州那些左派的那些东西,他觉得那是一种很荒唐的价值观,包含觉悟病毒什么的。我记住斗极卫星发射的时分,我发一篇文章给他,他“恭喜斗极”。然后我说你觉得我国会比你们先去火星吗?他说 game on,咱们来竞赛一下。
【硅谷的未来,从科技到权利】
心智调查所:那你和奥尔特曼还坚持联络吗?
周恒星:我跟他首要发短信,马斯克其实很随意,他或许很快乐的时分就会就一向跟你聊,有时分晚上就不睡觉。奥尔特曼或许便是比较官方一些,比较谦让。就比方说有一段时刻他很忙没有回我,或许下次回我的时分会先跟我抱歉,说不好意思,我很忙什么之类的。这两个人就不同还挺大的。
马斯克的性情会更张扬一些,我国有许多读者也会觉得他有更剧烈的感染力、品格感染力。奥尔特曼如同也便是ChatGPT火了之后咱们会更关怀。
心智调查所:OpenAI董事会的宫斗还触及Helen Toner这个人,以及奥尔特曼对安排的变节,说他不行坦白?
周恒星:这个后边我在书里边也写了,2022年年末的时分竞赛特别剧烈,可是奥尔特曼他暂时想出来说咱们要做个谈天机器人,并且是在几周之内做出来的。彻底没有料到这个会火,他说“咱们先做一个有线预览”,发布出来之后就几天之内只需300万人用。我能够了解,便是奥尔特曼其时是忽略了,并不是真实的不想报告给董事会,但这件作业便是在Helen Toner看来,便是这个项目就成心隐秘。
我作为一个调查者来说,加快主义和利他主义这两派我都能够了解。但我有一个调查的视点,假如咱们回忆前史的话,其实大部分科技都是中性的,并不是说它是好或许坏,它或许只能经过它的成果来判别它究竟是好仍是坏。我觉得许多人,特别是一些有用加快主义者,他们会成心美化科技,觉得科技便是向上的,便是处理问题的,他们都是夸姣的。有用利他主义者或许都觉得科技是凶恶的,然后科技或许大部分背面其实是惊骇和贪婪,我觉得这两派其实说的都有道理,但假如从科技自身来说,它其实是中性的。
就像原子弹相同,它被奥本海默和他团队做出来之后,其实能够消灭人类,但它也能够带来平和,完结二战,一起它又在后边保持了暗斗,其实保护了二战之后半个世纪的平和。
我在这个书的跋文里边写到便是我有个调查,硅谷正在成为下一个美国的权利中心。然后我也做了比照,乔布斯那一代的创业者,是那种嬉皮士风格,就尽量远离政治,包含像奥巴马,他想去硅谷见乔布斯,乔布斯就不想见他。并且他们其时聊的论题其实跟政治没有联络,美国的制作业不像在我国制作 iPhone这么简略。在美国做不出iPhone来,他们其实聊的这种东西。
但像马斯克和奥尔特曼这一代的创业者,他们实际上是有十分剧烈的政治诉求的,有自己的一整套未来蓝图。不仅仅经过技能,还要经过政治结合起来才能去完成,所以我觉得硅谷其实不再像乔布斯那个年代这么嬉皮士了,越来越变成政治参加者,乃至说背面的决议性力气。
《纽约时报》曾深度剖析为何硅谷越来越向共和党挨近
心智调查所: 由于美国是一个全国际占主导位置的国家,硅谷又恰好是美国技能制高点,这么一个这样的开展趋势对全国际来讲意味着什么?
周恒星:咱们或许要多重视一下硅谷这些首领的言辞,他们的一些主见很有或许会主导未来科技和社会变革的走向。就像我前段时刻看了一本书,赫拉利的《智人之上》。他其实十分担忧未来人类会被AI操控,他觉得未来5到10年之内就会呈现一个AI官僚机构,会经过许多的AI算法操控整个人类,比方你从事什么作业或许都是AI来决议的,这是很有或许发生的。AI参加制作信息、分发信息,就会影响人类的整个决议计划。
心智调查所:那咱们应该怎样办?
周恒星:我觉得很有或许在十分短的时刻内,全国际许多白领的作业会被AI代替,比方说就像处理信息的一些白领剖析师,或许说在律所里边处理一些案牍的人。
未来有几个转型的趋势,一些跟人打交道的比方说像出售这种作业,AI暂时没有办法代替人类。要否则便是你转型做个蓝领,比方说厨师或许说运动员或许那种健身教练;要否则便是你成为一个超级个别,这样你一个人就能够经过 AI 来做许多作业。像奥尔特曼他们,他说他觉得未来会呈现一个人的公司,然后发生一年 10 亿美元的收入。
心智调查所::你方才说到赫拉利。赫拉利常常说,全部的东西都是故事,everything is a story。你用一张纸去买一瓶饮料,那饮料是经过这么多的加工线、流水线做出来的,他凭什么要给你一张纸呢?便是你信任这张纸币是有价值的,这张纸的价值又是别的一个故事。 AI是能够讲故事的。
你觉得他们有没有遭到一种所谓的宗教末世论影响?由于基督教和犹太教都有一个很剧烈的末世论倾向,便是说在某一个时刻之后要经过一场战役或许终究的审判,然后就通往了一个新天地,人就逾越了你的这个个别的血肉的这种东西,然后和神性有一种一致。那什么是神性?是和AI结合了。
周恒星:有用利他主义者,他们有或许跟这个宗教是有结合的。
现在整个硅谷都现已分裂了,不像其时全部人都支撑民主党,只需彼得·泰尔一个人支撑共和党。现在基本上便是十分分裂了,差不多或许有三分之一支撑共和党。硅谷这些 CEO 大部分仍是商人,商人其实更多垂青的是背面的利益,美国很大程度上其实是商人树立的一个国家。假如咱们看硅谷这些CEO的言辞,他们只需是在我国是有利益的,他们基本上都是支撑我国的。即使是像扎克伯格这样的人,他早年就十分想进入我国商场,十分吹捧我国。我觉得其实他们并没有十分剧烈的认识形态,他们更多的是从他们的商业视点动身去做这些判别。
像马斯克,我觉得只需我国还有这么大的轿车商场,我觉得他不太或许主动攻击我国。不过在特朗普政府里或许会左右为难。特朗普或许会出台十分剧烈的跟我国竞赛的方针。
心智调查所:这么多年你重视科技工业,许多人会说“美国人他们都是独行侠,能够自己捣鼓立异,我国由于着重对威望的尊重,就丧失了必定的立异动力或许说热心”。那么你对这个作业是怎样看的?
周恒星:未来中美两国都会引领国际的立异,咱们假如回忆前史的话,之前或许美国确实是会有更多独创性的内容,他们会先走在前面,我国或许就在后边跟从。但咱们回到地缘政治严重之前的那个年代,便是我在硅谷的那几年,比方说2014到2017年,贸易战之前中美之间其实配合得十分好,我国一方面制作业很兴旺,然后它能够造出东西来,它能够做造iPhone,能够造Model 3,这个是美国它做不来的。
一起我国有满足多人才,硅谷那些大厂里边十分中心的工程师其实都是我国曩昔的。程序员或许能够做一些十分开创性的作业,但你假如要说一些十分根底的去开发一些东西,考虑到我国工程师的纪律性,还有他们作业的强度,他们的作业热心远远高于美国工程师,他们乐意加班。
假如咱们能够持续像曾经相同,中美之间能够彼此合作的话是很好的,但咱们两边假如处在十分敌对的情况下,我觉得我国也不是说彻底没有时机,要把咱们自己的优势发挥到最大。
我国做使用肯定是有堆集十分多的阅历,特别在移动互联网年代,由于我国人口基数满足大,传统的商业范畴或许就比较弱势很简略就被互联网所推翻。
但美国人他们或许更垂青的是做产品自身,他们觉得一个好产品,然后就自然而然会有人用,但我国很垂青做运营。
我国运营我觉得是美国人搞不来的,即经过各种办法去做一些推行营销,不过在AI 这个范畴,由于我现在暂时没有看到十分好的使用,我觉得未来应该我国时机是很大的。
心智调查所:在美国有一些学院派的人关于AI道德安全这方面的声响是蛮大的。你觉得我国对这些方面的考虑够不行?咱们的思想的范式和他们是不是不太相同?
周恒星:我觉得我国在AI道德这方面确实考虑的没有美国这么多。我觉得首要原因是我国的AI或许更多的是处理实际问题。包含后边本钱的推进,包含大公司的参加。
AI安全在我国或许便是需求政府牵头,我觉得咱们或许更关怀的是 AI 会代替自己的作业。而不是从道德这方面评论。
心智调查所:最终我还想请你给咱们的读者再简略的介绍一下这本书,说咱们能从里边获取到什么样的价值。
周恒星:这本《阿尔特曼传》是我在本年上半年花了差不多 8 个月时刻写成了一本有关OpenAI联合创始人的列传。
我在里边首要分了三个部分,榜首部分首要是议论 OpenAI 从建立然后到 ChatGPT 发布这几年,包含就AI 的开展的前史,经过一些故事把它们串在一起;第二部分叫权利的游戏,首要说的便是通往 AGI 路途会是一场巨大的权利奋斗。上一年我在硅谷阅历的那场政变背面其实是有一个认识形态的战役,所谓的“宗教的战役”,我在这一部分花了很大的篇幅把它体系的梳理了一下,包含里边的有用利他主义和有用加快主义他们之间的一些奋斗,还有 OpenAI 董事会里边的一些奋斗,我觉得这里边能够很好地表现奥尔特曼个人的一些特色,包含他怎样在权利的游戏里边最终胜出。
第三部分我首要是回忆了奥尔特曼在 OpenAI 建立之前, 30 岁之前他创业,还有包含在 YC 做出资的一部分阅历。最终边我还有一个终章,首要是我总结了他对未来的一些观点和未来蓝图,从中能够知道未来 AI 会对人类带来什么样的改动,以及咱们普通人能够怎样样去应对。整体来讲这本书比较合适群众读者去阅览的,没有什么门槛,然后我也期望咱们能够经过看故事相同能够去了解到整个 AI 的开展史。