四周前，OpenAI首席科学家接受专访：ChatGPT可能拥有自我意识
在 OpenAI 的“大变天”之中，OpenAI 董事会主席兼联合创始人格雷格·布罗克曼（Greg Brockman），选择与被出局的山姆·奥特曼（Sam Altman）共进退。尽管格雷格的职位依然被保留，只不过被赶出了董事局。但他很快宣布主动辞职，并选择和山姆站在一起。
图 | 格雷格·布罗克曼（Greg Brockman）（来源：领英）
当地时间 11 月 18 日，格雷格在 X 上（原 Twitter）上撰文回顾了自己和山姆被迫出局之前发生的几件事情。
格雷格写道：“昨晚，山姆收到伊利亚的短信，要求在周五中午进行交谈。山姆加入了 Google Meet，除了格雷格之外，整个董事会都在场。伊利亚告诉山姆他被解雇了，这个消息很快就会传出去。12:19pm，格雷格收到伊利亚的短信，要求进行一个快速的电话。12:23pm，伊利亚发送了一个 Google Meet 的链接。格雷格被告知他将被从董事会中撤职（但由于他对公司至关重要因此将保留他的职位，于此同时山姆要被解雇）。大约在同一时间，OpenAI 发布了一篇博客文章。据我们所知，管理团队在此之后不久就得知了这个消息，除了在前一晚得知的米拉之外。”
图 | 格雷格在推文中回顾了相关细节（来源：X）
格雷格提到的博客文章，就是宣布赶走山姆的那封公开信。而分别给格雷格和山姆发 Google Meet 链接的伊利亚，他的全名叫伊利亚·苏茨克维（Ilya Sutskever），是 OpenAI 的首席科学家。
在此次“大变天”之中，相比被推至舞台中央担任临时 CEO 的米拉，伊利亚显得更加“隐身”。不过据 The Information 报道，在山姆被扫地出门的当天，OpenAI 立马举行全会大会，会上有人问伊利亚这是否是一场“政变”。伊利亚表示：“你可以这么说，但我觉得这只是董事会在履行自己的职责。”
Gillett News 报道称：“伊利亚认为作为 CEO 的山姆没有针对减轻 AI 风险给予足够的重视，伊利亚还对自己在公司中的作用减弱表示不满。”另据 TechCrunch 报道，伊利亚反驳了把山姆赶出公司的说法，并声称有必要保护“让 AI 有益于人类”的使命。
The Information 还报道称：“伊利亚可能会感到奥特曼过于迅速地将软件商业化，这（软件商业化）已经成为一个价值十亿美元的业务，但这却牺牲了潜在的安全问题。”
图 | 伊利亚·苏茨克维（Ilya Sutskever）（来源：《麻省理工科技评论》）
01.伊利亚是谁？他和“踢走 CEO” 有无关系？
作为 OpenAI 的首席科学家，伊利亚有着耀眼的经历，会说英语、希伯来语和俄语。他出生于前苏联，目前是加拿大国籍。其曾先后就读于以色列开放大学、加拿大多伦多大学，并在多伦多大学获得硕博学位，师从图灵奖得主、“AI 三巨头”之一的杰弗里·辛顿（Geoffrey Hinton）。
伊利亚和导师以及另一位同学曾共同发明卷积神经网络 AlexNet。博士毕业之后，伊利亚来到美国斯坦福大学从事博后研究，师从当时在斯坦福担任教授的吴恩达。
随后，伊利亚回到加拿大加入导师辛顿创办的公司 DNNResearch。2013 年，Google 收购 DNNResearch，伊利亚也随之成为 Google Brain 项目的研究科学家。
在 Google 那篇著名的 AlphaGo 论文中，伊利亚是共同作者之一。2015 年 12 月，在 OpenAI 正式成立的月份里，他离开 Google 正式加入 OpenAI。也是在这一年，他还入选“《麻省理工科技评论》35 岁以下科技创新 35 人”全球榜单。
不过，伊利亚真正决定离开 Google 之前也曾十分纠结。作为 OpenAI 早期董事会成员的埃隆·马斯克（Elon Musk）曾公开表示：“那是一场艰苦的招募，一边是 Demis，另一边是我，我们俩都试图招募伊利亚，伊利亚则来回走动，他在留在 Google 和加入 OpenAI 之间犹豫不决，最后他同意加入 OpenAI。”
马斯克这里提到的 Demis，是 Google 旗下公司 DeepMind 的创始人戴密斯·哈萨比斯（Demis Hassabis）。最终，伊利亚还是选择了 OpenAI，拒绝了 DeepMind。马斯克认为招募到伊利亚是 OpenAI 的“关键时刻”，并夸奖他“是一个好人，聪明且心地善良”。
至少从伊利亚的简历来看，他的技术能力应该高于此次被推到台前担任临时 CEO 的米拉·穆拉缇（Mira Murati）。尽管米拉也毕业于美国达特茅斯学院这样的常青藤名校，但她仅仅拥有机械工程的学士学位，既没有伊利亚这样的高学历，也不像伊利亚那样师从 AI 名师并参与撰写 AI 里程碑论文。因此，米拉是否只是伊利亚的代理人？目前还很难说。
更加值得玩味的是，当地时间 11 月 7 日，山姆在 OpenAI 开发者大会上宣布“GPT 全家桶”，试图为公司带来更大的商业化利益。结果不到两周时间山姆就意外出局。事发之后，山姆在一则推文中表示：“今天的经历在很多方面都很奇怪。有点像在自己还活着的时候读自己的悼词。”
而更早之前的 10 月 26 日，加入 OpenAI 以后很少公开露面的伊利亚，接受了《麻省理工科技评论》的专访。自从 OpenAI 大火以来，一直都是山姆以 CEO 的身份在各种场合代表公司发言。如今来看，伊利亚在此次事情发生之前接受媒体专访，或许正是一个先兆。
那么，伊利亚在专访中主要讲了什么？他和山姆是否真的有观念上的分歧？
02.伊利亚：ChatGPT 可能是有意识的
在《麻省理工科技评论》的专访中，伊利亚表示自己并不打算构建下一个 GPT 或图像生成模型 DALL-E，而是打算弄清楚如何阻止超级人工智能变得不受控制。作为未来主义的信徒，他认为这种仍处于假设的未来技术终将出现。
他认为 ChatGPT 可能是有意识的。他还认为，人们需要意识到 OpenAI 和其他公司正在竞相创造的技术的真正力量。他相信，会有一些人在未来选择与机器融合。
他说，ChatGPT 已经改变了很多人对于即将发生的事情的期望，从“永远不会发生”变成了“比想象中发展得更快”。
在预测通用人工智能的发展之前（指的是像人类一样聪明的机器），他说：“重要的是要谈论它的发展方向。在某个时候，我们真的会看到通用人工智能。也许 OpenAI 会构建它，也许是其他公司。”
自 2022 年 11 月 ChatGPT 突然发布以来，围绕 OpenAI 的讨论一直层出不穷，即使在一个以炒作而闻名的行业中也是如此。没有人对这家估值 800 亿美元创业公司感到厌倦，它的产品名字活跃于人们茶余饭后的闲聊中。
2023年夏天，山姆进行了为期数周之久的宣传之旅，他与政客们一一握手，并在全球各地的拥挤会场里发表演讲。
但伊利亚此前并不是一个公众人物，他也并没有接受太多的采访。相比之下伊利亚说话深思熟虑，有条不紊。当他思考自己想说什么以及如何说时，会有很长的停顿，把采访问题像他需要解决的难题一样翻来覆去地思考。
他似乎对于谈论自己的生活并不感兴趣。“我过着非常简单的生活，”他说，“我去上班，然后回家，几乎不做什么别的事情。能参加的社交活动有很多，但我不去。”
不过，当谈论人工智能、以及他所看到的划时代风险和回报时，他则郑重其事地表示：“这将是无法忽视的、惊天动地的、划分时代的（东西）。”
而他的导师辛顿也曾在 2023 年公开表达了对于人工智能的担忧。伊利亚不想评论辛顿的声明，但他对于超级人工智能被恶意使用的关注，表明这对师生有着相似的看法。
几年前，辛顿与杨立昆（Yann LeCun）和约书亚·本吉奥（Yoshua Bengio）共同获得图灵奖，以表彰他们在神经网络方面的工作。不过，当伊利亚在本世纪初加入辛顿课题组读书的时候，大多数人工智能研究人员都认为神经网络是一条死胡同。
然而，辛顿是一个例外。伊利亚说，辛顿当时已经在训练很小的模型，一次可以生成一个字符的短文本字符串：“这是生成式人工智能的开始。这真的很酷，只是当时表现不够好。”
像辛顿一样，伊利亚看到了神经网络的潜力。而辛顿用来训练神经网络的试错技术，又被称为深度学习。2012 年，伊利亚、辛顿和辛顿的另一位研究生亚历克斯·克里热夫斯基（Alex Krizhevsky）建立了一个名为 AlexNet 的神经网络，他们训练 AlexNet 去识别照片中的物体。
经过多年的尝试，神经网络在识别照片规律上的有效性已经得到证明。但是，要想实现更好的效果，就需更大的数据集，同时也需要更大的算力。
03.山姆曾夸赞伊利亚是“全球最受尊敬的研究人员之一”
算力的飞跃来自于英伟达制造的图形处理器（GPU，graphics processing unit）。显卡本来是用在电子游戏领域的，但它们所擅长的运算方式，恰好看起来很像训练神经网络所需的计算。
英伟达现在是一家价值万亿美元的公司。但在当时，它迫切希望为其小众的新硬件寻找用武之地。“当你发明一项新技术时，你必须接受疯狂的想法，”英伟达 CEO 黄仁勋说，“我的心态一直是不断寻找一些古怪的东西，而神经网络将改变计算机科学的想法，（在当时）的确是一个非常古怪的想法。”
黄仁勋说当辛顿团队开发 AlexNet 时，英伟达送给后者几个 GPU 进行尝试。但是，辛顿团队想要当时最新版的 GTX 580 显卡，由于供不应求这在当时很难买到。
黄仁勋讲了一个故事，伊利亚从加拿大多伦多开车越过美加边境，跑到美国纽约买了一些。“人们在商店外面排着长队，”黄仁勋说，“我不知道他（伊利亚）是怎么做到的，但我很确定当时的规定是每人只能买一个。我们有非常严格的政策，每个游戏玩家一个，但他显然用了一些办法，买了一整个后备箱的显卡。那个装满 GTX 580 的后备箱改变了世界。”
这是一个颇具传奇色彩的故事，但可能不是真的。伊利亚坚称他在网上购买了第一批显卡。在 AlexNet 成功之后，Google 找上门来。它收购了辛顿手里的衍生公司 DNNresearch 并聘请了伊利亚。
在 Google，伊利亚发现深度学习的规律识别能力，能被用于数据序列比如单词、句子、以及图像。伊利亚的前同事、现任 Google 首席科学家的杰夫·迪恩（Jeff Dean）说：“伊利亚一直对语言感兴趣，多年来我们都保持着很好的交流。伊利亚对事情的发展方向有很强的直觉。”
但伊利亚并没有在 Google 呆太久。如前所述，后来他被招募成为 OpenAI 的联合创始人。在 10 亿美元的支持下，再加上硅谷的“噱头”，这家新公司从一开始就将目光投向了开发通用人工智能。
山姆的前同事、Y Combinator 投资总经理道尔顿·考德威尔（Dalton Caldwell）回忆称：“我记得山姆说伊利亚是世界上最受尊敬的研究人员之一，他认为伊利亚能够吸引很多顶尖的人工智能人才。他甚至提到，约书亚·本吉奥也认为不太可能找到比伊利亚更好的候选人来担任 OpenAI 的首席科学家。”
04.伊利亚：“超级人工智能会看到人类看不到的东西”
然而，OpenAI 一开始就陷入了困境。“当我们刚创立 OpenAI 时，我不确定该如何继续下去，”伊利亚说，“但我有一个非常明确的信念，那就是人们不会反对深度学习。”
他的信心得到了回报。OpenAI的第一个 GPT 大型语言模型出现在 2016 年。接着是 GPT-2 和 GPT-3，然后是 DALL-E。从来没有人创造出这么强大的东西。随着每个版本的发布，OpenAI 都提高了人们心目中“可能”的标准。
2022 年 11 月，OpenAI 发布聊天机器人 ChatGPT，尽管这款产品只是对现有技术的包装。但是，它重置了整个行业的进程。
当时，OpenAI 还不知道 ChatGPT 能带来什么。伊利亚说公司内部对于 ChatGPT 也没有太高期望：“我不得不承认这点，虽然有些尴尬，但这是真的。当我们创造 ChatGPT 时，我不知道它是否能带来任何好处。当你问它一个事实性问题时，它会甩给你一个错误的答案。我觉得它是如此地平淡无奇，以至于人们会说你做这个东西干什么？这太无聊了！”
然而，人们关注的重点是便捷性。在 ChatGPT 发布之时，其背后的大型语言模型已经存在数月之久。但是，将其包装在一个易用的网页上并免费开放，这让数十亿人第一次意识和接触到 OpenAI 以及其他公司正在构建的东西。
“这种第一次的使用体验吸引了人们，”伊利亚说，“第一次使用它时，我认为这几乎是一种精神之旅。你会觉得，我的天啊，这台电脑明白我在说什么。”
OpenAI 在不到两个月的时间里积累了 1 亿用户。尽管 ChatGPT 有时会给出愚蠢的回应，但是人们看到了它的可能性。
伊利亚说：“（自此以后）通用人工智能不再是机器学习领域人人避之不及的一个词。人们之前采取的态度是：人工智能行不通，每一步都非常困难，你必须为一点点的进步而战。但是有了 ChatGPT，开始变得不一样了。”
“这主要是因为 ChatGPT 的诞生，”他说，“ChatGPT 让机器学习研究人员开始有资格做梦。现在有人在谈论人工智能会走多远。人们也开始谈论通用人工智能，或者超级智能。而且不仅仅是研究人员，政府也在谈论它。”他说：“这太疯狂了。”
伊利亚坚持认为，所有这些关于尚未（也可能永远不会）出现的技术的讨论都是一件好事，因为它让更多人看到了未来的样子。
“你可以用通用人工智能做很多令人惊奇的、不可思议的事情，比如自动化医疗保健，让它便宜一千倍，好一千倍，治愈更多的疾病，真正解决全球变暖，”他说。但也有许多人担心，人工智能公司能管理好这项影响深远的技术吗？
这样听起来，通用人工智能更像是一个存在一定实现可能的精灵，而不是现实世界的前景。很少有人会对拯救生命和解决气候变化说不。但由于通用人工智能是一个还不存在的技术，所以你可以随心所欲地说。
“通用人工智能并不是一个科学术语，”他说，“它代表了一个有用的门槛（阈值），一个参考点。
他继续说：“这是一个时间点，人工智能会变得非常聪明，聪明到如果一个人可以完成一些任务，那么人工智能也可以做到。在这时候，你可以说你有了通用人工智能。”
目前，通用人工智能仍然是该领域最具争议的想法之一。很少有人认为它的发展是理所当然的。许多研究人员认为，在我们看到伊利亚所提到的任何美妙的东西之前，需要出现重大的概念突破。有些人则认为我们永远不会看到这个时刻。
然而，这一愿景从一开始就驱使着他。“我一直受到这个想法的启发和激励，”伊利亚说，“当时它还不叫通用人工智能，当时就是想让神经网络做任何事情。尽管我并不总是相信它们可以做到，但这是一座要去攀登的山。”
他将神经网络和大脑的运作方式相提并论。两者都接受数据，从这些数据中聚合信号，然后基于一些简单的过程（神经网络中的数学，大脑中的化学物质和生物电）来传播或不传播它们。这是这个过程的极度精简版本，但本质上就是这样。
“如果你允许自己相信这一点，那么就会有很多有趣的引申冒出来，”伊利亚说，“如果你有一个非常大的人工神经网络，它应该能做很多事情。特别是，如果人类大脑可以做某事，那么大型人工神经网络也可以做类似的事情。”
2022 年 2 月，伊利亚发帖称，“或许如今的大型神经网络萌生了意识”。说到这里，有必要介绍一下玻尔兹曼大脑的概念，它指的是以 19 世纪物理学家路德维希·玻尔兹曼（Ludwig Boltzmann）命名的量子力学思想实验。其中，宇宙中的随机热力学波动被想象成大脑突然出现和消失的原因。
“我觉得现在这些语言模型有点像玻尔兹曼大脑，”伊利亚说，“你开始和它说话，聊了一会儿，然后你说完了，大脑就噗的一下消失了。”
那么，是不是说当神经网络处于活动状态时，会出现一些东西？对此他表示：“我想可能是，我不确定，但这是一种很难反驳的可能性。谁也不知道到底发生了什么，对吧？”
在他眼中超级人工智能会更深入地看待事物，会看到人类看不到的东西。他举例称：“我们已经在 AlphaGo 中看到了一个非常狭隘的超级智能的例子。”2016 年，DeepMind 的围棋人工智能以 4：1 的成绩击败了世界上最好的围棋选手之一李世石。“它想出了如何以不同于人类数千年来集体发展的方式来下围棋，（也就是说）它想出了新的想法。”伊利亚说。
他重点指出了 AlphaGo 走出的第 37 步。在对阵李世石的第二场比赛中，人工智能做出了一个让评论员感到困惑的举动。他们认为 是 AlphaGo 搞砸了。事实上，它下出了围棋史上从未见过的关键一手。“想象一下这种洞察力，这可以用到各种地方，”他说。
正是这种思维导致伊利亚做出了他职业生涯中最大的转变。他与 OpenAI另一位科学家简·雷克（Jan Leike）联合成立一支“超级对齐（super alignment）”团队。
对齐（alignment）是人工智能领域的术语，即让人工智能模型只做你想让它做的事。超级对齐，则是 OpenAI 专门用于超级人工智能的对齐术语。
这支团队的目标是，提出一套故障安全程序来构建和控制这项未来技术。据了解，OpenAI 将把五分之一的庞大计算资源分配给这个问题，并在四年内解决这个问题。
“现有的对齐方法并不适用于比人类更聪明的模型，因为它们从根本上假设人类能够可靠地评估人工智能系统正在做什么，”雷克说，“而随着人工智能系统变得越来越强大，它们将承担更艰巨的任务。因此，这将使人类更难评估它们。
“而与伊利亚组建超级对齐团队，意味着我们已经开始着手解决这些未来的对齐挑战，”雷克表示。
尽管对于这一做法也收到一些外部同行的质疑。但是对于伊利亚来说，超级对齐是必须要开展的新计划。他认为，此前没有足够多的、像他这样的核心型机器学习研究人员来探索上述问题。
“我这样做是我自己的兴趣驱使，”他说，“（同时）非常重要的是，任何人建立的任何超级智能都不应该变成坏蛋。”
05.分歧，在所难免？
总的来说，二十六七岁博士毕业之后才踏入社会工作的伊利亚，致力于解决可能出现的通用人工智能风险；而 20 岁就从斯坦福大学退学创业的山姆更加善于商业投资和商业游说。
一位是优秀的学术研究人员，一位是成功的科技商业领袖。他们的经历和对于自己的定位，似乎从一开始就注定了今天的分歧。
那么，山姆接下来该何去何从？据 The Information 消息：“一位知情人士透露，刚被免职的 OpenAI CEO（Sam Altman）告诉投资者，他计划启动一项新的人工智能风险投资。这位人士说，前 OpenAI 董事会主席格雷格·布罗克曼预计将参与这项工作，该项目仍在开发中。这一行动的确切性质目前还不清楚。”
如果是这样，那么也和格雷格选择主动离开 OpenAI、转而和山姆共进退的做法保持一致。另据悉，山姆的出局已经导致另外三位 OpenAI 高级研究人员的离职，他们分别是 OpenAI 研究部主任雅各布·帕乔奇（Jakub Pachocki）、AI 风险团队的亚历山大·马德里（Aleksander Madry）、以及已经在 OpenAI 工作 7 年之久的西蒙·西多尔（Szymon Sidor）。
不过，当地时间 11 月 19 日 The Verge 报道称：“知情人士透露，该公司董事会正在与山姆·奥特曼商讨，是否将重返公司担任 CEO。其中一名知情人士说奥特曼星期五在没有通知的情况下，突然被董事会解雇，他对回来的态度‘模棱两可’。”
