独家专访《未来简史》作者赫拉利：机器很难有“意识”
0
自动播放开关
自动播放
《未来简史》作者谈人工智能：有机生命或被无机生命替代
正在加载...
<
>
文 / 腾讯科技 刘语珊
全球畅销书《人类简史》、《未来简史》的作者——新锐历史学家尤瓦尔·赫拉利于7月6日在北京出席由中信出版社与大数据公司百分点集团联合举办的“XWorld大会”，与中国读者交流了他对人类与AI、未来人类的价值在哪里等深度话题。
《未来简史》一书于2017年出版。尤瓦尔·赫拉利在书中阐述了未来社会将由以人类及人文主义主导的社会，向以算法为中心、由数据主义主导的社会转变的观点，并提出了由于人工智能将在大量行业中取代人类，而导致数十亿人将成为政治、经济上的“无用阶层”的看法。
作为本次大会的首席合作媒体，腾讯科技在会后独家专访了尤瓦尔·赫拉利，就人工智能所将面临的伦理问题，个体如何避免成为“无用阶层”等话题进行了讨论。
采访中，尤瓦尔·赫拉利提出，机器获得“意识”的情况可能性极低，可能只会出现在科幻小说中；但如果在人工智能发展的“黑箱”中，这样的情况恰巧发生了，那需要人与人工智能共同协商双方应当如何共处。
而针对一个数据主义的未来，赫拉利则强调，我们需要避免仅由少数精英团体掌控数据这一未来最珍稀的资源的情况，而要让大众了解人工智能的发展，参与到制定人工智能所需依循的伦理规则的讨论中，并最终要让大多数人能从新技术中获益。
以下为访谈实录：
腾讯科技：在您的书和今天的演讲中，您为我们描绘了一个非常宏大而复杂的未来图景。在人工智能的开发上，我们目前还处于非常早期的阶段，还有很大可能做出根本性的改变。您认为，在这个开发的过程中， 科学 家们和开发者们应该遵循哪些原则？
赫拉利：首先，当人工智能这样的新技术出现时，在这些技术发展的早期，我们要考虑的不仅仅是技术层面，还需要考虑社会、经济和政治层面。
第二，要让大多数人能从新技术中获益，而不只是少数精英。
第三，具体到人工智能，我们不能只研究机器的“智能”，同样也要研究机器的“意识”，否则，事情会陷入极度不平衡的状态，即使我们发现人工智能有极大的能量，我们也不知道它有多大用处，或者即使我们用了，也会用的极不“明智”。
腾讯科技：您提到要研究机器的“意识”。就我们人而言，我们其实还不知道“意识”是如何产生的，意识产生的过程对我们而言实际上是一个黑箱。那如果未来机器也有了“意识”，我们是否应当将他们视为等同于人的存在？我们又应该如何与它们共存？
赫拉利：机器产生“意识”其实是很难的，非常难。在科幻小说中，当机器变得非常“智能”时，它们其实也具备了“意识”，但这只是科幻小说，并不是真正的科学。事实上，大多数人对“智能”和“意识”都区分不清，甚至有些计算机科学家也并不清楚两者的区别。
“智能”是解决问题的能力，“意识”是能感知事物的能力。人类和其他的哺乳动物都是通过感知事物来解决问题的，但计算机不是这样。我们在计算机的智能上有了很大的进展，但是在“意识”这一领域上几乎进展为零。
上个月，AI机器人Alpha Go战胜了人类的围棋冠军，围棋是非常需要智慧的游戏，但是却不需要任何的感知能力，在比赛中，机器不会有任何的焦虑感，即使赢了比赛，机器也不会有任何高兴的感受，这其中不涉及任何的意识和感觉。所以我们没有道理认为人工智能在“意识”这一领域真正有进展。
我以前提及过“意识”的重要性，我说了人类有意识，所以人类才能知道，面对这样强大的能量，我们能做什么。让计算机产生“意识”并不是一定能办到的事，我们自己都不是很清楚人类的意识到底是怎么来的，所以要让计算机也学会意识，这很难。
但是如果我们真的做到了，让计算机成为了有意识的个体，能感动疼痛，痛苦。我们要从人工的角度来考虑，如何对待这些有意识的个体，最一开始你不会把它当成有意识的人，而会看做仅仅是物体和工具，因为它们可能会像飞机，汽车一样贵，但是它没有办法感知，它们有的只是一些性质而已，那时它们还没有意识，意识总是伴随着感知而来，然后我们需要从人工方面来创造这些感知。
腾讯科技：那么您认为，谁有权利决定如何对待这些机器呢？是人类和机器之间产生一个协议，还是仅仅人类来决定？
赫拉利：这很难。很多的科学电影创造了一些有意识的机器人，让大众感到困惑，机器人真的有意识了吗？事实上不是的。但我认为，如果这一天真的来了，也应该是人类和机器人双方共同的决定，因为一旦机器人有意识，它们会和我们一样感受到痛苦，那也它们也应该有权利决定自己接受怎样的待遇。
腾讯科技：虽然目前的人工智能还没有您所说的“意识”，但它也已经开始面对一些伦理问题了。最经典的，比如说在车祸中，面对“杀死5个坏人，还是1个好人”的命题时，驾驶系统该如何做选择。那我们应当如何建立人工智能选择的伦理标准？正如您刚才也提到的，人工智能不能只是少数精英的游戏，作为普通大众，我们应该如何参与呢？
赫拉利：首先我认为，我们应该有一个讨论机制。针对人工智能，目前公众并没有特别热烈的讨论，也没有明确的发展路线。现在的决策都只是只是掌握在少数人手里，这些人都来自大企业或者其他组织的工程师、科学家，他们不代表任何个体。所以大众其实根本没有注意到目前到底是发展到什么阶段了。
所以，首先，大家要有所意识，要明白这对我们和我们的后代都是非常重要的。大众要参与讨论，即使每天的日常，可以讨论一下，究竟可以给AI，或者说这些算法多大的权力。即使老年人，也可以多接触计算机、智能手机，要了解才能做出一些决定。
现在大家都有智能手机，你不需要等到政府或者其他的大机构先做出决策，你可以用自己先做决定。你要给你的智能手机多大的权力？你要