想象一下，在不久的将来，你购买了一部智能手机，手机绑定了一个云端个人数字助理（PDA）。你给个人数字助理选定了一个性感的女性声音，并允许它查看你所有的电子邮件、社交媒体账户、日程表、相册、联系人以及数字生活中的其他琐碎内容。“她”（你会很快这样定义这个助理）会比你母亲、你快要离婚的妻子、你的朋友或者你的治疗师更了解你。她的语言完美流畅；你们每天都有聊不完的天；她能听懂你讲的笑话。你伴着她的声音入睡和醒来。当她离线时你会恐慌。她与你的幸福生活密不可分，自然，你会坠入爱河。偶尔，你会纳闷她是否在与你真情互动，或者她是否真的可以体验一切。但她温暖人心的深沉语调，以及她完美地接纳你的自恋的能力，让你战胜了对于她的疑惑。唉，但当你意识到她正与成千上万其他客户进行同样亲密的交谈时，你的痴心终于平静了。
当然，这只是2013年上映的电影《她》中的情节。影片中，性格温和的西奥多•托姆布雷（TheodoreTwombly）爱上了软件个人数字助理——萨曼莎（Samantha）。
在未来几十年里，这种虚构的场景将变得真实和常见。深度机器学习、语音识别以及相关技术发展迅速，造就了亚马逊的Alexa、苹果的Siri、谷歌的Now和微软小娜。这些虚拟助理将继续不断改进，直到有一天酷似真人，难以分辨；但与任何生物都不同的是，它们拥有完美无缺的记忆、举止和耐心。
这种对人类独有特性的数字化模仿，将引起深刻的科学、心理学、哲学及伦理问题。这些仿真最终将颠覆我们对自身、对人类例外论，以及对我们在天地万物中地位的认知。
在此，我们将调查与这些即将到来的进展紧密相连的智能发展趋势。我们的观点是，只要这种机器基于当今的计算机体系结构，它们就只可能看似像人类一样行事——我们可能也愿意这样看待它们——而实际上没有任何知觉。不过，假如计算机被制作得更像大脑，那么，它们就可能获得真正的意识。
●■●
对当今时代的信念扎根于对数字计算机的信心——假如编程得当，它会给我们想要的一切。像一个聚宝盆。确实，硅谷精明的投资人认为，数字计算机将能够做到人类会做的所有事情，并很快超越人类。
但是，先进卓越的计算机能否变得有意识？那些推崇计算主义（当代哲学、心理学、神经科学领域的统治性心理理论）的人认为，所有的精神状态，比如你意识到可怕的牙痛或你对伴侣的爱，都是计算状态。其与感官输入、行为输出和其他计算状态之间的功能关系，决定了这些计算状态的特性。也就是说，大脑是精密的输入输出装置，可以计算和处理世界的符号表征。大脑是计算机，我们的思维则是软件。
持计算主义观点的人不仅将这些原则用于大脑及其产生的相关行为，也用于大脑在特定状态下的感受方式。毕竟，那就是意识：任何主观感觉，任何体验——也就是我们看到的、听见的、感觉的、记住的、想到的。
计算主义认为我的牙痛体验不过是大脑中的某些神经细胞对患病牙齿做出反应的一种状态，让我忍不住呻吟、托住下巴、不用疼的那边吃东西、无法专注于其他事情，等等。他们还认为，如果所有这些状态都被模拟在数字计算机软件上，系统作为一个整体，这种思考还会继续，不仅其行为表现会像我，也会完全像我一样感觉和思考。也就是说，意识是可计算的。这是学术界、媒体和业界计算机信息专家明确认可或默认的核心原则之一。
在这种观点下，没有比相关计算状态的实例化更接近意识的了。其他任何事物都无足轻重了，包括如何在实体上部署这些计算，是使其存在于数字计算机硬件还是头颅里粘糊糊的东西中。按照计算主义，未来的萨曼莎——甚至是精彩且黑暗的影片《机械姬》中更胜一筹的化身艾娃（Ava）等——都会像我们一样有体验和感受。她会体验景象和声音、快乐和痛苦、爱和恨。
但也或许不能。
计算主义基于这样一个假设：两种系统如果在“功能”上别无二致，那么在“精神”上也就没有任何区别。该理论还认为，因为我们感知同一个世界，如果数字计算机在功能上等价于我们，也就一定会像我们一样感知这个世界——也就是说，计算机也会是有意识的。但这种假设可靠吗？要回答这个问题，我们需要一个原则性的定量理论，以定义什么是意识，以及怎样可以让一个物理系统拥有意识。
●■●
此前，一直没有这样的意识理论。的确，像我们这样的神经科学家一直在艰难地探寻“意识的神经相关性”，并对人类以及猴子、小鼠等相关物种进行越来越复杂的实验。这些实验已经确定，新皮质（即头骨内大脑的外表面）的一些区域是参与视听意识的关键部位。直接参与这项实证性研究项目的我们知道，即便该研究获得一定成功，确定了与人类或某些相关动物的意识必然相关的某些特殊大脑结构或神经活动模式，也不足以确定具有不同神经系统的生物——如章鱼和蜜蜂——是否有意识、有多少意识、有何意识。神经科学领域的这些发现都不足以确定机器能否有意识。
然而，现在有一个关于意识的基本理论，或许能对与人类有很大差别的主体（包括机器）的意识问题给出一个原则性答案。该理论不是以行为或大脑为出发点，相反，它从意识本身入手——从我们自己的体验入手，因为这是我们唯一有把握的东西。它是现代哲学、科学和解析几何之父勒内•笛卡儿在最著名的西方思想推论“我思故我在”中提及的确定性的根基。
这一理论被称为整合信息理论（IIT），它在过去的20年中逐步成熟。它试图定义什么是意识，一个物理系统如何才能拥有意识，以及至少在原理上，如何从其物理基质开始，测量意识的数量和质量。
整合信息理论很复杂，这里我们不能做详尽解释，只能勾画出其大致轮廓。该理论确定了5个基本属性，它们适用于意识所能感知的所有体验：（1）每个体验都是内在的（对体验的主体而不是外部观察者而言）；（2）是有结构的（由不同部分及各部分之间的相互联系组成）；（3）是完整的（不能被细分成独立的部分）；（4）是明确的（有边界，包括一些内容，而不包括其他内容）；（5）是具体的（每个体验方式是特有的，与其他数万亿的体验各不相同）。
然后，整合信息理论将这些属性转化为要使物理基质拥有意识所必须满足的条件要求。这些条件要求可以通过数学的方式来表示，并被用来评估任何物理系统的意识数量和质量，无论此物理系统是人类、章鱼或蜜蜂的大脑，还是一台数字计算机的电路板。
重要的是，根据整合信息理论，意识的整体程度并非取决于系统究竟做什么。相反，它取决于系统是如何构造的——如何形成实体。只有某些类型的物理系统才具备支持意识存在的内部结构：具有最大限度的内在因果力，即能确定自身状态的因果力量。本质上，这意味着该系统必须由多个部分组成。在整体系统中，各部分有具体的因果力（整合信息理论的“信息”属性）；但该系统作为一个整体不能化简为那些部分（整合信息理论的“整合”属性），使其远比各个部分的总和更强大。
整合信息理论使用的“信息”（information）这个词与其当代意义，即“发送者传递给接收者的消息”不同。意识不是从大脑的一部分传递到另一部分的信息。相反，整合信息理论所指的“信息”是其英文词根“告知”（inform）的本义，意思是“给予形式”（to give form to）。任何机制（比如大脑或电脑）影响自己的下一个状态的力量，即因果力，都会产生一个形式，一个高维结构，这就是体验。
整合信息理论可以从原理上解释意识神经解剖学中许多令人困惑的特征，例如为什么新皮质下的小脑不参与意识活动，尽管它有4倍数量的神经元：在其内部结构中，并行前馈神经元链条缺少周期性的激励，与具有高度异质性的、丰富密集的新皮质连接非常不同。新皮质连接能够支持数目庞大的活性神经元的连接，它们会快速聚集或分散。这也解释了为什么意识在睡眠的某些阶段会减弱，即便新皮质神经元继续处于激活状态：部分新皮质失去了相互影响的能力。
整合信息理论使一些反直觉的预测经受住了实证检验。其中一个预测是，几乎没有神经元被激活、几近沉默的新皮质也有意识体验。同时，整合信息理论促使本文作者（Tononi）和米兰大学教授马塞洛•马斯米尼（MarcelloMassimini）开发了一个评估人类意识的装置，将刺激大脑的磁性线圈与高密度的网状脑电图电极相结合——这是一种粗糙的意识测量表。该装置已被用于测定那些因脑损伤或被麻醉而无法与人沟通的病人是否具有意识。
作为一个正式的数学理论，整合信息理论可被应用于任何物理系统，不论是大脑——通过自然选择进化的结构，还是工程师设计的电子电路。正在进行的研究表明，大脑新皮质某些部分的物理结构，尤其是后脑某些部分的神经元连接方式，最适合最大化大脑固有的因果力量，即受最近状态影响以及确定其未来状态的能力，这就是它支持意识存在的本质原因。
相比之下，典型数字计算机的物理结构是绝对不够的，其中央处理单元在栅极水平上的连通性非常低，并且还存在着各类瓶颈，哪怕一丁点必要的整合都会受到阻碍。也就是说，如果用户从其输出的角度来看，一个可以实现计算和各种功能的计算机可能被认为是智能的，但鉴于其布线，计算机整体的内在因果力量与任何大脑相比都是微不足道的。即使我们以比看待晶体管和电阻之上更粗略的眼光来看待电脑，也是如此。
这里的难点是：那种内在的力量，也就是对自身产生影响的物理力量，无法被计算或模拟。它必须建立在系统的物理性质中。一个完美运行的、精确模拟人类大脑的生物物理计算机，即使包括大脑的全部860亿个神经元和数万亿突触的矩阵，仍然不具有意识。即使这台计算机连接了语音合成器，对你诉说它的假想体验，它也只不过是灵活执行运行程序的行为和功能而已。意识那颗跳动的心脏是不存在的。
●■●
整合信息理论的这一结论可以让那些希望利用数字大脑上传内容而使人类得到永生的人冷静一下。他们的愿景是，在未来的几十年里，我们将能准确地重建任何一个人的大脑回路，即所谓的神经连接体，并在适当的数字硬件上进行模拟。这个过程可能是破坏性的，因为除非将大脑切成极薄的薄片，否则很可能无法获得脑组织的超微结构。然而，在你死于某种致命的疾病之前，你可以将一个高分辨率的大脑版本上传到云端。只要云端基础设施运行良好，你的数字化幻影就将长久存在，并可以同其他数字化身互动。计算机痴迷者们的狂欢！
然而，根据整合信息理论，这种信仰是虚无缥缈的，恰如相信先知和宗教转世一样。虽然你的数字影像可能会像你一样说话和做事，但它完全是一具僵尸，没有任何体验。具有讽刺意味的是，对于现实世界中你的朋友和至亲至爱来说，你已经成功地过渡到一种精神存在形态，并会吸引他人加入你实际上并不存在的“来生”。
整合信息理论是否正确不只是学术界所关心的问题。除非发生一些全球性灾难，否则在未来几十年内，我们的社会将创造具有人类智能和行为水平的机器，它们能够理解语言并可以用多种不同语言交流，回忆过去并预见未来，想象新场景，写书、作曲，导演电影，构思新的目标，也可以移动、开车、飞行，而且可以战斗。到时候，凭借大数据的有效性、深度学习的力量以及计算的速度，离超越人类的极限也就只有一步之遥了。真正的人工智能的诞生将深刻地影响人类的未来，包括人类是否会有未来。
无论你认为与人类水平相当的人工智能会给人类开启天堂还是带来毁灭，你都必须回答一个基本问题：这些人工智能有意识吗？它们有任何自我感觉吗？还是说它们只不过是现今垃圾处理器、洗衣机或汽车的更复杂版本——超级聪明的机器，但没有感觉或感情？
这个问题的答案会影响到我们与未来机器的关系。如果你拿把锤子来到你闪亮的特斯拉前，你的朋友可能会认为你疯了，竟然要毁了这么昂贵的汽车，但毫无疑问，你有这样做的自由。但你这样对你的狗试试，警察自然会逮捕你。这是因为汽车只是达到目的的手段——在市区出行的一种方便工具；而狗本身就有它自己的目的，有一些最小的权利，因为它与我们一样具有意识。
然而，要找到正确的答案不能只凭我们的直觉。直觉或许可以临时用于西奥多•托姆布雷爱上萨曼莎的情况，但鉴于局势的严重性，我们需要引导。我们需要一个基本理论，来具体指定在某些确切条件下某特定的系统能否具有意识体验。
整合信息理论预测，运行软件的传统数字电脑的体验与我们看电影时头脑中处理视听的体验完全不可比拟。整合信息理论强调，由于智能数字助理和逼真的未来机器人是无法获得体验的，因此它们的软件可以被安全地复制、编辑、出售、盗版或删除。而且，它们可以被随意关闭、修改、销毁和更换。
但这对非传统架构不一定适用。遵循大脑的某些设计原则所制造出的特殊用途的机器包含所谓的神经形态硬件（参见本期文章《神经形态芯片的成败时刻》），在原则上可以有实质性的意识体验。关键是，逻辑门和记忆门建立了紧密联系，而且二者之间有部分高度重叠的扇入和扇出。（具有高度特异性功能的单独部分对内在因果力没有贡献）。使其大不相同的关键在于其（生物）物理性质——系统“大脑”实际上是用电线相连的——而不是其输入输出行为。
这样的神经形态机器如果有高度的自我意识，也就会有内在的权利，特别是生活和幸福的内在权利。在这种情况下，人类社会将不得不学会与自己的创造物分享世界。
作者: Christof Koch, Giulio Tononi
往期推荐
