深度智能化时代算法认知的伦理与政治审视

文/段伟文

我们正在走向深度智能化时代。所谓深度智能化，不仅意味着对事物的自动化认知和控制，更令人本身成为机器智能运用算法加以认知与操控的对象。在人们惊叹智能算法强大力量的同时，也带来了大数据杀熟、算法歧视、“智能监测”等隐蔽而普遍存在的问题。当前，有关算法的伦理和法律研究与实践备受瞩目，但大多未能深入探究智能算法这一全新机器控制方式的认知机制，更未看到算法认知对我们生活于其中的无远弗届的技术社会系统的基础性影响。我们认为对智能算法的研究应进一步剖析算法认知过程与认知生态系统，系统地审视由此导致的伦理与政治结构的嬗变，为深度智能化时代的治理奠定更加扎实和更具前瞻性的理论基础。

算法的观念可以追溯至人类文明早期举行仪式和解决问题的程序化方法。当前数据驱动的算法认知的观念源于科学革命以来现代性建构进程中对“计算理性”和“量化社会”的追寻。在科技与经济等主流话语中，算法一般被视为抽象的用于认知和决策的数学程序或模型，或可以通过对数据的计算与学习提取知识和指导行动的技术。

什么是算法？从语义上讲，算法在当代的含义多指一组旨在达成某种预期的结果而展开的正式的过程或按步骤进行的程序。在词源上，一般认为算法一词来自中世纪波斯学者花拉子（Al-Khwarizmi）的名字衍生的拉丁词“algorismus”，意指使用印度—阿拉伯十进制数字进行四则运算的手动程序——而此前的罗马数字只便于做加减法。这便赋予算法以程序化数学运算的基本内涵，即能够在有限数量的步骤中产生问题的答案或解决方案的系统的数学程序或捷径。直到20世纪初，阿拉伯数字还常被称为“算法数字”（the number of algorism），它使工商业发展所需要的复杂的会计活动成为可能。换言之，算法建立在一套能有效地解决问题的编码系统之上。现代意义上的算法是计算机和数字技术的产物，指以计算和信息的方式解决问题的、可通过递归等机器自动重复执行的逻辑程序或编码系统。当前，随着大数据与人工智能的发展，人们对算法的相关讨论更多聚焦于数据驱动的机器学习算法。

实际上，正如法国数学家让-吕克·夏伯特（Jean-Luc Chabert）在《算法史》（1994）一书开篇所指出的那样，算法自人类文明之初就有，在人们创造一个特殊的词来描述它们之前就已经存在了。在更加凸显文化的广义算法观看来，一旦人们找到了一套解决问题的程序化方法，会很自然地将“配方”传递给他人。也就是说，不论十进制四则运算的算法还是二进制计算机的算法，都是古代算法观念的产物。因此，广义的算法原本并不局限于数学和数字技术。在所有文化中，算法都被用于预测未来，决定着医疗和美食的配方与步骤，人们曾用它确定法律要点、校正语法。也就是说，与其说数学和数字技术带来了算法，毋宁说是算法观念推动了数学和数字技术的应用。

尽管夏伯特的算法观更加强调算法的目的性及其与社会文化的相关性，但夏伯特的研究太早，没受到应有的关注。自20余年前谷歌搜索算法通过分析用户生成内容（UGC）开启这波数据驱动的智能算法应用以来，算法在科技和经济等主流话语中主要被视为抽象数学程序在数字技术前沿的应用，这使得基于算法的认知被默认为可以揭示事物的相关性的客观的“机器真理”。特别是大数据和人工智能的迅猛发展，使得具有经验主义色彩的数据驱动的智能和算法的认知功能被夸大。其追捧者相信或声称，数据可以呈现世界的一切，甚至成为比世界更真实、更直接的认知对象，通过智能算法能让数据或原始数据说话，从而揭示关于世界的所有真相与趋势。

量化社会和算法认知其实是比它所声称的客观认知复杂得多的社会工程技术，其中伴随着知识与权力的纠缠。它们与其说是基于社会事实的真理发现，毋宁说是重新安排社会事实的真理的制造，而其目的是使人和社会成为可以调控的对象和过程。透过志愿献血、服兵役的年龄限制以及各种自我健康监测应用程序，就可以看到量化社会和算法认知实际上是一种社会层面的运作，运行其中的国家计算和资本计算等“认知—权力”形塑着这样那样的本体论政治安排，构造着负载伦理价值的事实。要获得对算法认知更深入的认识，就应该转向对算法认知所安排和构建的伦理与政治结构的探究。

算法认知正在决定着我们解释与改变世界和自我的方式。例如，各种智能穿戴和量化自我的应用甚至使我们对数据的感觉成为我们自身的一部分。但在更多的情况下，算法认知所带来的是不对称的伦理与政治结构。有关亚马逊土耳其机器人等众包平台的幽灵工作以及大量以人类智能弥补机器智能不足之类的研究表明，算法认知实际上是人机共生时代全新的社会分工的统筹机制。由于算法认知将人和机器视为无差别的具有能动性（agency）的能动者（agents），使得传统的以人类为认知主体的社会嬗变为基于人机认知组合的认知生态系统和技术社会系统。由此，必然地赋予相关伦理与政治关系以新的内涵，进而决定着深度智能化时代的伦理和政治结构的变迁。

十多年前，当人脸识别技术还只是小规模计算机视觉实验研究时，人们就开始关注其可能导致的隐私保护和普遍监控等伦理、法律和政治问题。如今这项技术已能从数百万张人脸数据中学会解读微妙的情感暗示，甚至通过人脸识别发现人们之间是否具有基因关联或是否属于同一族群。这一典型案例揭示出当前科技发展与人文应对中经常遭遇的悖论：在技术变得更为强大的同时，原有的问题变得更加敏感，伦理规范和法律法规的发展速度跟不上科技创新的加速度。

这一来自现实的挑战表明，随着科技的加速创新，必须引入一种全新的思考框架对其加以审视，更具预见性地探究其对人和社会的深远影响。我们认为，为了刻画当代科技对世界和人类带来的这些全面、深刻而微妙的影响，可以用深度科技化这一动态的概念对其加以概观。由此既能凸显在纳米、信息、生命和认知等会聚科技的基础上发展出的基因、数字、神经等新兴科技的颠覆性社会影响，又有助于从科技未来与人类文明交汇的前沿视野，系统地探讨科技所主导的人类世面临的挑战与可能的出路。近年来，大数据与人工智能迅速地发展为一种泛在赋能科技，令数据和算法所驱动的深度智能化创新成为深度科技化框架下最具动能同时也最有争议的发展面向。因此，应在深度智能化的趋势性框架下展开对算法认知的前瞻性思考。

为了避免将算法认知所带来的伦理和法律争议简化为技术问题，不应仅将算法认知视为技术黑箱，而应视其为复杂的技术社会系统，以便揭示由其所引发的认知生态和认知权力结构层面的深刻嬗变。

一是世界的数据化与算法认知的生成性。在深度智能化时代，所涉及的智能应用主要是由数据和算法驱动的数字技术系统所具有的机器智能，其基本形式是基于世界的数据化的算法认知。所谓世界的数据化，即将事物和人转化为可量化、可计算的非实体的信息流或数据流，由此形成的平行数据流不仅使数据成为世界的第二属性，而且产生出数据孪生，甚至完全用数据构建虚拟现实和镜像世界——这也是当下“元宇宙”热所声称的。

在世界的数据化或数字化平台上，所有的事物和变化都将成为机器可识别的对象，算法认知由此成为一种生成性的力量。随着算法认知的日益普及，它正在成为新的验证和识别方式，甚至决定着我们活动的空间、可以遇到的人和事。这使算法正在成为深度智能化时代创造世界的方式，从而呈现为一种关于世界的价值、假设和主张的伦理与政治安排。

二是认知生态系统与算法认知对现实的制造。世界的数据化和算法认知的兴起，正在使我们星球上的认知生态系统发生颠覆性的改变：以算法认知为代表的非意识的人工智能体认知已经超越基于人的意识和主体能动性的人类认知。目前，互联网、可编程系统、跨越电磁波谱的有线和无线数据流等共同构成了全球互联的认知生态系统——认知圈，而人类社会正日益嵌入其中。在认知圈中，人类不再是这个系统中唯一的行动者或智能体，人的主体能动性只是具有更广泛联系的一般的能动性组合的一部分，而算法认知等机器认知者日益扮演着至关重要的角色。

随着普适计算、大数据和人工智能的使用，沿着法国当代哲学家德勒兹（Gilles Deleuze）的控制社会寓言所揭示的端倪，所谓的“计算制度”和“算法政治”方兴未艾。虽然算法认知改变和制造着现实，但人们往往是在没有觉察到的情况下成为数据采集和计算与认知对象的。其中所涉及的算法认知中的主体性、能动性等算法权力等问题，恰恰是对算法认知的深度伦理与政治审视的切入点。

从量化社会到算法认知的实现，始终是由权力所推动的，而其目的一般是为了产生某些方面的知识并采取相应的行动，由此提升算法认知者的行动力和智能系统的运作效率。透过以色列军事司法机构运用算法判定危险人物、乌克兰危机中人脸识别算法被用于鉴别士兵身份等案例不难看到，算法认知不仅伴随着对世界的重新安排，而且正在成为具有强力色彩和系统渗透性的权力，甚至可能形成某种智能权力场域。由此，就产生了预测机器和智能折叠等深度智能化时代值得关注的知识—权力运作现象。

一是基于算法权力的预测机器。作为一种新的机器认知与调控方式，数据驱动的智能算法试图将世界完全转化为数据，继而通过算法认知实现对世界的自动调节。随着技术的发展，这种自动调节显然不再满足于把握事实和寻求社会动态平衡，而演进为预见和控制世界的机器。算法认知不仅分析和调控着我们当下的行动，而且试图构建一个最符合其目标参数所刻画的可能性的未来。但问题是，基于过去的经验数据运行的预测机器，实际上是先通过过去的数据将世界和人的恰当表现标准化，然后以此为基础预测甚至强行构造未来。不论是预测罪犯会不会再次犯罪，还是根据数据画像预测消费者购买某种商品的可能性，算法设计的前提都是使人的行为模型标准化，从而使其可以预测和引导。为了做到这一点，无疑需要足够的数据，这便使得对人的行为数据的贪婪而持续监测正在成为一种新的技术社会文化，甚至在有些场景发展为对人的未来行为预调控的过程。

由于预测算法只根据相关性对行为可能性作出评判而不分析其原因，当其预测到某种可能发生的风险（如某人可能采取反社会行为）时，可能会先发制人。但如果凭借强大的计算能力，普遍采用这种持续的和先发制人的权力实施方法替代传统的预防治理方式，可能会使治理机制仅仅关注结果而忽视造成问题的原因，从长远看可能酝酿更大的社会风险。

二是人机认知组合下的智能折叠。综观从火神祭祀仪式到基于AI的自动化劳动等算法仪式（algorithmic rituals）的历史变迁，德国媒介哲学家帕斯奎内利（Matteo Pasquinelli）认为，在人工智能时代，尽管人们倾向于将算法视为抽象的数学在具体数据上的应用，但算法其实源于对空间、时间、劳动和社会关系加以划分的世俗需求，是社会物质实践的产物。

从困在算法里的快递小哥到隐藏在人工智能领域的数字零工等案例可以看到，算法本身正在成为深度智能化社会的认知生态系统中的制度安排——所有的人都在人机认知组合中被配置成为特定的数据驱动的智能体，进而构成某种智能折叠。对这一点的理解需要深入了解人机认知组合的具体运作过程，才可能找到探讨的线索。

人机认知组合下的智能折叠实际上回到了马克思所讨论过的自动机器时代一般智能的问题。在技术哲学和媒介哲学中，经典的观点是技术或媒介是人的延伸，但算法权力下的预测机器与智能折叠似乎意味着人正在成为机器感知的延伸，人们甚至将不得不面对机器役使和社会驯化的双重命运。

我们之所以对算法认知展开伦理与政治审视，所真正关心的是算法认知如何介入人们生活和工作层面的认知与行动。数据驱动的算法认知正在影响着我们怎么看待世界和我们自己、我们可以选择什么样的生活、希望自己成为什么样的人、可以做什么样的工作等方方面面。面对这一前所未有的挑战，无疑亟待我们对算法认知所带来的伦理与政治嬗变作出持续深入的审视与权衡，探寻更好地生活于深度智能化时代所必需的足够的智慧。

首先，在技术驱动的深度智能化时代，要学会运用技术赋予的权力构造一种可以让人们能够共处的生活方式。为此，必须寻求普通人可以接受的伦理与政治安排，在此基础上形成全新的社会契约。如果未来的社会治理会建立在数据驱动的算法认知之上，至关重要的前提是如何重新界定数据智能和智能监测在社会应用中的边界和限度。

其次，鉴于人工智能发展的开放性，有必要从恰当的技术社会想象入手，系统探讨针对人的数据分析和算法认知涉及的权利问题。其中，最为关键的问题是，谁在多大程度上拥有对人的可解读、可预测和可推断的权利。

最后，要打破技术解决主义与无摩擦的技术的隐蔽组合策略。一方面，面对智能科技的社会伦理风险，在寻求技术解决方案的同时，应立足技术社会系统等更为广阔的维度，追问和消除社会不公、认知权利不对称等深层次的肇因。另一方面，要充分揭示算法认知中经常运用的“无摩擦技术”（frictionless technology）和“技术无意识”等设计策略，使算法认知以及使其得以运作的力量得以应有的揭示，从而促进公众对科技的社会价值的理解，提升其对科技未来的想象力，使整个社会拥有面向深度智能化时代的生存智慧。