来源：界面  Tim Rogan

20世纪的评论家更应该关注的，不是机器人有可能会取代人类，而是人类本身的去人性化。

插画：Jonathan Mchugh

随着人工智能的发展，未来的机器人是否能够复制人类的思维？针对这个问题，大多数工程师都持有一种宿命论，他们认为，人工智能发展的速度如此之快，制造出与人类难以区分的机器人只是时间问题。那么，未来的机器人是否会超越它们的创造者？行业内的一些创始者认为，这也是有可能的，而且很有可能会发生在不远的将来。人们将这场灾难称为“奇点”，预计最早会在2045年发生。

绝大多数现有的人工智能的功能和应用都很局限。它们通常以任务为中心，旨在执行或者完成某些特定的功能，比如语音识别，或者诊断黑素瘤。然而，在海量数据单元的聚合和计算机处理能力爆炸式增长的推动下，一种新型高效的设计算法技术——“机器学习”技术——正在推进这些人工智能系统取得飞速而全面的发展。目前，经过“机器学习”技术训练后的算法，在许多领域的表现都优于行业内的人类专家。事实上，专家自1956年以来就一直声称：能够模仿人类思维的通用人工智能（AGI）系统“指日可待”。早在1968年，斯坦利·库布里克的电影作品《2001太空漫遊》中就出现了具有人工智能超智慧的机器人HAL。然而，时至今日，通用人工智能系统仍然只是出现在科幻作品当中。

杰米·苏斯金德（Jamie Susskind）认为，特定功能的AI智能科技和仿人类思维的通用人工智能这两种技术的区别并不是那么重要。如果你将多个具有特定功能的AI智能集合到同一个连接当中，那么你就很有可能得到一个类似于“通用人工智能”的结果。在工程学的构想方面，这个结果在功能上与通用人工智能是难以区分的。苏斯金德还认为，像HAL这样的通用人工智能是否能够成为现实并不重要。现在我们要做的是，停止对于这种区别的争论，努力开始应对和适应这个由人工智能技术所重塑的世界。

苏斯金德相信，一种全新的存在领域正在通过某种特定人工智能系统在我们身边扩散，它们正在对我们的生活进行排序和精简。苏斯金德将这种存在领域称为“数字化的生活世界”。构建数字化的生活世界极具挑战性。工程师需要将现有世界中存在的大量规则和规范转换成精确的代码术语。但是在这个过程中，往往会丢失一些重要的东西，比方说，与规则和规范同时存在的控制张力和自由灵活度。

《2001太空漫遊》中的人工智能HAL9000   图片来源：IMDB

在现实的世界里，超速驾驶是存在可能性的。一个人可能会面临惩罚、受伤和社会谴责等风险，但是与之对应的是这个人驾驶的自由。一旦工程师将速度限制通过编码的形式写入自动驾驶汽车的程序当中，那么将不可能再出现超速行驶的问题。在这个例子当中，一项被普遍认可的规定，以AI编码的形式被正规化，从而防止违规行为的发生。对于身为作家、律师和哈佛大学伯克曼互联网与社会研究中心前研究员的苏斯金德来说，这无疑是一种对自由的削弱。它代表着对一个“充满活力和差别的珍贵世界”的“殖民统治”。

此外，在将现实世界中的规则和规范转换成代码的过程中，工程师有时会遇到一些漏洞。而填补这些漏洞的过程则将进一步限制自由。试想这样一个场景：一个小孩误闯进自动驾驶汽车的行驶路径当中，这个时候，司机是应该冒着多人死亡的风险，转而驶入对面车道以拯救这个孩子的生命，还是应该沿既定路线继续行驶呢？具有理性思维的人会以不同的方式来应对这种严峻的局面：有些人可能会倾向于保全更多人的生命；也有些人会选择保护这个孩子。在目前的情况下，即便是做出糟糕的选择，我们仍然拥有自主选择和判断的权力。然而，在数字化的生活世界里，我们所拥有的这份自由权力将被剥夺：预先编入程序的代码将代替我们做出决定。

除了使我们失去一些自由，数字化的生活世界在其构建的过程中还会产生新的权力控制形式，而这些形式将很难用我们现有的概念资源来理解和控制。比如说，这些新的权力形式将作为补充手段来规范人们日常的执法守法行为，人们会意识到，即便是细微的违法行为也会受到官方的注意，无法逃脱应得的惩罚。人工智能技术还能为政府和企业提供新的资源，通过操纵用户搜索到的新闻动态和查询结果，就可以控制用户所获取的信息内容。另外一种新型的权力控制形式也正在成型。而今，在世界各地已经存在信用评分和在线用户评论的系统，新型人工智能系统则会将人们推向一个新的极端。

在苏斯金德看来，这些对于自由的威胁是“前所未有”的，也暴露出我们目前智力资源的缺陷。苏斯金德的中心论点是：20世纪末期确立的政治理论完全不足以应对数字化生活世界当中独特的政治条件。所以，如约翰·斯图尔特·密尔的《论自由》、以赛亚·伯林的著名演说《两种自由概念》和罗伯特·诺齐克的《无政府、国家和乌托邦》等这些有关自由的著作，对于我们衡量和减弱当代人工智能科技对自由造成的威胁并没有什么借鉴意义。因为这些哲学家根本没有预见到这种新的权力、审查和感知控制形式的出现。

苏斯金德还指出，我们对于财产和民主的概念也同样过时了。如果再不对AI智能科技的认知控制加以约束，选举制度也将受到牵连。AI系统将修正我们目前所理解的民主参数。事实上，已经存在一些用来了解选民倾向的智能软件，这些软件还会进一步引导使用者进行投票。这种方式可能会继续扩大规模，甚至最终会将政治决策权移交给AI系统，声称智能系统能够比人类本身更好地了解个人利益所在。苏斯金德表示，未来极有可能会出现更为频繁而详尽的民意调查，“政府有可能每天都进行上千次的调查。”

AI甚至可能影响选举制度

我们的财产结构也将变得更加不稳定。随着科技进步，我们将同时面临失业率上升和劳动力资源缺乏的问题，而这种趋势将加剧资本的集中。一直以来，对于那些没有资本的穷人来说，工作意味着积累财富、改变命运的可能性。然而，智能自动化时代的到来导致失业问题的加剧，使得这些人只能依靠政府的补贴生活，更不太可能有什么余钱来投资自我、改变命运了。经济学家托马斯·皮克提曾经指出，资本回报率将持续高于经济成长率。这条经济规律放在苏斯金德的数字化的生活世界里，意味着富人与其他普通人之间的不平等会显著加剧。

人工智能系统解放了我们的双手，为出行带来极大便利，但与此同时，我们也失去了在旅途中驾驶的自由和乐趣。但是，这种对于所谓自由的威胁真的有像苏斯金德所说的那样“前所未有”吗？这难道不是一个世纪甚至更久以前，尼采和马克斯·韦伯所哀悼的合理化和官僚主义化进程的一种延伸吗？毫无感情和道德判断的自动驾驶汽车不会为了拯救一个孩子的生命而转向迎面而来的车流，因为基于功利主义的判断，选择一个孩子的死亡比多个成年人的死亡更为可取，这听上去不就是对韦伯所痛恨的人文精神的合理化和官僚化吗？而面对这些，我们真的需要拥有一套全新的概念资源才能进行思考和理解吗？

在数字化的生活世界里，Google和Facebook等企业巨头影响着我们的思考方式、看待事物和被人看待的方式，但是却不曾有人对这种意识和认知控制加以约束，因为我们从来没有从政治的角度来审视它们。苏斯金德认为，我们已经接受了一种非常“危险”的观念：“个人的力量微乎其微，把这种意识和认知控制背后庞大的人工智能体系当作一个真正的政治实体来严肃对待应该是国家的事。”

的确，从霍布斯开始，政治哲学的伟大传统就赋予了国家至高无上的重要性。但是有许多互补理论都丰富了我们对于国家和社会团体（例如工会和企业）与规范的市场社会之间的合作的理解。个人、政府和企业巨头之间的复杂互动，也一直是严格进行的政治经济分析过程中的关键。

对于Google和Facebook等企业为其用户提供的“数据处理”方式，苏斯金德的态度也表明了这一点。如果通过使用它们的产品所获取的信息是有价值的，那么像Google和Facebook等企业就变成了整个市场上的唯一买家，而众多的卖家必须压低数据的价格来实现自身利益的最大化。这不就是买方独家垄断吗？监管机构在这方面的调控虽然还不是很擅长，却已经拥有了丰富的经验。

《人的境况》
[美]汉娜·阿伦特 著 王寅丽 译
上海人民出版社 2017-4

公认的智慧或许对于自动化时代下更广泛的工作前景也具有启发意义。自20世纪50年代以来，对自动化持批评态度的人就认为工作的未来是至关重要的。某些批评者认为，自动化和失业问题之间并不是简单的因果关系。在《人的境况》一书中，汉娜·阿伦特指出，工作之所以变得匮乏，一部分原因在于工作无法给人带来满足感。“技艺人（Homo faber）”成为了现代社会中的成功典范，工匠、工程师或者发明家致力于打造人类的生活环境——用粘土制作酒缸，用石头搭建城市，用玻璃和钢筋建造高楼。但是“技艺人”所营造的环境已不再让人感到舒适。阿伦特所谓的“世界异化”（world-alienation）使得人工智能更像是一个陷阱，而不是一个更舒适的家园。太空竞赛展现出一种逃离的欲望：终于，“人类在地球上的监禁生活”将走向结束。而“技艺人”的新任务就是让我们离开这里。到那时，与其说自动化是工作供应量减少的驱动因素，倒不如说它是一场对于工作的大型幻灭的结果。“工作范式”之所以陷入危机，与其说是因为工作变得越来越稀缺，倒不如说是因为工作不再能带给人们带来回报和满足感。

然而，如果人类被机器人系统取代的原因在于人类本身的低迷和科技的飞速发展，那么自动化——尤其是在新型的机器学习科技推动下飞速发展的人工智能体系——将有可能扭转这一趋势，让工作再次变得充满乐趣。这些系统的发展前景，有一部分就在于，接手了数据处理这份苦差事之后，会出现一些有趣的问题，有待人类去解决。

例如，在医学领域，针对某些癌症病情的诊断算法的出现，为改进其他疗法腾出了研究和发展的时间。在时尚领域，智能系统可以通过数据搜集和分析，然后快速为客户提供购买建议，加快线上购物效率。而该系统的建立，并不是自动化取代人工销售助理，而是让员工去监管机器学习的过程，通过审查和修正输出结果来改进自动选择算法的操作。在法律领域，机器学习算法将会缩短学生用在手动编写电子邮件来处理争议相关问题的时间。到目前为止，自动化在该领域似乎并没有造成工作机会的减少，相反，自动化的发展为业内人士提供了更多回报可期的工作。在研究科学领域，机器学习科技正在显著提高数据处理的速度，将科学家从这些繁琐的工作中解放出来，进而去构想和探索具有更深远意义的科学假说：欧洲核子研究委员会（CERN）对于希格斯玻色子（Higgs boson particle）的离析就完美证实了这类科学发现的发生速度已经大大提升。

随着机器人在这些领域的使用越来越广泛，人类的工作将面临重新定向，去解决那些更能够发挥人类独特才能的任务。数十年来的合理化和去人性化将工作分解为空洞的增量，而这种情况也很有可能得到转变。最为振奋人心的AI科技（所谓的“学习见习”或者是“人在回路”体系）见证了人类在实现惊人的工程壮举方面所发挥的关键性作用。接口的稳步改进意味着编码方面的专家知识不再是这些角色的先决条件。新型的软件正在取代一些工作岗位，但是同时也在创造其他的工作岗位，那些生产线上的低级重复性工作已经由机器人接管，而人类将从事的是具有创新、建设性且有意义的工作，而这些工作反过来也可以塑造和改善人类的技巧。

并非所有人都能够最终站上机器学习创新风暴的中心，他们需要做出调整，解决复杂的问题，推动企业实现令人满意的前进和飞跃。但是，像教学、护理、看护和美容等这些看似绝对不会被自动化大潮淹没的工作，也很有可能因为它们的不可替代性而获得普遍更高的尊重。那些最有可能继续存在的工作都是机器人无法完成的，需要具备只有人类才能掌握的机智、灵巧和情商。由于功利主义长期处于支配地位，这些职业都没有得到足够的尊重和重视。而自动化的出现和发展很有可能会帮助我们重新评估这些职业，使这些职业的从业人员能够重新获得应有的尊重和报酬。

20世纪的评论家更应该关注的，不是机器人有可能会取代人类，而是人类本身的去人性化。这一点直到现在也依然值得我们关注，特别是在这样一个时刻，对这个问题的回顾和关注，将会直接引导我们对于人工智能系统及其影响做出更为积极的评价。

苏斯金德认为，特定功能的AI智能科技和通用人工智能这两种技术之间的区别并不重要。但也有人持相反的观点，认为这种区别的存在意味着两者截然不同。只要人工智能一直局限在特定应用功能和领域，而通用人工智能系统依然只存在于科幻小说当中，那么我们就有充分的理由相信，AI智能科技只会增强而不是削弱我们的人性。在达到自身能力极限的过程中，特定功能的AI智能科技将有助于提醒我们，人类的认知过程表面上看虽然平淡无奇，实则非常奇妙，令人印象深刻。

（翻译：刘桑）