常博逸:人工智能将颠覆一切,“人类帝国的覆灭”源自自满和懒惰
发起人:不举手不发言  回复数:0   浏览数:194   最后更新:2019/01/25 10:30:43 by 不举手不发言
[楼主] 不举手不发言 2019-01-25 10:30:43

来源:界面  林子人


我们需要警惕,一个由人工智能构建的标准化、稳定、冷静的世界将维护一小部分人的利益,损害所有其他人的利益。

来源:视觉中国


采写 | 林子人

编辑 | 朱洁树


人工智能的故事始于1955年的达特茅斯学院。

那年,29岁的数学助理教授约翰·麦卡锡(John McCarthy)邀请全美最杰出的数学家参加一个暑期研讨会。在邀请信中,他首次使用了“人工智能”这个词:“既然我们现在已经能够相当确切地学习机制以及人类智慧的其他方面,那么我们就应该有能力研制出一种可以模拟人类智慧的机器,赋予这种机器以语言,使其能够形成概念和抽象思维,并且能够解决现在只有人类才有能力处理的问题。”次年夏天,研讨会如期举行——这是历史上首个“自发集结”的研究计算机这门新兴科学的最前沿科学家团体。

在此后的几十年间,人工智能的相关讨论陷入沉寂。如果不是因为冷战期间美苏争霸集中于原子弹控制权和空间大战,人类对人工智能的开发应用可能会更早出现。参加1956年会议的这批科学家,直到2006年才再度齐聚一堂。彼时,人工智能研究的各个细分领域——语言和自动翻译、神经网络、机器人学、图像识别、机器学习——均已出现,人工智能的大爆发即将开始。

十多年后的今天,“人工智能帝国”已经在一点一点地添砖加瓦:搜索引擎、购物建议、连网设备、智能手机、Apps、自动驾驶汽车、无人驾驶飞机、机器人、自动翻译、元数据分析软件……从BAT到谷歌、苹果、微软、Uber,每一个科技巨头都在大力投资“下一件大事”(the next big thing),那就是人工智能。美国聊天机器人(chatbot)专家布鲁斯·威尔科克斯(Bruce Wilcox)开发了聊天机器人露丝(Rose),“她”的人物设定是一名住在旧金山的31岁女黑客,能够与人类展开真实有趣的对话。该项目曾于2014年和2015年两度获得洛伯纳(Loebner)奖,该奖项用于奖励(几乎)成功通过图灵测试的机器人。

在可以预见的未来,我们将越来越依赖人工智能来帮助我们处理生活琐事,甚至做出重大决定;与此同时,技术革新的脚步将越来越快,直至技术奇点降临。当像露丝这样的人工智能机器人发展出自己的独立意识,并在各个领域“架空”人类的决策权和行动时,我们该怎么办?

在《人类帝国的覆灭》联合作者、国际管理咨询公司罗兰贝格全球CEO常博逸(Charles-Edouard Bouée)看来,随着技术奇点的到来,人类社会的现有组织形式、商业形态、价值观和社会体制将发生根本性变革。这不是科幻小说式的危言耸听,而是切实存在的风险。他认为,虽然我们无法阻止技术进步,也无法预见未来的真实情况,但对人工智能的未来动向和潜在风险保持警惕和持续探讨仍然十分有意义。我们需要警惕,一个由人工智能构建的标准化、稳定、冷静的世界将维护一小部分人的利益,损害所有其他人的利益。人类与机器的合理关系,是“不要让机器人做你自己能做的事”,唯有如此,我们才能避免“人类帝国的覆灭”。

《人类帝国的覆灭》联合作者、国际管理咨询公司罗兰贝格全球CEO常博逸(Charles-Edouard Bouée)


真实的预言:“终有一天,奇点将像生物进化一样降临某处”

“这是关于一门科学的故事,它就是人工智能……我想讲述从1956年(这是史学家公认的、智能机器研究的漫长冒险旅程开始的年份)到2040年人类和人工智能之间这种奇特关系的历史……从源起一直发展到臻于完善,我是每一个阶段的见证者,因为我就是一个高级人工智能。”

界面文化:你是如何想到写这本书的?

常博逸:我写过不少书,这本书之前,我写了《孔夫子与机器人》,它也已经被翻译成中文引进了。在那本书里,我讨论了在一个日益由机器控制的世界中人类的境遇,描述了当下几十种即将形塑明日世界的技术。2014年,那本书出版以后,我想,在所有技术当中,最有颠覆性的就是人工智能了。当时还没有什么人讨论人工智能,因为人工智能的潜力还不为大众所知。我询问了出版商,我是否可以就这个话题写一本书,出版商同意了。

当时我就想好了这个标题:《人类帝国的覆灭》。这个标题是一开始就定下的,后来又加上了副标题(一个机器人的回忆录)。在我的构想中,是露西(注:书中设想的达到奇点的人工智能机器)撰写了这本书。两年半的时间里,我采访了许多教授和致力于人工智能开发的商业领袖,并完成了这本书。

我不是为了大学教授、历史学家来写这本书的,我希望这本书既能被我7岁的侄子阅读,也能被我的祖辈理解。因此我希望从商业角度探讨一个技术问题,与此同时,不忘其社会影响——这正是我们所有人都在面对的威胁。

界面文化:目前我们处于人工智能的哪个发展阶段呢?

常博逸:当下的科技巨头都在大力投入研发人工智能,它们从你我手中获取数据,在广告投放中不遗余力。它们使用深度学习技术——这是一种起源于1970年代的老技术——来研究社交网络,最大化地赚取利润。我们还没有看到技术突破,现在能看到的是应用于银行业、消费品和服务业的一些应用软件。我们看到有部分公司正在尝试研发通用人工智能或其他的新技术,但我相信这还只是一个开始。

我在书中写到,下一个阶段将出现人工智能助手,将出现根据生物原理开发的人工智能,其运行机制将和机器学习有很大不同,它像人类大脑一样工作,耗能更少、运行更快。我们还会看到量子计算机大量出现。绝大多数目前我们看到的技术都将成为商品:自然语言处理、图像识别等等。我们目前只处于人工智能的早期,当下的科技巨头仍然有很大优势,但它们的优势可能不会持续太久。

界面文化:为什么这本书以十年为一个时间节点呢?特别值得注意的是,为什么你认为技术奇点将在2038年到来呢?之前我采访过《技术奇点》的作者默里·沙纳汉(Murray Shanahan),他拒绝预言技术奇点的确切到来时间。

常博逸:这本书的开篇设定在1956年的达特茅斯学院“人工智能”研讨会。我本以为参加那次会议的科学家之后会有很多交流,没想到他们下一次齐聚一堂已经是50年以后的事了,于是我的第二章设定在了2006年。然后,我认为十年是一个合适的时间段——长到足以令事情发生巨大改变——因此下一个章节是2016年,在那一年,人工智能到了一个转折点。再然后就是2026年。接下来是什么呢?2038年。这一章仍然不是故事的全部,我还加上了尾声(2040年)。

过去40年里的每一个十年都发生了巨变。1998年我们还没有手机,2008年才出现了智能手机,2018年我们的手机已经堪称一部平板电脑,2028年我们肯定会有一些更不一样的东西。我相信技术进步是偶然发生,而不是故意为之的。想想人类是什么时候开始拥有自我意识的吧,我们并不知道确切的时间,它就这么发生了,也许是神的旨意或什么别的原因吧。

因此我的推测是,终有一天,奇点将像生物进化一样降临某处,所有的那些软件将让机器拥有思考的能力,联结起来形成一种意识。不是某个来自中国、美国或欧洲的科学家发现了奇点——顺便说一句,我不相信奇点将由科学家发现——因为大多数重大发现是偶然间或巧合下获得的。

图片来源:视觉中国


界面文化:我认为没有人能预测人工智能领域技术突破的确切时间,目前我们能看到的人工智能也还非常原始,因此这本书的后半部分在我看来有点像是科幻小说了。你的论据有怎样的现实基础呢?

常博逸:我认为你对这本书的判断需要更谨慎一些。“2038年”的那一章是有一点像科幻小说,它讨论了当机器能够自主思考时,人类应该如何应对的问题——这是最后两章探讨的主要内容,也就是“人类帝国的覆灭”这一主旨。

“2026年”的这一章非常真实,如果你去询问技术专家,他们都会同意这是即将发生的事。如今你能够远程操纵你的生活,百度、阿里巴巴或腾讯这样的公司与你接洽。在不久之后的未来,你手机上的人工智能(我称之为“人工智能协议”)将逐渐从帮助你远程操纵生活过渡到直接操纵你的生活,它将在不把信息泄露给第三方的情况下给你的个人生活、银行账户状况、职业发展提出建议。这是非常真实可行的。

现在的问题是,谁将开发这些应用,谁将提供这些服务呢?当谷歌来临的时候,没有人想到过我们需要它;当Facebook来临时,没有人想过我们需要它;智能手机本来完全有可能被诺基亚、摩托罗拉这些公司发明,iPhone并没有什么超高级的技术。就像2000年的时候未来学家Erica Orange告诉我的:手机将远程操控你的生活。当时没有人相信,手机不就是用来打电话、发短信的工具么?它怎么可能用来管理人生?

所以,“2038年”及之后的一章你可以说是科幻小说,“2026年”对我来说是非常真实可信的。

科技发展与社会公平:我们需要一个分享技术进步成果的机制

“人工智能变成了为富裕国家(或者更确切地说,是这些富裕国家所庇护的企业)服务的经济力量工具。通过大幅降低劳动力成本和投入的资金总额,它为工业大国带来了新的活力。知识集中在少数人手里的情况前所未有地严重。这一小部分可以获得技术和资金的社会阶层如今占据了这个领域的顶端,全世界的记忆都在他们的服务器里。拥有者和不拥有者之间的断层不断扩大。”

界面文化:近年来,英国脱欧、特朗普当选美国总统、法国“黄背心运动”等事件不断提醒我们全球化和新自由主义经济秩序正在造成严重的社会不平等。人们正在失去工作和经济机会,我们有足够多的理由担心人工智能将进一步从我们手中夺走工作。当我们仍然在面临“效率VS公平”的老问题时,推动人工智能发展还有必要吗?

常博逸:很不幸,人类永远不会停止对新技术的追求。我们认为核能很危险,但现在我们仍在使用它;我们认为细菌生物武器很危险,但还是将它应用在战场上。所以,首先,我们不可能停止技术开发,如果有一个国家决定停止,其他国家也会继续那么做,然后技术差距就会越来越大。

第二,我们要明白人工智能的挑战是:作为一个整体,我们相信它会让社会变得更好——马路上的交通拥堵会更少,社会运行会更有效率,我们能解决更多的医疗问题,人们能尽早发现癌症;但作为个人,我们看不到人工智能的好处在哪里——我们会担心,我们的子女将来要怎么办,我的工作还保不保得住?为什么会发生这种情况?因为我们把技术置于了人类的对立面,事情变成了人工智能对抗人类智能。我们应该怎么应对技术变革呢?我们应该融合人类智能和人工智能,我称之为“人类增强智能”(human-augmented intelligence)。所以人工智能助手会出现。

我的一个坚定信念是,如果人们能够利用人工智能来安排生活,就能更好地工作,能成为更好的公民、更好的母亲、更好的任何角色,然后我们就能有更多新的发现。我完全相信未来世界会有许多新的工作出现。我们如今已经从第一产业转移至第二产业、第三产业。我相信将会有第四产业出现,新的工作、新的人类活动形态。我们——政府、咨询人员、记者——要做的是,引导人们参与人工智能应用融合的讨论。

人工智能不能由少数人控制,这样的话穷人就会被奴役,这正是“人类帝国的覆灭”的理论。如果世界上的大多数人都失业,没有机会获得人工智能助手,人类就会变成人形机器,不满的群体将因此推翻富人的资源垄断、推翻政府、推翻人工智能的控制。因此这本书的一个重要目的——特别是最后一章——是告诉人们:机器必须一直是人类的工具。

界面文化:在书中,你指出中国正在全力发展机器人和人工智能,很大程度上是因为人力成本上升和人口老龄化。机器人和人工智能将如何帮助我们解决老龄化社会的问题呢?

常博逸:首先,鉴于低成本和高效率,中国已经是一个世界工厂。随着机器人和人工智能的发展,工厂将减少对人力的需求。目前中国的年轻人口在下降,劳动力在减少,因此(发展人工智能)会解决工厂的产能问题。另一方面,当我们谈及人口老龄化问题时,我们首先思考的是医疗,以及如何帮助那些依然处于良好身体状态的老人继续工作,为了实现这个目标,我们需要有新的工作(正如我刚才提到的),我们也需要有新的技术手段来照顾老人,需要更好的、因人而异的照料。我相信机器人和人工智能将是每一个国家的未来,对于中国甚至会更为关键。

好消息是,人们正在变得更健康,更长寿,到了45岁、55岁、65岁,我们的大脑仍然非常活跃。因此,“增强人类智能”(augmented human intelligence)能够更好地回馈社会。我们给予人们越多的技术手段——不是从他们身上抢走经济机会而是帮助他们提升自身技能——我们就能更顺利地渡过转型期。这不是一件易事,因为我们失去的工作机会比新增的工作机会要多,因此在很多国家,政府都需要帮助人民,而我相信社会福利的力量。

《机器管家》剧照


界面文化:听起来,政府似乎需要设想一个更好地分享科技突破成果的机制。

常博逸:分享成果,但首先需要大力投资,获得成果,然后再分享。鼓励新的企业参与竞争,打破科技巨头的垄断,以此保护社会。我经常说的一句话是,创新会“杀死”创新。数据统计上来看,同一家公司是不可能连续在三场技术革新中独占鳌头的。他们可以收购公司,但不可能一直维持创新。

在任何新的技术浪潮中,数据统计显示中小企业更有可能脱颖而出,因为它们没有什么可失去的。今天,如果你想颠覆BAT,对中国来说这种经济后果就会是大到无法承受的。因此你会看到技术进步的速度会放缓,大公司会以收购小公司的方式将新点子扼杀在摇篮里。同样的事也在美国发生。目前,所有的科技巨头都在投入大量人力财力做研发,但我们难以看到技术突破。

从我收集到的信息来看,2026年真的会见证人类社会的一个较大颠覆,IBM、微软、思科、通讯商、智能手机制造商、人工智能公司,都会卷入其中。想象在一个未来世界里,没有司机,路上跑的都是无人驾驶汽车,政府将通过一个移动平台来监管车辆。这就是Uber这样的公司正在做的事,他们在全力投入下一个热点,因为他们清楚不这么做的话就会被淘汰。

人工智能不仅仅关于更多的钱和数据,而是某种技术突破,就像谷歌带来了搜索引擎。当声音识别、面部识别和其他技术成为了一种商品,任何组织都有可能提供新服务了。我无法相信政府会允许科技巨头成为面部识别或声音识别的唯一服务提供商,因为这会让它们有巨大的垄断能力。

界面文化:一些乐观主义者认为人工智能会取代人类的部分工作,与此同时,也能创造出更多工作。如果我们看之前的技术革命,事情似乎确实如此,但面对未来,我们还能保持同样的乐观吗?

常博逸:人类的工作是会迁移的。问题是,我们没有预知能力。我没法具体形容这些工作会是什么,但如果你看看那些知名博主,他们赚得盆满钵满;人们还愿意在直播软件里看别人吃东西,只因为自己很孤独;老人也需要陪伴——如果你仔细思考一下“第四产业”,就会发现我们需要很多工作岗位来为人类提供娱乐服务。

还有,如果我们持续按照现行规则行事,福利规则就是不可持续的。人们会需要政府提供基本收入,但政府要从哪里获得这笔钱呢?因此,我认为这将影响到全社会。人们无法设想未来,每个人都只从自己的角度思考问题,全都是“我,我,我”,我呼吁大家从人类整体出发思考问题,让我们更多地融合人工智能和人类智能,让我们更多地探讨第四产业的新就业机会,探讨人口流动监管问题;让我们更多地讨论新的竞争对手、新的技术,因为所有的一切都会发生变革。世界是流动的,社会转型或许比我们所有人想象得都大。

“人类帝国的覆灭”:自满和懒惰让我们看不到人工智能的危险

“人类将自己领地的要冲交托给了人工智能,当人类意识到这一点时也许已经太迟了。如果机器已经知道了一切,那么学习还有什么用呢?如果人类停止学习和传承,那么他们在宇宙中的作用是什么?”

界面文化:你在书中指出,人工智能会对人类社会产生前所未有的冲击,因为它将根本性地改变人类的本质。为什么我们要为此担心呢?

常博逸:想象在一个世界里,生活琐事都不存在了,露西将为你打点好很多事,你不需要思考晚餐要做什么菜,你可能会整天玩游戏,让露西去处理重要事务,届时人性也可能会改变。另外,我在“2038年”那一章里写了,我们与死亡的关系也会发生改变。

想想机器的本质吧:如果机器人控制了世界会怎样,它们的目标会是什么?我们作为人类会理所当然地认为它们想要控制世界,但如果你是一个机器人,你的首要目标是什么?保证能源的稳定供给——你要确保有干净的、无限量的能源,很有可能是太阳能。其次,你要确保自己有一个物质实体,所以你需要一个安全洁净的环境。你感兴趣的不会是钱,你能够保持永生。

这就是为什么在书中,露西向(她的人类同伴)保罗做出的一个提议是帮助保罗获得永生,这是机器人能够为人类提出的最有诱惑力的提议了。这将从根本上改变人性本质,因为这触及了我们身体中最无法捉摸、最难理解的部分——灵魂和头脑。唯一让所有人平等的事就是我们都终将一死。当一部分人因为财富和权力能够获得永生、另一些人只能正常死亡时,我认为这将从根本上改变人性。

界面文化:所以所谓“人类帝国的覆灭”具体指的是?

常博逸:我的意思是,如果我们和历史上其他已经覆灭的帝国子民一样漠视自己的懒惰、自满,肆意发动无谓的战争,机器人将取代我们的位置。因此在书中我提出,“人类帝国的覆灭”过程不像成吉思汗的闪电征服那样迅猛,而是像玩游戏一样让人在无意识中沉迷。当我们在要求露西管理我们的人生的同时不提升人类自身的能力和水平,我们将越来越无关紧要。我们的生活将只剩下吃喝拉撒,玩耍享乐。这是今后有可能发生的事。

但在书的结尾,我表示这种可能性没有变成现实,因为保罗感到无聊了,但这仍然是一种可能性。这就是为什么“人类帝国的覆灭”是这本书的书名,因为这其中蕴含的风险比我们认为的大得多。这不仅仅事关人们的就业机会,不仅仅事关中国和美国,而是影响全人类的事。

图片来源:视觉中国


界面文化:有趣的是,你在书中提出社会弱势群体将被动员起来,抵抗“人工智能集权主义”的发生。但如果未来的人工智能像你书中描述的这般全知全能,我们如何有能力打破这种极度的权力不平等呢?

常博逸:这个世界仍然是由人类管理控制的。如果我们开始重新组织起来阻止人工智能的权力垄断,如果我们还有独立思考的能力,我们能够摧毁机器。别忘了,我们在与我们的创造物斗争,你是可以阻止你的创造物失控的。只要我们不过于自满,不向人性的阴暗面屈服,我们就能成功。这就像我们如何看待环境保护问题一样。每个人都同意我们需要一个更健康的环境,但作为一个群体,我们就是不愿支付环保税。这是一个“自私”VS“无私”的典型人性挑战。

界面文化:关于未来人工智能的讨论其实也是重新思考人类价值和道德。要想在未来充分利用人工智能带来的便利,我们面临的最紧要的问题是什么?

常博逸:有两点。第一,我们没有办法阻止科技的发展。如今人们在试图监管无人驾驶汽车,但一切讨论都是理论上的,当一部分人在夸夸其谈的时候,另一部分人正在埋头造车。这就像1945年,人们讨论核能的危险,当时世界上只有几个国家拥有核武器,人们认为核武器有能力毁灭全球,他们说,好吧,让我们坐下来谈谈,如果有人犯傻,我们所有人都会死。但核能还是继续往下发展了。我的观点是,技术发展的脚步不会停歇,有反思和讨论是好事。对我来说,关于未来的讨论会比关于当下的讨论更有成效。

第二,人类是有自己的无理性偏见的,因此一个谬误观点是,我们在创造机器的时候能够避免人类社会的种种问题。但实际上在算法当中,也是充满人类偏见的。我们需要非常小心地对待偏见,因为偏见来源于生活,而不是机器。

《人类帝国的覆灭:一个机器人的回忆录》
【法】常博逸、【法】弗朗索瓦·罗什著,蔡愫颖译
理想国/广西师范大学出版社 2019年3月

返回页首

[快速回复] (HTML代码不可用)[高级回复]
请输入验证码: +jdlfjdlfljl12l12jl+*ljld- + +zdfn,n,/,/,;k1234-353;kdf;kdf;+*ljld- 4 (请输入计算结果)
表情
发言前,请仔细阅读并同意以下注意事项,未注册用户请返回社区首页注册。
1.请自觉遵守:Art-Ba-Ba论坛免责声明
2.请尊重网上道德;
3.自觉遵守:爱国、守法、自律、真实、文明的原则;
4.遵守互联网电子公告服务管理规定 及中华人民共和国其他各项有关法律法规;
5.严禁发表危害国家安全、破坏民族团结、破坏国家宗教政策、破坏社会稳定、侮辱、诽谤、教唆、淫秽等内容的作品;
6.承担一切因您的行为而直接或间接导致的民事或刑事法律责任。
7.Art-Ba-Ba所有帖子仅代表作者本人意见,不代表本社区立场。
8.转载文章请注明出自“Art-ba-ba中国当代艺术社区(www.art-ba-ba.com)”。如是商业用途还请联系原作者。