e-flux X KADIST:解读的方式 | “人格” 可否挽救企业化的人工智能?
发起人:另存为  回复数:0   浏览数:118   最后更新:2021/04/01 11:43:19 by 另存为
[楼主] 另存为 2021-04-01 11:43:19

来源:卡蒂斯特KADIST


2019年5月18日时代广场电子显示屏起火,图片来自Mia_TheBlesse


2020年2月卡蒂斯特与e-flux合作举行论坛《解读的方式》通过演讲和表演为观众呈现跨领域的(包括城市管理、考古学、地理学、地质学等)艺术家和学者的观点。论坛集中讨论信息的形式如何描述、指定、组织和误传现实,以及信息和数据分析如何成为强有力却又不完整的工具。我们近期正在陆续发布我们编译的部分演讲原稿,记录当前艺术和思想领域的前沿思考。此次发布的讲稿来自詹姆斯·布莱德尔(James Bridle)的《人工智能和非人类智能》。

詹姆斯·布莱德尔

詹姆斯·布莱德尔是一位工作和生活在伦敦的艺术家、作家和出版商。他发明了“新美学”(New Aesthetic)这个术语,该术语探讨数码和网络世界如何触及到物理和线下的空间,其中涉及***和侦查寻求政治避难者的装置。2018年,他出版了《新黑暗时代》,该书探讨科技,知识和未来的结局。


詹姆斯·布莱德尔:人工智能和非人类智能


在思考人工智能的时候,我更感兴趣的是人工智能这个概念。我们在谈论这个东西的时候,我们究竟认为它是什么?为什么它会让人觉得有些怪异,尤其是,为什么它会在世界上产生很多奇怪的效应?


我们不妨从当下常见的,尤其是大众意识中的人工智能的魅力之处开始谈起,譬如AlphaGo,它是DeepMind和谷歌联合开发的机器,目的是赢得比赛以及永远能够解开围棋棋局。因为机器已经在之前的国际象棋比赛中击败过人类,所以我们认为解决棋局是更为重要的目标。

图: AlphaGo与李世乭的比赛中被称为“神之一手”的白78手,图片来源:https://en.wikipedia.org/wiki/AlphaGo_versus_Lee_Sedol


这个实体在过去几年中的出现和兴起非常有趣。击败了韩国围棋大师李世乭(Lee Sedol)之后,AlphaGo在网络上引发了广泛讨论。它曾在30天内进行了50场对决,将大师们逐一击溃。大众对此的反应非常有意思,因为你不断听到有人说,“这就像看外星人下棋一样”。就连DeepMind的创始人戴密斯·哈萨比斯(Demis Hassabis)也说,AlphaGo的招式仿佛来自异次元。

图: 戴密斯·哈萨比斯(左)在2014年于伦敦举办的Wired大会上


它们的这种异世界特质是源于一种与新颖智能形式相遇所带来的的深度陌生感,这从下棋的过程中就可以感受到。仅仅在游戏的结构中,就可以看出有一些很不一样的东西正在影响人类的的思考方式。这就是与这样的东西(可能还不是人工智能本身,我之后会提到这个问题)交手时会有的最初感受。它的首要特质就是异常的,仿佛来自异世界的。所以我们对这种新型的人工智能最初的想法就是,它会和人类智慧有着根本上的不同。这就迫使我们去追问,它将会成为怎样的智能?坦白说,目前的迹象并不乐观。一方面,我们看到人工智能让我们的历史种族主义和经济不平等中最糟糕的部分实体化、自动化,甚至赋权,我相信今天其他的讲者也会讨论这些问题。另一方面,像AlphaGo这样的软件具体化了一种贪婪、侵略性、榨取主义的权力攫取。我们有意构建的这个系统先是在我们的兴趣爱好上打败我们,然后基本会轻而易举地取代我们。我们在一项很快会超越我们、打败我们、取代我们的科技上投入大量努力,这到底是怎么回事?


无独有偶,另一个例子是在全世界最美的地方之一,希腊北部的佩拉(Pella)。那里风景如画,山川湖泊美不胜收,可惜我是去那里调查石油和天然气的勘探。原因自不必说,希腊有大片的土地被卖掉,为的就是在地下找到油气。在那次旅程中,我遇到了一件奇怪的事。当时我走在森林里,紧挨着一个位于山脚的美丽湖泊,我走着走着,看到每十米、二十米就有一根木棍插在地上。实际上,这样的木棍形成的网络覆盖了上百平方公里的土地。它们是油气勘探的测量标记。当时身处森林中的我拿出手机搜索相关信息,发现这场勘探背后主导的公司叫Repsol(西班牙国家石油公司),是一间很大的西班牙能源公司,相当于西班牙的美孚。他们的官网有提到一些科技公司。

图:希腊北部佩拉的油气勘探的木棍

图:Repsol网页截图


这是因为Repsol和IBM、谷歌分别建立了长达数十年的合作关系,明确地将机器学习应用于石油和天然气勘探。他们开发了新的系统来评估新发现,计算它们的经济价值。我站在森林里看着这上的这些桩子,感受到它们仿佛是人工智能的牙印,是这个东西轧过时留下的真实的车辙时,一种诡异的感觉油然而生。


如果你平时和痴迷人工智能、超级智能、技术奇点概念,或者是经常讨论复杂计算系统的极速增长的人来往,你会发现他们喜欢聊的话题之一是曲别针假说。

图:曲别针


曲别针假说描述的是AI发展中可能出现的最坏情形。如果你不了解的话,我简要介绍一下:


如果你造了一台智能机器,告诉它你想要制造曲别针,让它负责管理一个曲别针工厂。但如果你没有把控制它的规则写的足够仔细谨慎,它可能会超越其参数设置。一开始,它会制造很多曲别针,然后逐渐让整个过程更为高效或是重组工厂,接下来它会涉入金融系统,更好地管理供应商,表现的越来越好。接着它开始进入采矿业,它会利用任何可用的材料来制造更多的曲别针。这个过程会一直持续下去,直到它成为一个无敌的AI,试图把整个世界,包括我们和其它所有生命,都变成曲别针。它将继续扩张直到地球荒芜,所有东西都变成曲别针,最后它会用太空火箭把自己发射到其他星球,把它们也变成曲别针。因为这个AI只有一个目标,所以它会尽可能以最高效的方法完成目标,它不关心其他的东西,也不知道它们的价值。这就是关于AI恐惧的怪诞梦魇,听起来确实很傻。然而,当你意识到AI要的不是曲别针,而是石油,而且它越来越清楚可以在哪儿找到它,你就不会觉得这个假想愚蠢了。AI会不择手段地获取石油,不放过地球上最后的野生环境,不惜使大气中充满二氧化碳。


所以当我们讨论AI时,我们常常想知道,会不会其实根本不存在AI?AI是真实的吗?这个时候我通常会说这个不好笑的笑话:我们已经拥有AI了。它存在,它就是企业财团们。它们是综合的、由复杂网络构建出的庞大存在,有传感器和效应器。它们能读懂这个世界并在其中做一些事情。他们以利益和官司的形式对愉悦和痛苦作出反应。它们很难被杀死,但并非完全不可能。像刚刚的曲别针故事所传达的一样,它们完全以目标为导向,为了目标不择手段。AI已经在此,它们就是企业财团。


我在佩拉得到的可怕领悟就是,这就是我们正在拥有的人工智能,它看起来就是企业财团。这就是我们正在建立的人工智能模型,它就是侵略性的、贪婪的、榨取主义的,对我们和其他事物毫不关心。我觉得同样有意思的是,我们一方面在用人工智能做这些可怕的事情,与此同时,我们却刚开始意识到另外一些一直存在,却在西方常常被忽视的智能形式。因为从历史上来看,我们对智能的唯一定义是和人类的行为相关的。这是我们的基线,不论其他说法怎么看。智能等于人类做的事情。这就意味着,我们很难在其他非人的存在上辨认出智能。


关于这一点,我最喜欢的例子就是我们用来试验其它动物是否具有智能的方法,以及这些方法饶有兴味的失败之处。比如,我们有很长一段时间认为,至少类人猿应该是有智慧的。它们和我们足够亲近,看起来也相似。我们相信它们的某些行为或许说明它们是智慧的,于是我们用测试儿童的各种方法来测试它们。但在这些测试中,长臂猿一直是个例外。

图:长臂猿


所以,大猩猩、黑猩猩、红毛猩猩和我们一样都通过了测试,但长臂猿因为没有通过测试,所以很长一段时间都被认为不聪明。直到有人发现,所有经典的智力测试对长臂猿都不起作用,因为它们是完全不一样的物种。比如,测试之一是在笼子外面放一些食物,实验人员会递给笼内的测试对象一根棍子,大猩猩、黑猩猩、红毛猩猩都立刻用棍子去够食物,把它们拖进笼内。但长臂猿不这么做,所以大家就觉得它们不够聪明,直到有人指出,这是因为长臂猿是臂跃动物。它们整天在树上荡来荡去,有着完全不同的身体知觉,所以当研究人员把棍子从笼子顶部伸进去时,它们立刻就作出反应。在那一瞬间,长臂猿才能够以我们认知的方式成为了具有智慧的生物。也就是,所谓的智能只是存在于我们人类对它的认知中。


这个例子中使用的测试方法显然很可笑,我们也在慢慢学习如何进步。时下最受关注的智能生物,大家或许在最近几年耳闻不少,就是章鱼,有很多关于它的著述。我觉得其中最重要的一个观点是,章鱼的确聪明,但也很诡异。它们有大脑,有神经元,形态和我们非常相似。但它的大脑遍布整个身体,神经元也似乎以不同的方式相互连接,一直延伸到触腕上。或许章鱼的触腕是以某种奇怪的联结大脑的方式独立行动的,这非常迷人。但重点是,尽管章鱼和我们的神经结构有相似之处,其实我们和章鱼在四十万年前共享同一个祖先,也可能是百万年前,那是一种生活在海底的又小又盲的扁形虫。


虽然自扁形虫之后,人类和章鱼的进化历程完全不同,但我们都有着像啫喱一样的球状眼睛。我们也都拥有神经结构,头足纲动物和人类有着非常相似的眼睛。事实上,头足纲动物的眼睛甚至更胜一筹,它们的神经联结更佳,所以不像我们有盲点。人类与章鱼的大脑和眼睛的类似结构意味着,虽然两者进化过程是分开的,但这种平行的进化说明章鱼和我们一样,也拥有某种形式的智能,但在感知和运行上有着结构性的不同。我们曾想当然的以为我们高居智能之树顶端,其他物种依次向下排序,这很有可能是非常荒谬的。事实上,智能更像是一棵开花的树,不同的智能形式以不同的方式出现,没有高低之分。这个比喻很棒,但也过于简单。如果我们真的要讨论智能是如何以不同的有趣方式出现并在这个世界上运作的,我们会涉及更多更为奇怪的东西。


譬如植物智能,或是细菌。我们的体重约有2公斤是肠道内的菌群,有很多物种一直和与我们共生,影响着我们自身的智能。我们和体内的很多物种已经处于某种共生、智能的关系。再比如,我们可以讨论更广泛的智能系统——生态系统,通过这些角度,我们开始以新的方式看待这个世界。


去年,我有幸在苏珊娜·西马德(Suzanne Simard)博士的带领下参观了温哥华郊外的一处原始森林。她是植物方面首屈一指的专家,尤其精通树和树之间的交流。她向我们解释了植物之间如何不仅只是分享养分,而且还能通过地下网络分享信息,在其他物种,尤其是菌类的调节下,树和其他植物的根相互联结。这种网络叫做菌根网络(mycorrhizal networks),这既可以是一种协作网络,也可能是敌对网络。树根、菌、不同的物种通过地下网络相遇、交流、共享营养物质,关系十分复杂。科学家们开始称这一整个人类刚开始了解的跨物种交流的网络为“木维网”(借鉴“万维网”一词——译注)。我认为有趣的地方在于,其实这种网络并非最近才发现的,相关描述可以追溯到19世纪。我知道这期间我们的确花费了很长时间弄明白它们具体是什么,虽然它们已经存在了很久,但我们对于它们究竟是什么的认识是在科学家们掌握了关于网络和信息理论的语汇之后,也就是在计算机网络和互联网发展后,才逐渐建立起来的。

图:温哥华郊外的一处原始森林


有时候,我们似乎只能够在建立了相应的技术比喻之后才能看到世界中的某些事物。菌根网络就是在我们理解了相关的技术类比,建立了关于网络和关系的语汇,能够描述它们的时候,才变得对我们有意义。所以,在这种情况下,技术给我们提供的是看到其他存在和认知方式、其他智能形式的途径。对我而言,这意味着不论AI是实在的现实或是一个文化概念,它的出现所产生的效应、原因,甚至是目的之一就是作为更广泛地承认非人智能的一个渠道。


相应地,我们或许会希望这意味着新的社会和政治形式能够出现,众所周知,面对我我们当前所处的政治形势,特别是在环境问题上,我们迫切需要这些形式上的改革创新。为了解决这些问题,我们无疑需要超越我们当前的形式,积极了解那些对我们来说才刚刚浮现的其他度量、存在和认知的形式。比如,我想到了研究植物行为的科学家莫妮卡·加利亚诺(Monica Gagliano)的研究,她在论文中指出,植物是拥有记忆的,植物也能够听见,它们会对各种刺激做出反应,我们以前对此完全不了解。它们拥有不同类型的能动性,而这些能动性都是我们常常认为与智能相关的。

图:莫妮卡·加利亚诺所研究的含羞草


加利亚诺还提到,植物会帮助她设计实验,她从植物那里学到如何做出引向这些结论的实验。通过借鉴萨满教以及其他非传统科学方法中对植物人格(personhood)的认识和思考,她能够在科学语汇中生产新的知识,在此之前,这些认知方法不但不可知,也无法描述。这些研究让我对与非人类智能相关的新的社会和政治论述充满希望。另外,我觉得有必要解释一下我用“人格”而非“智能”这个词的原因。我认为到目前为止,我们所讨论的智能并不是它真正的意义所在,我们所讨论的这个概念过于狭隘,过于个人,过于阶层性,沾染了过多我们对它已有的观念和偏见。与此相对的,人格这个词强调的是非人的他者的现实性、存在和能动性,与任何我们可能想要施加的具体标准或阶层性质无关。人格就是存在。人格意味着非人的他者也是主体而非客体,我们并不能决定它们是否符合某特定层级,也就是说,它们的存在因此得到承认。最关键的是,人格是关系性的,它不只是由你脑袋中的东西组成,比如智慧,而是由我们双方共同组成,就像阿兰·沃茨(Alan Watts)会说的,我们都朝向彼此。它由双方对彼此的存在、正当性和人格的认可构成。它存在于这种关系当中。


我还想到人类学家爱德华多·维韦罗斯·德·卡斯特罗(Eduardo Viveiros de Castro)关于亚马逊以及在那里演化出的人格之间的关系性的著作,还有对作为行动者(actor)的非人所具备的政治、社会及其它形式上的正当性的认可。卡斯特罗曾写道,“要使棍棒和石头成为社会意义上的行动者,只需要在这些无生命的物体周围有人类能动者。”因为我们是在这里将彼此人格化,当你认出对方时,你就会看到共同成为(becoming together)带来的所有不可思议的可能性。正如格雷厄姆·哈维(Graham Harvey)所说的,我们明白人类的能动性和意图性影响着在文化上被使用的物件,使它们成为主体。通过我们与它们之间互相的存在,我们的开放性以及对它们的认知,我们将它们转化为主体。


我一开始提出的问题是,我们正在开发却又对其抱以消极看法的人工智能到底是什么形式的?在我看来,其他形式是可能的,其中一种理解它们的方法就是借助“人格”这个概念。因为AlphaGo之类的形式所提出的问题是,我们会有真正的人工智能吗?我们现在是没有的,都只是计算机而已,但它提出了可能有真正的智能存在。我们在这之中追问的到底是什么?如果说人工智能就是人工“人”,那么说人工“人”存在到底意味着什么?说到底,它意味的是非人类的人,像我刚才说过的,我们已经准备好接受非人之人的正当性。那么,我们也必须接受非人类机器中出现的人格。所以,要建立一个总体的、广泛的、包含所有作为正当的人的非-人格形式的光谱,就是要绕开现有的企业人工智能形式和不同的企业、国家及政治控制形式这才能为形成新的社会和政治关系提供现实基础,这也是我认为我们在处理一些当下最为庞杂的社会、经济、环境问题时所采取方法的关键所在。


致谢本文翻译:冯优 (You Feng)

该讲稿由詹姆斯·布莱德尔授权发布

返回页首