斯蒂格勒 | 人类世中的人工愚蠢和人工智能
发起人:理论车间  回复数:0   浏览数:252   最后更新:2018/11/27 12:05:23 by 理论车间
[楼主] 理论车间 2018-11-27 12:05:23

来源:艺术-小说 贝尔纳·斯蒂格勒


[摘要] 智能一般而言是那一引导行动的东西。一旦智能变成人工的,一旦它被人工制品粘吸,它就能产生一种人工愚蠢。人工愚蠢就是那一一味地加速熵增的东西。但人工智能也能为将熵增最小化、增加逆熵和反熵作出贡献。斯蒂格勒这个演讲正面逼问凯文.凯利所代表的人工智能界所忽略的一点:智能是社会性的,是跨个人化之中的个人的社会能力。何谓心智?它是用来与体外化造成的败坏后果作斗争的东西,但也总是由此而造成了另外的体外化过程。心智式智能是人的智能,是人工智能无法模仿和跟踪上的。


对那些想要精确地分析我们这里所说的、似乎将成为我们的日常生活的视野的人工智能这种东西到底是由什么构成的人而言,他们必须从下面这一假设出发:所有的心智式智能(noetic intelligence)都是人工的。那就是说,也会有非心智式的智能。


而这就意味着,一般而言,心智式生命是智能得很特别的,也就是说,它是用到人工制品后得到的智能。

而我要说,的确存在着非心智式的智能的,既有杜尚意义上的非心智式智能,也有维尔农(Jean-Pierre Vernant)说的“急智”意义上的非心智式智能。

而且,也有凯文·凯利在某一篇文章中讲的意义上的非心智式智能。这篇文章将种种生命形式,不论它们是什么,都当成是智能的形式,后者在三十亿年左右前开始进化得不一样了。而这样说,就又与凯利说的超-智能的神话相反了,也与笛卡尔说的相反了:这是在提出:生命永远不只是机械式的--这里我们也就有必要评论一下康吉莱姆写的《机器和有机物(Machine et organisme)》了。

这里,在其各种“自然”或“人工”的形式下的智能,而且我更愿意说,有机的或器官式形式下的生命(我一会儿马上要来敲定这个说法),是对某个目标或目的的完成。这一目标并不必然如瓦艾拉(Francisco Varela)演示的那样,是有意识的再现。瓦艾拉嘲笑这类太“再现”的假设。但进入有意识的再现,却是、原则上是心智式智能必然要做的事,这相当于说,它这才有能力进入海德格尔说的“(事情)本身”--海德格尔自己也是一个对再现的形而上学的解构者。

总的来说,智能,不论它是心智式的,还是非心智式的,是一个用来引导行为的东西:正是它构成了生气/动能/动画(animation),亚里士多德在一个文本(《论灵魂》)里说,植物式、感知式和心智式灵魂,是带有智能的,是他所说的“不动的第一推动者”,而作为灵魂的智能首要地是运动,也就是说,是自然,phusis。

为了最终精确地区分(不对立它们)智能的有机物(植物性的和感知性)的形式和智能的器官性(心智式的)形式,我们还须回看亚里士多德所不知道的东西,也就是过去大约三百万年上下发生在人身上的事儿,也就是出现于大约四万年前那一心智式智能,巴塔耶正是从这一心智式智能中认出了他自己。他说,我们人类正是从这儿开始的,这是足够的证据,那些画出这些动物的人,就是我们的祖先,是我们的原父,而能够确认这一证据,也正是这一心智本身的重大特征(我们自己知道了自己是人)。巴塔耶在《拉斯科洞穴或艺术的诞生》里的下面这段话就很切合我们今天的主题:

我们终于可以说,是“拉斯科人”确切地、第一次做出了艺术作品。显然,他们是与我们相像的法文版,14页)。

*

巴塔耶在书中还将说到,这一作品中的智能,是游戏的智能—因为时间的关系,我就不往这个方向上说了,但我们必须根本地去理解:要作出心智式想象,那是需要什么样的东西来做底座的(明年我会在中国美术学院讲这个)。

说罢这个, 我们就能理解为什么今天我们所说的人工智能是对心智本身的体外化过程的继续,就能理解为什么它首先要从编造体外化(从手制物品到对大数据的收集)开始,而且也能理解为什么它是对短记忆式体外化的继续,而我们正是通过它而进入对记忆和想象的活过的经验,而后者是从作品中游戏的根源处就开始积累的,而在巴塔耶看来,正是后者造成了书写、观察工具、莱布尼茨为之定下的原则的那些计算机器和而后出现第一架机器和文化工业的源头处的那些模拟式技术--它们在后-真相时代中的作用,从未如此突显—正是这一切,正是书写、望远镜、计算机、文化工业的教育灌输所需的模拟式技术,造成了康德所说的人的诸官能(它们是更低的,也就是说只是心智的功能)的不断的、技术式的进化--这一图景只是局部和偏限的。而那些高级官能,构成了我们所说的大学系科的那些官能,则总是处于冲突之中。

为什么会出现这种冲突?这是因为有心智的短记忆式支撑的体外化进化(exosomatic evolutions of the hypomnesic supports of noesis),而这是会产生紧张冲突的--这种紧张既可以是心智的,也可以是社会性的。


Two years ago in Nanjing, I tried to show (andI will come back to this next year) that what Kant called the lower faculties –intuition, understanding, imagination and reason, which are put to work by thehigher faculties that are the faculties of knowing, desiring and judging – are functionsthat are produced through the process of their exteriorization, which Hegel wasalready able to see, but without truly seeing it. It is Marx who will be thefirst to understand what will then be reformulated by Lotka from a biologicalstandpoint, and by coining a new term: exosomatization, or more precisely,exosomatic evolution


我两年前在南京大学(我明年还将继续做下去)努力证明,康德所说的低级官能--直觉、理解、想象和理性,是由那些由认知、欲望和判断这样的高级官能来使用的。这些低级官能是通过其外化过程来生产的,黑格尔已懂得这一外化过程了,只是他没有真正看清:是马克思最早看清,后来在二十世纪四十年代由美国生物学家洛特卡(Alfred Lotka)从生物学的角度重新说出,并锻造出一个新名词,来点明:体外化或更精确地说,体外化式进化和体外化器官。这里,身体的智能通过其增补过程而被生产,使经验的外化变得可能,也使我所说的(套用胡塞尔的词汇)集体第二存留变得可能:那是被个人的记忆集体地存留下来的东西,形成人们所说的知识,也使知识能够从一代传到下一代,正是这样的知识使生命的条件被保持在亚稳态。这时,生命的条件才是负熵式的,也就是说,是与人类行为的必然的熵增效应作斗争的。

于是,在人类世中,正如互联网经济大会在2012年的分析所称的人类发源式的强迫下,我们发现,人类行为根本地威胁着生命,尤其影响着心智式生命,那种值得心智式灵魂去经历的生命,整体地不协调,正如那一大会的声明的15364年签名者所宣称。

*

正是在这一上下文中,在人类世的结尾处--我们所说的那种科学所到达的终结处,也应该就是我们人类的终结处--,终于出现了作为日常生活的平常现实的人工智能。

那么,在我们时代里的称作人工智能的东西,这种涉及网架化、无处不在的、将人类行为流加以管理的过程的大部分的自动化、根本地影响着不光各种形式的交换而且也影响着生产模式、因而也改造了消费的功能的高密计算的技术的功能,到底是什么 ?

今天,人们所说的人工智能并不在那些梅西(Macy)会议(协商)的视野之内,因此,这一计划可以说是在达特茅斯由明斯基与香农、诺维尔、西蒙等人形成的。

这是一种网架式的人工智能(AI),基于赫伦施米特(Clarisse Herrenschmidt)所说的网架书写之上。这种网架书写是与那一由35亿的个人形成的网络、一种体外化圈式(exosphérique)的装置接通的,而这一体外化圈是时时都在进化的,而且是依赖于这种在布拉顿(Benjamin Bratton)在《堆栈》中所称的“平台资本主义”的经济系统来不断进化的,而正是后者使对数码现象的生产和剥削成为可能。

我们在这里能够这么来说数码现象,首先还要拜维纳(NorbertWiener)在1948年提出的控制论,和他对控制论在社会中运用的后果的担忧所赐:他不安于控制论可能会导向他所说的法西斯国家。人会退化到白蚁的状态这一可能性,是隐藏在人会放弃知识这一点之后的—而人的知识,是人与熵作斗争的途径。

这一可能性的存在表明:控制论式的体外化会造成工业式的人工愚蠢(industrial artificial stupidity),这是今天我在这里要向大家提出的一个导向性问题。

智能一旦成为人工的,也就是说,一旦智能是被人工制品推动,或使人工制品可能,借助于梦的惊人的官能(而根据古人类学家阿则马(Marc Azéma),这是人类存在的根本特性:他提出,所有动物都做梦,但只有人是要实现他们所做的梦的--做梦的能力在这里应被理解成实现梦的能力,而后者就是瓦雷里(Paul Valéry)所说的心智智能),智能就会造成人工愚蠢:由此造成的作为药罐的人工制品,会导致人的退化和自我毁灭。

人工愚蠢揭示了阿尔弗森和斯宾塞(Alvesson,Spencer)在一篇后来成了一本书的著名论文中所说的功能性愚蠢--而这种功能性愚蠢也同样造成了谢朴(TijmanShep)所描述的社交性装酷(social cooling),而这又被朴夫尔兹(John Pfaltz)描述为网络中的熵值的增加--因而,这一人工愚蠢同样也是生产谎言、陷阱的技术。

但我们也应该在这里说得更远一些,来说说在音乐中制造出错失或事故的必要性,就如IRCAM(Institut de Rechercheet Coordination Acoustique/Musique,斯蒂格勒在其中担任五年主任--译者注)的软件出现之后的情况。这个软件只能生产出“准确”的音--比如说在《魔笛》中的《夜之女王》这一咏叹调中的情况--因而,这样生产出来的“音乐”就很不靠谱,或者说,仍处在那些交易软件之中--这就提出了时机(vertus,美德)问题和不完美的必要性的问题,在这儿就是逆熵的本地性的问题,这里,我们应通过密尔(John Stuart Mill)的多样性之必要性的观点来思考这个问题。

人工愚蠢是一种认知溢出综合征,也就是说,是对关注的功能性的毁灭,这也曾是斯密(Adam Smith)1776年在《国富论》中担忧的问题。


*



人工愚蠢的可能性是人工智能的一种特性,而人的天然智能是不会犯愚蠢的:它只会失败,而那最终意味着死亡。我们可以来说说牛津大学的哲学家博斯特罗姆(Nick Bostrom),还可以来说说柏格森。他们都将智能与行动联系起来,凯利自己也强调:生命总的说是对智能的一系列的征服,他批评那些他认为是独特派的观点,并且强调


这些独特派所持的五个假设,细看都是没有任何证据支持的


而第一个也是最常见的假设,它

开始于那个对于天然智性的共同的误解。这一误解把智能看作是一个独特的层面。大多数技术人士都像博斯特罗姆在他的《超智能》NickBostrom《Artificial Super Intelligence(ASI)》中那样地来图解智能,将它弄成是直板的、单向度的、线性地不断充实的图样。底端是比如说一个小动物的低级智能;另一端则是高级智能,比如说一个天才的智能――几乎像用分贝来定音量那样地来定智能。


.....鱼进化成爬行动物,然后爬到了脯乳动物,一直爬到灵长类动物,而进入人类,后一种比前一种更进化一点(当然也就更聪明一点)。所以,智能的梯层与存在的梯层并行。但这两个模型都提供了一个完全不科学的眼光。

  物种自然进化的一个更准确的图表,是像我们现在看到的那种向外放射的圆盘(图片)

这个圆盘最先由德克萨斯大学的David Hillis设计,基于DNA结构的。……每一个物种都经历了三十亿年的成功的繁殖的不中断的链,这意味着,细菌和蟑螂在今天是与人一样进化得高级的


不过在这一“曼陀罗”中,我们有必要引入生物学家洛特卡的眼光:“天然”智能变成“人工”智能后,也就出现了天然智能自身的愚蠢的可能性,正如汤因比所强调,作为体内器官发源(l'organogenèse endosomatique)的构型发源,是在外面的湿纤维中去继续存活的,是作为体外器官源发(exorganogenèse)去这么存活的,这一点不光产生了能改造运动路径的体外器官,如石斧,如弓和箭,快到能每小时移动350公里,以及今天的火箭,能快到摆脱重力--每小时两万八千公里。

这都是这一能力在这个方向上的继续发展,而正是这些才打开了这些体外化的空间。但除上以外,这结体外化器官也积累了心理上的存留,成为集体存留,构成巴特拉(Roger Bartra)所说的“体外脑(exocerebrum)”。

而这被波普尔称作第三个世界和客观知识。

这第三个世界也是我所说的短记忆式第三存留,不光由体外化器官构成,而且也是由洛特卡演示给我们看的存留式积累构成,它们是直生论式的(orthogénétiques),也就是说,是以非-达尔文方式地被选择的,助长了不同的可扩展秩序之间的层级关系的建立。

完全与比如说细胞、器官、身体、场地等等之间的关系不同。这里,我们本来有必要过一下涂尔干的那一研究图腾主义的书,由于时间关系,我就简化了。


which is also the ladder dreamed of by Jacob,who has a primordial role in Judaeo-Christian monotheism, then becomes échelle as scale,

and technologies of scalability are at theheart of the ‘economies ofscale’

characteristic of the industrial and capitaliststage of exosomatization. In addition, platforms that utilize

and develop reticulated artificialintelligence are based on specific technologies of scalability, managingmulti-scale data ranging from infra-organicmedical ‘nanomachines’

to exospherical infrastructures capable ofhandling medical data at thescale of the technosphere.


作为梯级的层级,也是约伯的梦里的层级,在犹太-基督教的一神论中,那扮演着最重要的角色,层级成为规模,而扩展(scalabilité)技术根本地讲,就是“规模经济”的核心,带有体外化的工业和资本主义式体外化的特点。此外,那些使用和发展网架化人工智能的网络平台,就是基于这些特定的可扩展性技术,管理来从内-器官的医用“纳米机器”,到那些能够在技术圈的规模上处理医疗数据的那些体外化圈的基础结构的多层级的数据。

这就须我们精确地说明一下涂尔干从图腾分类出发向我们提出的问题:我们必须彻底重思亚里士多德和康德的范畴论的理论总体了。

生物圈是位于宇宙中的一个层级,但一旦从作为所有的形式包括语言的技术物的体外化器官,从一个量级的秩序和代理(agencements)过渡到另一个更大的量级的和代理后,生物圈也、尤其成了技术圈。而在这一技术圈之中,过去四十亿年中达到的亚稳态下的熵、逆熵和反熵之间的本地平衡,在今天已被作为药罐的体外化器官彻底打破,但是,既然是药罐,它事实上也一定能帮我们遏止熵,拖延它,将它转变成“用来活的艺术”,正如怀德海所说。而人工智能也是可被正面地用来减少熵,促进逆熵和反熵的。

这么看的话,人工愚蠢就是一味要加速熵增,而不是延异它,且要毁灭那唯一能造成积极的分枝的东西。

利用算法的分析之可能性,来拖延熵增,那是完全可能的。但这就要求我们既改造数据的结构,也要使算法为重构逆熵的、也就是说对话式地跨个人化的知识的那些慎择层面服务,使自动化也能为新的宏观经济层面上的脱自动化服务,在价值判断上必须以能否增加负熵这一功能来定义,以至于,在实际的模型中,价值的衡量标准将是:负熵与否。

在这一问题之后,还有可计算性、本地性、不可计算性和审思之间的关系问题,也就是说,有一个理解、想象和理性之间的关系的问题。我想强调的,算法构成了理解的超熵(hypertrophie),总是人工的,基于第三存留,后者是具体地作为图式论和范畴出现的。

汇合这些认识论的、技术的、工业之未来的和宏观经济的新模型的问题的,是我们正在推进中的在巴黎北郊的那个项目所要做的:它叫“共同平原”,Plaine commune。而这一宏观经济的问题,也是知识和福柯意义上的知识体、和巴士拉意义上的认识论的功能问题,这是我们努力想要在这个算法化和网架化的人工智能的时代里,从马克思在《大纲》中写的东西里去汲取最大的教训的原因。

*


我下面将要强调,在被希利斯所启发的那个凯利的模型中,我们有必要明确从自然智能向人工智能过渡所需的那些条件。我将通过向你们提出在这点上的两条补充性的看法,来结束我的演讲。

1.必须既与怀德海,也与康吉莱姆一起来思考这一过渡,比如在生物学方面,更广义地说,是在知识在技术式的生命形式中的作用这一方面。而作为一种活性功能的技术式生命形式,不只应该从生物学出发来加以思考,而且也恰恰必须将其当作不光要求生物学,而且也将康吉莱姆的那些很靠近洛特卡的关于矫正术(l’orthothèse)的很是后达尔文主义式的说法考虑进去后地来加以思考。

2.必须明确急智的问题,将它与心智区分开来:在“认知”科学的语义上说的认知,不是波普尔说的认识,也就是说,它不是关于知识的。从认知向知识的过渡假设了一种体外式的外化(exosomatic EXTERIORIZATION),和勒胡阿-古昂(Leroi-Gourhan)所说的第三记忆的构成,完全靠近波普尔所说的第三个世界。我自己是将这个称作由工具质料发源,也就是说由第三存留的积累而发源的。

凯利在下面这段话中忽略的,恰恰是这一问题:

我们身上包含多重种类的认知样式,后者能做许多类型的思考:演绎、归纳、记号推理、情感智能、空间逻辑、短期记忆和长期记忆。我们五脏内的整个神经系统也是某种类型的脑,带有自己的认知模态。我们并不只是用了一个脑思考。我们更是用很多个完整的身体来思考的。

        这些认知的组件是因人和因物种而异的

一只松鼠能记住几千只橡子的确切位置好多年,这是使人类惊叹的壮举。所以,在那一认知类型上,松鼠是完胜人类的

还有:

你的计算器是数学上的天才:谷歌的记忆在某些层面上已是我们人类自己鞭长莫及的。我们是在通过人工智能的工程化而在一些特定的模态上胜出。

但这些特定的模态只是功能而已。可是,问题不在功能上,而只在官能上--不过,我们必须从体外化的角度来理解康德提出的官能这一概念。

须知,官能是社会性的,而不只是心理的,而康德的《官能(系科)的冲突》整本书都在讲这个。

说到这里,我们就须读一下(IgnaceMeyerson),不过请将他放到维尔农一起来读。

凯利接着说,

在未来,我们将发明出并不存在于我们人类身上、也并不存在于生物学上讲的任何地方的新的认知模态。发明人工飞行时,我们是受到飞行的生物模态的鼓舞,主要是受翅膀的拍动的启发。但是,我们所发明的飞行--将推进器绑到很宽的固定的翅膀上--却是在我们这个生物世界里未知的新的飞行模态。

在这里,凯利精当地描述了体外化过程,但是,他没有看到巴塔耶在沉思旧石器晚期的那些艺术作品的出现过程时说的那些话。

“用机器击败人类”,这也是体外化的目标本身。为什么我们要造汽车--或弓和箭—如果这些体外化器官比人慢的话 ?而这里的焦点却在心智的功能性上。

那么,说了半天,何谓心智 ?那是用来与体外化造成的败坏后果作斗争的东西,但也总是由此而造成了另外的体外化过程。


但这不只涉及体外化有机体的体外化,而是也涉及自从人化(hominisation)以来的我们:它涉及社会的组织。而后者是复杂的有机体,是由我们所是的简单的体外化有机体构成,然后形成社会群体,存在得比个人存在的时间长得多,所有的文明都是这样形成的。

而这样的复杂的体外化有机物却会因大规模地人化而最后崩塌,历史上从来没有像在今天那样,与这样的药式倾向作斗争,成了政治的首要任务。

*

凯利终于强调,“图灵机”和“丘吉尔-图灵假设”中有一种欺骗:


没有一种计算机有无限的记忆和时间的。当你在真实世界里操作时,真实时间会造成巨大的差异,经常是生或死之间的差异。是的,所有思考都是对等的,如果你忽视了时间的话。

但是,这也就是说,这里就出现了时间层级--在出现空间也就是

速度的层级的同时。凯利说,

唯一具有思考的对等模态的方式,是使计算机在对等的基底上运行。......去得到一种非常像人的思考过程的方式,是像人那样在湿纤维上运行计算。

可要知道,与人类的有机纤维也就是说人类身体相关的,是人与死之间的关系,而这一关系不光只位于身体之中,而且精确地说,也是位于我所说的心智式的死生物物质(nécromasse noétique)之中,也就是说,是位于波普尔说的第三个世界之中,比方说,是位于像都柏林的三一学院的图书馆那样的东西之中的。它是自己主动将自己整体迁移到新的基底上的,在思考过心智的体外化的新时代之诸多条件的总体后,我们自身就必须根本性地由新的机构来构成,否则就不能避免崩塌。

没有一种思想会与另一种思想思想得一样,这就是我们的重大赌注或挑战了:反-熵式分枝才是那一能够超越计算的东西--而问题就在于计算的功能和它在负熵区内也就是本地化场地上的局限性,与此同时,计算的普遍化和由此导致的在这一或那一本地区域的总体化,会毁坏本地性--而这一本地性正是生物圈本身。关于它与宇宙的关系,1926年,弗纳斯基(Vernadsky)所提出的“生物圈”概念向我们打开了新的问题面向。(陆兴华译;根据最后的英文稿重新校订)


金锋工作室编辑

返回页首

[快速回复] (HTML代码不可用)[高级回复]
请输入验证码: +jdlfjdlfljl12l12jl+*ljld- + +zdfn,n,/,/,;k1234-353;kdf;kdf;+*ljld- 4 (请输入计算结果)
表情
发言前,请仔细阅读并同意以下注意事项,未注册用户请返回社区首页注册。
1.请自觉遵守:Art-Ba-Ba论坛免责声明
2.请尊重网上道德;
3.自觉遵守:爱国、守法、自律、真实、文明的原则;
4.遵守互联网电子公告服务管理规定 及中华人民共和国其他各项有关法律法规;
5.严禁发表危害国家安全、破坏民族团结、破坏国家宗教政策、破坏社会稳定、侮辱、诽谤、教唆、淫秽等内容的作品;
6.承担一切因您的行为而直接或间接导致的民事或刑事法律责任。
7.Art-Ba-Ba所有帖子仅代表作者本人意见,不代表本社区立场。
8.转载文章请注明出自“Art-ba-ba中国当代艺术社区(www.art-ba-ba.com)”。如是商业用途还请联系原作者。