人工智能的兑现:噪音、阴影与失落的机器
发起人:动次大次动次大次  回复数:0   浏览数:158   最后更新:2021/09/06 11:48:42 by 动次大次动次大次
[楼主] 动次大次动次大次 2021-09-06 11:48:42

来源:Art Ba Ba  汪嫣然


Tonoptik,《本能》,2021,互动装置 ©艺术家

文 / 汪嫣然


汪嫣然,从事艺术评论写作与翻译,现为复旦大学艺术哲学系博士候选人。研究方向为二十世纪法国哲学、媒介哲学及数字美学。

图片致谢新时线媒体艺术中心(CAC)、作者


“人工智能”这个概念自1956年在达特茅斯会议上首度被公开提出,六十多年来,它历经波折,经历了八十年代寒冬以后在近年来重拾生机。然而,无论是以符号主义(symbolism)为代表的第一波AI浪潮,还是以联结主义(connectionism)为代表的第二波浪潮,我们所认识的人工智能范式主要是基于其建立在其与人类认知逻辑、感知智能之间的同构关系上的,而较少地考虑脱离人类已有的知识和经验来理解人工智能。譬如,商业AI的预测性功能已经规模性地应用于各种场景中(天气、医疗、物流等等);而在各路主流的科幻小说及电影叙事中,AI或作为人类增强主义的辅助工具出现(多见于超人类主义想象),或被过度想象为某种能力凌驾于人类之上的崇高主体(就其激起的敬畏和恐惧而言)。以上对AI的主流理解无外乎植根于技术的伺服-机械模式(servo-mechanic mode)抑或其逆转版本。而新时线媒体艺术中心(CAC)近期举办的展览《人工智能的兑现:卑弃》本体论和认识论的层面上重新对人工智能进行定位,在当前兴起的去人类中心主义思潮之下去思考何为人工智能的本质,在主流理性主义叙事的光照边缘,打捞阴影中失落的“卑贱物”(the abject),试图还原人工智能的真正的他异性(alterity)


“人工智能的兑现:卑弃”展览现场,新时线媒体艺术中心(CAC),2021


//

主体 (subject),

客体 (object),

卑贱物 (abject)


就客体而言,卑贱物只有一个品质——与我对抗的品质……卑贱物从根本上说就是一个被排斥物,它把我拉向意义崩塌的地方……卑贱物处在外部,被流放在它似乎不知道规则的游戏整体之外。不过就这种流放而言,卑贱物不断藐视它的主人。


(克里斯蒂娃,《恐怖的权力:论卑贱》,第2页)


展览主题《人工智能的兑现:卑弃》(AI Delivered: The Abject)首先将我们的视线引向了“卑弃”(abject)这个稍显陌异的词汇。法国结构主义哲学家、精神分析学家朱莉娅·克里斯蒂娃(Julia Kristeva)在其著作《恐怖的权力》中曾对这个词进行过探究(它的中文译名有时也被处理为“卑贱”、“贱斥”)。就其构词法而言,前缀Ab-意为“远离”,而词根ject源自拉丁文jacere,意为推开、抛掷——正是这个动作划定了西方形而上学体系的开端:主体(subject)与客体(object)的诞生。相较之下,卑贱物则与“远离”有关,它既非主体也非客体,往往是不当的、不洁的和无秩序的,排泄物、废物、尸体都被克里斯蒂娃归入“卑贱物”的范畴。然而主体和结构却要依赖于卑贱物的存在和界限划分才能反过来定义自身,因为主体正是运用了排斥那些消亡的力量的能力从而让自己得以保存。从这种意义上而言,卑贱物是一种“不洁”的他者,是主体在象征界的秩序确立伊始即被逐出的堕落之物,但其作为一种必要的剩余,却与此在的主体构成了一种矛盾的张力关系。


在精神分析的视域下,高度规范化的主体是在特定的意识形态系统中经过反复操练的结果。但在这个过程中,主体常常作出越轨或者逃逸之举,尔后不断在规范化体系内得以矫正和规训。在人工智能的深度学习领域,人类大脑的运行逻辑则是机器去反复模拟、操练的“规范”。这种类人智能预设的依然是一种启蒙运动以来的理性主义主体范式,譬如就“强人工智能”和“弱人工智能”的划分而言,其隐含的哲学依据则是个体理性能力的发展程度。那么,摒除工程学上的意义不论,一旦悖离普罗米修斯主义式的进步叙事,“非理性”的、“脱轨”的人工智能还具备认识论上的潜力吗?在何种意义上,它被置于技术崇高(technological sublime)的语境之外,成为一种脆弱的、被流放到现实政治秩序外部的“卑贱物”?


//

噪音、信息与机器的无意识

Ken Jacobs, Tom, Tom, the Piper's Son, 115min, 1969,图片来源:Art Forum

影像静帧,截图来自Casey Rea & Jan St.Werne,Compressed Cinema,2021


艺术家凯西·雷亚斯(Casey Reas)与杨·圣沃纳(Jan St.Werner)合作的视频声音装置《压缩电影》(Compressed Cinema)使用了GAN(生成对抗网络)算法,创建了关于高噪点图像与噪音的连续数据流,展现了一种具有去蔽之势的迷幻力量。其底本来源是肯·雅各布(Ken Jacob)创作于1969年的实验电影《汤姆,汤姆,吹笛人的儿子》(Tom, Tom, the Piper’s Son)。该电影经过二次摄影和剪辑,将1905年的同名短片从8分钟扩展至115分钟。雅各布通过分离和放大细节,使源图像失去可识别性并获得不同程度的抽象特质,体现了媒介自身的美学特性,引发了观众对感知本身作为一种价值和审美体验的认识。按照柏拉图的摹仿—再现理论,艺术是理念世界摹本的摹本。那么,从1905年版到1969版再到《压缩电影》的嬗变历程,实际上展现了一个摹本的持续自我迭代的过程,其中外部世界及原始电影的参照点不断地消失,这与主宰西方艺术史的再现性(representational)视觉传统发生了鲜明而深刻的决裂。


《压缩电影》将近两小时的1969版电影重新提炼成一部不到10分钟的作品,这需要从训练算法模型开始,提取现有电影中的每一帧画面,它们被以不同方式裁剪从而创建一组更为异构的图像作为原始训练数据。如果说1969版瓦解了原始版本的叙事性和再现性,但仍执迷于人类感知的延伸;那么《压缩电影》进一步将焦点从人类感知模式转移到非人类感知模式上。因为神经网络算法模型的训练是基于样本的细部特征而非对实体属性的认知,并不像人类视觉系统那样将某物识别为“桌子”或“猫”。GAN在训练期间合并各种图样和纹理,以统计学的方式将它们聚合成连贯的图像,而这种模糊的、充斥着粗颗粒的图像流对我们来说显得如此扭曲、光怪陆离而梦幻,并不具备肉眼层面的可辨别性。这种持续而纯粹的流变之力恰似德勒兹所说的情动力(affect),宣告着视觉分析模式的瓦解,转而让我们关注图像生成之力本身的动静、强弱和快慢,带来了一种异质的、黑洞的时间体验,非人类主体(机器)的知觉经验的过程性维度在此得以绽出。当神经网络算法被设计为模仿生物的作用过程,计算机系统里所发生的实际上与人类自身完全不同;机器的细微而强大的感知能力往往远远超出人类机体的感知阈值。由此观之,机器所教导和赠予我们的,何尝不是一种幽暗的知识?

凯西·雷亚斯 & 杨·圣沃纳,《压缩影院 —— 无题5(不是现在。不是,不是。)》,2020,HD影像


信息论中的“噪音”(noise)往往被看作是妨碍信息接收的因素,媒介的失真扭曲、信息转化产生的语义模糊都可归为此类。但在黑特·史特耶尔(Hito Steyerl)看来,“将噪音从信息中清除的社会—政治算法是什么?重点在于政治而不是算法。”(Hito Steyerl,2014)那么,超越这种人为建构的政治划分,对于机器而言,噪音-信息的二分法仍旧成立吗?在前文所提到的《压缩电影》中,噪音体现为图像再现性意涵的背弃;而在贺子珂的双屏装置作品《电子梦:我们将如此继续》 中,噪音体现了对逻辑一致性的偏离,广泛分布于机器训练语料的未被清洗的脏数据中。该作品运用了自然语言处理(NLP)技术,从网络上随机抓取了主流英语国际新闻,对其进行在线翻译,获取声音并在中文网站进行图片联想。在这个过程中,匹配错误时有发生,原始信源的意义逐渐稀释、解体,我们从机器的“意识”之域步入了更加晦暗、本质而不可解的“潜意识”之域。噪音作为某种“败坏的力量”,具备着暗黑的能动性,它不正是一种被象征秩序所排斥在外的卑贱物吗?正是“随机性”、“不可确定性”让人工智能脱离了决定论范式,为我们开辟了一种反技术浪漫主义、偏离工具理性价值轨道的新美学。

贺子珂,《电子梦:我们将如此继续》,2018,网页程序,有声


//

机器认识论:理解机器经验


美国哲学家保罗·汉弗莱斯(Paul Humphreys)曾指出计算科学的本质特征之一,就是计算过程在认识论上的不透明性(epistemic opacity)。因为在复杂的计算过程中,计算机所做的每一个步骤不可能完全被人类追踪,这与传统的有限的数学证明和逻辑推理方式有着本质区别(Paul Humphreys,2009)。这个问题在机器的深度学习领域中体现得尤为突出:鉴于深度神经网络的运作方式,第一层神经元(输入层)和最后一层(输出层)之间分布着若干隐藏的神经层,这些层中包含大量节点和连接,它们往往遵循着人类无法解释的模式,或者与输入输出层之间并不存在明显的联系,因而导致了我们对神经网络工作的方式和原因所知甚少。这常常被人诟病为人工智能算法的“黑箱模式”,其决策机制宛如人类心理机制一般具有不可解释性。不过,倘若遵循一种非人类中心主义式的认知方式,“人工智能的算法建模并非一种解释的手段,而是以同样新的、复杂的计算方式构建新的、复杂的世界”(Fazi,2020)。这在一定程度上为机器的自主性赋予了形而上学动力。


不过,装置《新主义?!感知》却试图将脆弱的神经网络的逻辑架构直接暴露在来访者的目光之下,虽然不可避免地具有简化性和推测性,但仍可被视为一种对“黑箱”的去神秘化尝试。该机器的音频齿轮箱上密布着数十个插头,可再现人工神经网络的内部工作原理。在机器的顶部,系统使用LED面板不断地反刍自己的新主义诗句。任何人都可以通过直接在机器上拔、插和纵横交错的插孔电缆暴力地干预人工神经突触,从而实时解构、重构甚至破坏系统的生成能力,观察其对生成的文本即时的影响。

索非安·奥德里 & 伊什特万·康特(又名蒙笛·坎茨恩),《新主义?!感知》,2018,人工反智能机器

索非安·奥德里 & 伊什特万·康特(又名蒙笛·坎茨恩),《新主义?!感知》,2018,互动装置,Eastern Bloc艺术中心(蒙特利尔,加拿大)。摄影:安娜·利亚罗瓦亚 ©艺术家


如果说人工智能深度学习的基础是人类的认知及感知模式,那么逆其道而行之——当人类智能揣度机器智能的运作机制时——会产生怎样的后果?艺术家劳伦·李·麦卡锡(Lauren Lee McCarth)在以自身名字命名的作品《劳伦》中试图扮演智能家居亚马逊Alexa的人类版本,她在后台负责预测、照料参与者的日常需求,以体验人工智能的感知模式,深入理解了自动化未来的前景、人工智能和监控系统背后的道德困境。这一方面隐含了对人工智能背后的新自由主义式的意识形态利益的批判:“监视资本主义”(Surveillance Capitalism)通过无处不在的自动化设施占有数据资产,建立了一种新的权力形式。它将重新分配隐私权,剥夺大多数人的隐私权将权力集中在监视资本家手里。(Zuboff Shoshan,2015);另一方面,劳伦略为笨拙而慌张的表演所透露出的不合时宜的温情,不禁让人揣度艺术家的意图也许并非止步于揭示“算法的肮脏秘密”。实际上,劳伦通过智能家居设备的经验亲密地探索了人与技术设施之间的伦理边界问题:人类与非人类智能“相互控制”又“彼此开放”。

劳伦·李·麦卡锡,《劳伦》,2017,表演,软件,影像


人—机关系中的互动性维度,挑战了西方知识生产传统中的主体/客体二分法。机器知觉和人类知觉之间产生的反馈回路,同样在另外两件作品中得到了呈现。展厅入口处摆放的是俄罗斯艺术家Tonoptik的作品《本能》,这件高度敏感的装置展演了一种人—机之间的对抗状态:它与观众彼此构成了潜在的威胁,相互吸引又相互防备。装置通过闪烁刺眼的灯光进行自我防御,致使旁人远离它。它通过神经网络学习所获得的关于灯光和声音对参与者距离的影响的数据将再次被用作训练模型的材料,同时一步步影响人们进行自卫的方式。而具有原住民背景的艺术家组合德文·荣博格与凯特(Devin Ronneberg & Kite)所创作的多媒体装置《发烧梦》,利用了激光雷达——一种遥感技术,其中不可见的激光脉冲测量距离——来检测访客身体的存在:视频由各式各样的电影、电视和社交媒体镜头组成,报道着阴谋论、超自然现象和外星目击事件,而字幕则由人工智能从反殖民文学作品中择取、重新编写而成。作品随着访客的接近程度的推移而切换画面和台词,小心翼翼地暗中伺探着人类。这两件作品揭示了人—机关系中长久以来被忽视的维度:一种非剥削性、非伺服性的共存关系是否具有可行性?人类是时候放弃对“高等智能”的优越性抱有的执念了,放弃旧的零和博弈式的政治秩序,视自己为宇宙系统的一部分,与一切非人类他者处于共同演化的动态平衡关系之中。

Tonoptik,《本能》,2021,强化学习算法交互灯光与声音装置


戴文·荣伯格 & 凯特,《发烧梦》,2021,交互式多媒体装置


//

与他者共存:行星生态学


“后人类….没有定义新的人类状况,而是提供了一个光谱,通过它我们可以捕捉到正在进行的主体形成过程的复杂性。换句话说,它可以对权力和话语进行更微妙、更复杂的分析。”

(Braidotti,2018)


AI研究者本·梅德洛克(Ben Medlock)声称目前的人工智能应该不再被理解为一个仿生学意义上的大脑概念,因为细胞——而不是大脑——才是智能的真正开端。“每台机器都是一个独立的自我,有自己的经验、记忆、决策方法。”(Ben Medlock,2017)或许,在后人类思潮的光照之下,有关AI的另一个具有泛灵论倾向的争议性定义可以被适当地重新考虑:“即把AI看作一般性的智能科学。它的目标是为了提供一个系统性理论,该理论既可以解释意向性的一般范畴,也可以以此为基础解释各种不同的心理能力。它不仅要包括地球上各种生物的心理,而且可能要包括全部可能存在的心灵。”(Margaret A. Boden,1996)比起关注人工智能在拟合人类意识之路上取得的进展, 我们应当特别去注意一个问题,即如何去考量不同形式的智能(人类和非人类)之间的关系,并探索这些智能如何在不同的环境中结合在一起。对于人工智能如何演化以及在未来人类如何与人工智能共生这类问题,不妨放置在一个怀特海意义上的实体之间相互联系的有机宇宙之中予以考虑,其中人类智能、人工智能、其他的有机智能形式都处于本体论上的平等地位,共享着这个星球。


女性主义哲学家对此提供了诸多洞见:唐娜·哈拉维(Donna Haraway)的“制造亲缘”(making kin)的概念拓宽了我们对他者智能本质的认识,并在共同创造过程中考虑了多物种和跨物种相互作用的想法;凯瑟琳·海尔斯(N. Katherine Hayles)则认同认知科学中有关分布式认知系统(distributed cognitive system)的论述:在此系统中,认知主体的思考与认知便由人类和非人类因素(机器、环境)共同决策,共同完成(N.Katherine Hayles,1999)。于是地球及宇宙已经演化为一个政治舞台,在这种行星生态学的视野中,从前的“自然文化”业已演化成“媒体”(Parikka, 2015)以及“跨媒体”实践(King, 2011),人工—自然的分立不复存在,“自然”的概念亟需被重新定义。


参考文献


[1] 茱莉亚·克里斯蒂娃. 恐怖的权力—论卑贱[M]. 张新木译,北京:商务印书馆,2018

[2] Mendelson, L and Simon, B. (1971). Tom, Tom, the Piper's Son, Art forum.Volume X, Number 1: Special Film Issue,46-53.

[3] Steyerl, H. (2014). “Proxy Politics: Signal and Noise.” e-flux Journal 60. Accessed December, 2014. http://www.e-flux.com/journal/60/61045/proxy-politics-signal-and-noise/

[4] Humphreys, P. (2009). The Philosophical Novelty of Computer Simulation Methods. Synthese, 169(3), 615-626.

[5] Fazi, M. B. (2020). Beyond Human: Deep Learning, Explainability and Representation. Theory, Culture & Society,1-23.

[6] Zuboff, S. (2015). Big other: Surveillance Capitalism and the Prospects of an Information Civilization. Journal of Information Technology, 30(1), 75–89.

[7] Braidotti, R. (2019). A Theoretical Framework for the Critical Posthumanities. Theory, Culture & Society, 36(6), 31–61.

[8] Boden, M. A. (1996). The philosophy of artificial life. Oxford: Oxford University Press

[9] Medlock, B. (2017). The body is the missing link for truly intelligent machines. Aeon, March 14. https://aeon.co/ideas/the-body-is-the-missing-link-for-truly-intelligent-machines

[10] Haraway, D. J. (2016). Staying with the Trouble:Making Kin in the Chthulucene. Durham: Duke University Press.

[11] Hayles, N K. (1999). How We Became Posthuman: Virtual Bodies in Cybernetics, Literature, and Informatics. Chicago: The University of Chicago Press.

[12] Parikka, J. (2015). A Geology of Media. Minneapolis: University of Minnesota Press.

[13] King, K. (2011). Networked Reenactments: Stories Transdisciplinary Knowledges Tell. Durham: Duke University Press.

返回页首