面对意识上传危机,艺术家、科幻作家和程序员作何抉择?
发起人:欧卖疙瘩  回复数:0   浏览数:517   最后更新:2017/09/15 21:23:50 by 欧卖疙瘩
[楼主] 欧卖疙瘩 2017-09-15 21:23:50

来源:界面新闻  傅适野


未来某日,意识上传技术席卷世界各地,究竟是否要引进这种尚处在萌芽时期的、不成熟的技术?艺术家、科幻作家以及程序员对此进行了一次秘密讨论。

时间们·上传之后”活动现场。图片来源:丁沁工作室

20XX年,XX国,当意识上传是一种科幻技术,该技术可以把人类脑部的所有东西,包括意识、精神、思想、记忆,上传至电脑或其他人工智能的机器上)技术开始席卷世界各地,XX国面临抉择。究竟是否要引进这种尚处在萌芽时期的、不成熟的技术?这种技术会带来哪些好处,可能的风险又是什么?如果人类的意识能够被上传,那么身体和心灵的关系是否会发生改变,虚拟和现实之间还有明确的分界线吗?

以上所有围绕意识上传的问题,都让XX国的领导者头疼不已。更加糟糕的是,传闻目前在XX国境内,已经有人开始探索意识上传技术,或者在境外远程控制,企图在XX国贩卖意识上传技术。在此危急时刻,XX国成立了意识上传紧急研究委员会,召集社会各界人士,对意识上传技术进行了一次详细的探讨。以下为此次会议的部分记录,主要涉及三种职业人对于意识上传的看法。此资料为私密资料,内部参考,禁止外部流通。

——XX国意识上传紧急研究委员会

关于艺术家、科幻作家以及程序员对于意识上传的讨论的记录

(第一次预备会议)

首先明确何为意识上传。意识上传,也叫做心灵上传(Mind uploading),或全脑仿真(Whole brain emulation),该技术可以把人类脑部的所有东西(包括意识、精神、思想、记忆)上传至计算设备(如电脑、量子计算机、人工神经网络)上。该计算设备将能够模拟大脑的运作,如原先的大脑对外界输入作出相应的反应,并拥有一个具备意识的心灵。 此技术已经在A国、Y国等国家出现,引起了不小的轰动。此次预备会议中,委员会集结了社会各界的艺术家、科幻作家以及程序员,与他们进行了深入而愉快的谈话,充分听取了他们关于意识上传技术的看法。现场发言归纳总结如下。

问题一:是否愿意将你的意识上传?

艺术家:我肯定不愿意把所有意识上传。很多人都会问我,技术会不会取代艺术。在我心中,无论技术如何发展,人脑的部分是最重要的,特别是在人文学科如艺术、文学等等领域,人的价值最重要。

科幻作家:我肯定会选择上传。因为上传之后意识和意识之间可以瞬间相互分享,交流就会变得更加顺畅。同时还有个想法,如果不仅上传还能下载就好了。上传后等于进入纯意识存在,如果还能下载,附体到别人身上,就很美妙了。

程序员:我不愿意上传,如果我们的意识上传了,谁来改bug?上传之后的世界并不一定美好,可能会放大现实中的丑恶和不公平。更严重的情况是,如果大家都上传,一个程序员在虚拟世界之外改bug是好人,制造bug去控制世界就是坏人或者坏的上帝。为了避免这种情况,我们不能上传。虚拟依赖于现实,我们都去上传了,现实发生什么不可控制,所以我认为虚拟永远是现实的衍生品,不能代替现实。

问题二:意识上传之后,意识和身体将会是什么关系?

艺术家:想想黑客帝国,人躺在水晶棺材里,只需要跟母体连线就行,所有信号不再需要通过真实感官,只需要告诉大脑:你在听,你在看。在这种情况下,买票看展览就是下载一个序列号,你就感觉自己亲临了现场。给你下载一个zip包,它在你体内打开,这其实比真实更真实。在实现数字化后,所谓物质性的东西就被抛弃了。唯一有用的就是电。电是必须的,断电就没戏了。我对黑客帝国里那个叛徒印象很深刻。他回到母体,特工请他吃牛排。当时他说,我知道这是假的,但真好吃啊,我再也不想回到现实了。你想成为叛徒回到虚拟世界还是作为英雄留在现实世界?这是一个很终极的问题。

科幻作家: 我想的是这个世界有多美好。一个不恰当的比喻——上传后等于进入阴曹地府,下载后等于转世。需要的时候才下载,有可能你会控制这个身体,有可能你只是体验一会儿。就像一个肉体在所有感官上的全频道直播,直播时互联网生态中的很多情况就会出现,比如会不会出现网上投票,要求这人打自己耳光?如果出现这种情况,这个人会作何反应?他的身体和他的意识,究竟是谁控制谁?

程序员:当你是数据的时候,活着还有什么意义?上传后,假如你是个APP,这个APP就会永存吗?系统会要你续费,没人关心你这个APP的时候,你就要下架。在那个世界,如果要延续你的存储空间,则需要获得授权。即使上传后,也永远会碰到资源瓶颈的问题,所有问题的缘起——战争、阶级——一个都不会少,很多都是换汤不换药。根子里的东西不会变。只要空间有限,你就会希望获得更多的资源和权限。

问题三:意识上传后,人类与机器将如何合作?

艺术家对此没有发表看法。

科幻作家:人和机器的关系其实很复杂,人的身体还是很弱,很多事需要机器完成;但另一方面,机器很难完成人的精细作业。比如发射一个机器人去太空只为了拧螺丝就不划算,但人就可以灵活判断。

意识上传之后,人的思维就会和机器结合在一起,这种结合恰恰可能会诞生一种新事物,它将挑衅我的神经和我所固有的东西。

程序员:人机关系会涉及这么一种场景:处在极端环境里的人选择结合和上传,以此抵抗一种未知灾难。人一定会走出地球摇篮,生命形态可能会发生变化。人类把肉体阶段称作童年,我们通过肉体接触自然、学习事物、稳定心态,以后,人肯定要通过考核才能上传,完成某种任务,比如探索宇宙。宇宙不能用肉体探索,那么探索宇宙的是人的思维或者能量态,这样的思维是很高级的形态,而不是拘泥于地球的可见光的形态。在这种任务中,人类的思维或者能量态和它的载体就变得极为重要。

目前,大脑的思维活动到底是什么原理,所有人都不知道,或者无法还原。如果我们知道了,就可能在计算机芯片上还原那个模式。另外,知道大脑如何思考,也可以在电脑上还原——建一个网络,想办法传输。通过这两种方式,人类的思维就会和机器发生关联。但两步走中有一个很可怕的事实:我们可能先造出一个可怕的AI,发生一些很不好的事。

问题四:意识上传之后可能产生的问题?

艺术家:会对艺术会造成一定的威胁。艺术中最有意思的就是创造力和未知性。如果没有未知,又创造什么呢?从事艺术最有趣的一点,就是不断挑战我们熟悉的审美习惯,剥离我们的审美舒适区,这样艺术才不断向前发展。比如在抽象绘画出现的时候,没人认为那是艺术,但现在,抽象简洁的风格成为了当代生活最重要的审美,我们用的家具和服饰等都是如此。这就是艺术对于时代审美的改变,创造力在不断编制未知的结果。

艺术上传之后,艺术的载体也很可能会发生变化,视觉、听觉这些感觉很可能失去意义。也许人们会模拟这些感知,但这总归一种怀旧,归根结底我们已经不需要这些感官了。

另外,上传这个问题不光涉及计算机,它很综合,还包括脑科学、神经心理学等。既然这是对人的优化、把人的能力增强,那么一定也包括审美和艺术的能力。意识上传之后,你们可能都成了艺术家,而艺术恰恰在于独创性。在《黑客帝国》里,如果我要下载一个东西,比如功夫或是开直升机的技能,直接手到擒来。上传后艺术不需要载体,你会瞬间在大脑里感受到对面那个艺术家的想法,他的画在你脑内瞬间呈现。人人都是艺术家,就没有艺术了。

我们还应该注意,艺术跟钱分不开,最先上传的可能还是有钱的人。上传后,所有的艺术、意识和自我会瞬间变成商品,我觉得是这样。

科幻作家:在科幻小说中,不到迫不得已,人们不会做出意识上传这个选择,就跟现在很多人冷冻自己一样,是一个完全不知道未来的做法。如果这一做法如此大地改变了生命存在的形态,那个这一新形态肯定对我们不感兴趣,就像你不会去在意鱼的世界。你不会在意你原来形态世界里的东西,反而可能会在意原来你不在意的事情。

现在你可能会在意化妆、几点出门见人,但在克拉克写小说《接弗兰肯斯坦请拨F》的时候还没见过互联网,他讲了一个长途电话的网络觉醒故事,它具有了智能,醒来第一件事就是试试自己能干什么,于是同时叫通了世界上所有的电话——这并不是人类会在意的事。科幻小说中还有另一些想法,它们讲的不是上传后的生活有多么高级,而是人的精神和物种做不到的事,是一种局限性。比如信息过载,70年代就有作品《无人之家》(Nobody’s Home),讲的是信息时代个体会产生信息过载,就像你们现在对声音的信息过载的话,要么放弃局限性,要么回到原来状态,二者不可兼得。

如果意识上传实现了,那可能会产生新的物种,而非人类本身了。冯原有一个故事叫《公鸡王子》,讲的是“阿西莫夫三定律”上传到人的大脑里,人就相信了他自己是机器人,产生了一系列复杂的现象。别的机器会不会攻击这个人呢?小说里没有答案,这已经远远超出了同情和道德,是一个认知层面的问题。是关于最后如何认定自我身份的问题,而不是道德伦理学的问题。意识上传也会遇到这个问题,刚才也没谈论到这点。上传后的东西是不是我的自我?这个问题很难解决。而这个不解决,去分析伦理道德就都没意义。

程序员: 我还是我的观点,IT工程师一定要在外面,如果各个世界不兼容,IT工程师的任务就是让他们变得兼容,否则将可能产生严重的后果。因此,回到一开始我的观点,IT人员是不能上传意识的。我们的职责是站在那个世界之外,检测和及时修复可能出现的bug,否则,那个世界将会失控,后果不堪设想。

问题五:送给未来上传后的自己的一句话?

艺术家:没什么好说的。

科幻作家:什么时候下来?

程序员:回到现实。

据悉,此次预备会议原计划在广泛进行调查的基础上进行为期一周的会议。但在艺术家、科幻作家和程序员第一天的讨论结束之后,有消息称会议全部讨论内容已遭泄露,并极有可能传到了海外。而泄密者所利用的,正是意识上传技术……

“时间们·上传之后”活动现场图
从左至右依次为 姬少亭、高鹏、吴珏辉、韩松、杨平、谭昶、李兆欣
图片来源:丁沁工作室


说明:此文的开头和结尾部分纯属虚构,部分发言内容取材自9月10日由未来事务管理局与今日美术馆合作举办的“时间们·上传之后”主题论坛。论坛由未来局局长姬少亭主持,嘉宾包括今日美术馆馆长高鹏、今日美术馆.zip展览策展人吴珏辉、科大讯飞大数据研究院副院长谭昶、科幻作家韩松、杨平与科幻评论家李兆欣。这篇文章节选并整合了嘉宾的现场发言。文后附有活动视频。

返回页首

[快速回复] (HTML代码不可用)[高级回复]
请输入验证码: +jdlfjdlfljl12l12jl+*ljld- + +zdfn,n,/,/,;k1234-353;kdf;kdf;+*ljld- 7 (请输入计算结果)
表情
发言前,请仔细阅读并同意以下注意事项,未注册用户请返回社区首页注册。
1.请自觉遵守:Art-Ba-Ba论坛免责声明
2.请尊重网上道德;
3.自觉遵守:爱国、守法、自律、真实、文明的原则;
4.遵守互联网电子公告服务管理规定 及中华人民共和国其他各项有关法律法规;
5.严禁发表危害国家安全、破坏民族团结、破坏国家宗教政策、破坏社会稳定、侮辱、诽谤、教唆、淫秽等内容的作品;
6.承担一切因您的行为而直接或间接导致的民事或刑事法律责任。
7.Art-Ba-Ba所有帖子仅代表作者本人意见,不代表本社区立场。
8.转载文章请注明出自“Art-ba-ba中国当代艺术社区(www.art-ba-ba.com)”。如是商业用途还请联系原作者。