我们像“透明人”一样暴露在科技面前:《硅谷》和人类泄漏隐私的危机
发起人:毛边本  回复数:0   浏览数:424   最后更新:2019/12/22 18:57:04 by sunfarstar144
[楼主] 毛边本 2019-12-22 18:57:04

来源:界面  梁瑀可


“尚未被商品化的东西已经所剩无几,私密的人生经历是仅存的处女地。”

美剧《硅谷》最终集中,Richard和他的团队在“魔笛手”(Pied Piper)上线前,发现内嵌的人工智能已经通过自我优化学习**了世界上最难的核心加密技术,这意味着该产品一经上线便会给世界造成不可估量的灾难。

团队成员Gilfoyle想象了可能出现的恐怖场景:产品上线以后,人工智能会继续学习,**出更多的复杂防御,电网、金融机构、每一个核武器的密码全都被曝光,这也意味着隐私的终结……面对安全隐患,魔笛手团队选择了故意搞砸产品发售会,永远隐瞒事实的真相,为的是避免后人继续尝试这项技术。

历时六年的《硅谷》以这样的方式收尾让人唏嘘,一帮怀揣理想的年轻人聚集到硅谷,他们逃脱了科技巨头公司的碾压,在与投资人、律师、媒体的周旋中存活了下来,却在成功的前夜遭遇了经典的“弗兰肯斯坦”式问题——技术制造者最终造出的是比自己强大得多的科学怪物,制造者最终将被技术反噬。

比尔·盖茨在《硅谷》客串出场


《硅谷》在本季一开始就直面近年科技行业侵占个人隐私的热点问题,Richard出席听证会暗指马克·扎克伯格去年就用户数据泄露事件接受国会质询的事件。(Facebook与英国咨询公司Cambridge Analytica不当分享多达8700万用户的相关数据,并涉嫌影响了美国大选。)在这一幕里,Richard痛陈科技巨头的种种不堪:“Facebook拥有80%的移动社交流量,谷歌拥有92%的搜索流量,亚马逊的云服务份额比第二到第五名的总和还要多。没有人能够赢得了它们。它们跟踪我们的每一步,监控我们生活的每一刻,还利用我们的数据获利。”

“这些公司就是国王,他们统领的疆域比任何一个王国都大得多。我们取胜的唯一方式是建立一个民主的、去中心化的互联网。在那样的互联网中,用户是自己数据的主人,我们今天的遭遇不会重演。”

这番振聋发聩的发言,让Richard获得了戏里戏外的一致赞许。然而,发表完上述讲话后不久,他就得知自己的员工Colin一直在游戏中收集用户信息,这款游戏可以通过识别玩家的声音和情绪来推送广告,只要用户打开麦克风说出“想吃披萨”,屏幕上就会精准地出现达美乐披萨广告,如果玩家愤怒地大叫,游戏里就会弹出航空公司的度假推荐或者是按摩店的优惠套餐。

这样的剧情略显夸张但细思极恐,如果用户的情绪和语言都能被机器准确记录,又有谁会比那些互联网公司更了解我们呢?

在成功的前夜,面对资本利益与人类道德的抉择,Richard和团队放弃了80亿美元估值的公司,放弃了成为亿万富翁的机会,在内心善念的驱使下毁掉了自己亲手缔造的技术,也为历时六年的HBO系列剧画上了完美句点。

然而,在现实的生活里,科技的发展并不会轻易停歇,而人类失去隐私的危机,只会越来越逼近真实……

人类像“透明人”一样暴露在科技面前

现代社会,人们对于自己信息的掌控力度越来越失衡,城市的每条大街上都有监控摄像头,人们每刷一次信用卡、每打一通电话、每浏览一次网页、每拍下一张照片,都会被记录下来。

《未来之路:科技、商业和人类的选择》一书描述了这个网络连接无处不在的时代里信息被记录的过程:“当你开车回家时,安装在警车和道路标识上的摄像头正用自动化的车牌识别技术建立一个数据库,记录你驾驶的一切信息。不管你身处何地,建筑物和交通站点的监控摄像头都在不断地捕捉图像,录制视频。当你驶入自家车道,家用自动化系统会记录你到达的精确时间。为了设置最佳温度,Nest恒温器会追踪你在房间的移动。智能电视上的摄像头和麦克风会听到你所有的对话,等待你发出命令。这一切还都只是发生在你打开网页浏览器之前。”


《未来之路:科技、商业和人类的选择》
[美] 维韦克·瓦德瓦  [美] 亚历克斯·萨尔克弗 著 王晋 译
中信出版集团 2018-10-15


人们像“透明人”一样暴露在科技面前,取得了用户数据的公司掌握着前所未有的宝藏,而与这座宝藏相关的法律和使用指南却是一片空白。作为手机用户,人们只有“加入”和“退出”两个选项,没有人会去点击页面不显眼处的“用户协议”图标,更别说读读它背后长篇累牍晦涩难懂的文本。虽然略感不安,但人们更难放弃的,是一键乘车和外卖到家服务提供的便利。

那些被动接受的用户和隐私协议里,可能隐藏着各种无法预知的风险。今年,一款叫“ZAO”的换脸软件掀起了有关肖像权讨论的风波,有法律背景的用户发现该软件在隐私协议中过度攫取授权,涉嫌无偿占有用户的动态肖像权。而就在不久前,《财富》杂志刚刚报道了美国一家人工智能公司用高清3D面具和照片骗过了世界多地人脸识别系统的新闻,其中包括中国的微信和支付宝。这就意味着,那些在“ZAO”这类软件中只为图一乐就失去自己肖像权的用户,在被不法分子利用的极端情况下,可能会损失掉自己所有联网的信息和财产。

这样的例子不胜枚举,2018年11月,万豪连锁酒店宣布其Starwood预订系统遭遇重大数据泄露,估计暴露了约5亿客人的个人信息。2019年2月,视频社交软件Musical.ly因非法收集13岁以下未成年人的信息,被美国联邦贸易委员会处以570万美元罚款。

《硅谷》剧照


此外,更为常见的情形是人们主动把不加任何保护措施的个人数据放到网上的行为。在社交领域里,一个人的受欢迎程度与他/她主动展示的生活片段获得的浏览量有关,大量的网络主播通过拍摄自己的日常生活来获得点击关注,然后再通过为商家产品做广告的形式变现,这种新的商业模式甚至催生了“流量经济”“关注经济”等现象。德国韩裔哲学家韩炳哲认为,在展示社会中,每一个主体都是自己的广告对象,一切都是以它的展示价值来衡量的。他在《透明社会》一书里写道:“过度的展示将一切变成商品,是‘没有丝毫秘密,转瞬即被吞噬’的商品。”

仅仅是展示就产生了价值,这让大多数人更加急于参与到这样的活动中来。“虚荣超越了隐私,”未来学家凯文·凯利在《必然》一书中写道,“作为一个物种,如果说今天的社交媒体让我们对自己有所了解的话,那就是人类分享的冲动压倒了隐私的冲动。”

失去隐私,人们将失去自由

隐私意味着什么?1890年美国哈佛大学法学教授萨莫尔·华伦和白兰德斯教授发表的《关于私生活的权利》,首次把隐私列为人的一项自然权利,并提出了隐私权的概念。他们指出,隐私是人的一种生存特性,这种存在于私人生活空间的隐秘的事务、活动及相关的信息,与公共生活空间、公共生活领域中的公共事务、活动及相关信息是相对应存在的。

“知耻心”是隐私的心理之源,当原始人类拾起第一片树叶遮挡自己裸露的身体时,隐私保护意识就诞生了。西方从文艺复兴时期开始追寻人的主体性,直至资产阶级革命爆发,不断倡导民主、自由,现代意义上的隐私与隐私权体系也在这样的哲学和文化的积淀中得到完善。随着人的社会关系日益复杂,个人的生活空间也在不断扩大,隐私的范围也进一步扩大。

《硅谷》剧照


因此,隐私权是对人类个性的确认。个性即人的独立性,是人的“灵魂”,体现了人与人之间的差异性。当人类有对个人空间的基本需求时,拥有这个空间,也就意味着拥有自由,侵犯别人隐私就是对别人自由的干涉,维护隐私权是人维护自由的需要,也是对人性的深层关注。

然而,现代社会虽然物质越来越充裕,但体现个性人格和个人自由的“隐私”却渐渐异化,人类正在逐渐失去自己的灵魂。韩炳哲在《透明社会》里写道,“人的灵魂需要一个没有他者目光的空间,可以自在存在,一个人的自主是以他拥有不理解另一个人的自由为前提的。”然而在我们身处的透明社会里,信息的展示和挖崛压迫着现代人的每一根神经。“这种透明的关系是一种死亡的关系,它没有一丝一毫的魅力和活力,灵魂有不可穿透性,完全的照明会灼伤它,引起精神上的倦怠,只有机器是透明的。”

《透明社会》
[德] 韩炳哲 著 吴琼 译
中信出版集团 2019-10-18


这就好比生活在一个新型的数字化“全景监狱”里,只不过人们正在自己为它添砖加瓦。“全景监狱”理论最早提出在18世纪,英国哲学家、经济学家边沁将监狱设计成一个四周环形建筑,中心是一座瞭望塔,瞭望塔上的监督人可以通过逆光效果监视到被囚者,而被监视者则不能看到监视者。“全景监狱”利用了囚犯有意识的持久暴露感和被隔绝和受监视的孤独状态,来达到监控的目的。

与相互孤立的边沁式全景监狱里的犯人不同,透明社会里,居民互相联网、彼此交流,为监视提供保障的不是孤单和独立,而是超交际。韩炳哲写道,“失去了隐私的地球正在发展成为一个全景监狱,没有围墙将里外分隔开来。在透明社会里,人们自愿地将自己交付给全景注视,这里的囚犯既是受害者,也是作案者。”

监视资本主义的时代,我们该如何应对?

那么,究竟是谁在窃取我们的隐私,谁又能从中获利呢?《硅谷》的结局中,存储魔笛手程序的U盘丢失了,有豆瓣网友猜测,Monica在接受采访时的慌乱暗示可以**加密技术的AI可能已经落入了美国国安局(NSA)之手。

现实中,斯诺登揭露的国安局的“棱镜门”丑闻还并不遥远,他在《永久记录》中描述的国安局窃取隐私的过程还让人记忆犹新,“深入菠萝田下面的一条坑道——珍珠港时代的一座旧地下飞机厂——我坐在终端机前,可以近乎无限地取得世界上几乎所有男女老幼的通信记录,只要人们曾经拨打过一通电话或碰触过一台计算机。”

《永久记录》
[美] 爱德华·斯诺登 著 萧美惠 郑胜得 译
博集天卷 | 民主与建设出版社 2019-11


棱镜计划是一项由美国国家安全局自2007年起开始实施的绝密电子监听计划。据美国时代周刊报道,“棱镜”项目监视范围很广,包括美国每人每天都在使用的网络服务。许多企业成了政府的数据收集代理方,报道显示,FBI和NSA正在挖崛各大技术公司的数据,微软、雅虎、谷歌、Facebook、Youtube、Shype、AOL、苹果都在其中。

学者肖莎娜·朱伯夫(Shoshana Zuboff)赞赏“斯诺登为唤醒人们做出了巨大的贡献”。但她同时感到,自己在同社会失忆和精神麻木的进程作斗争——人们正在失去他们的惊讶感。她在新书《监视资本主义时代》里讲述了数字革命以及互联网早期乌托邦式的愿景如何黑化成资本主义的凶猛突变,像Google和Facebook这样的全球科技公司如何说服我们为了便利而放弃隐私。她将科技公司通过采集个人信息,聚敛财富和权利的系统定义为一种“新的经济秩序”,是资本主义长期演变所到达的最新阶段,在这个新的经济逻辑里,个人信息是新的开采能源,“尚未被商品化的东西已经所剩无几,私密的人生经历是仅存的处女地。”

《监视资本主义时代》


很多人似乎默认了个人信息被泄露而造成的后果,认为只要不点击广告即可逃出圈套,但是大家忘记了,这些公司采集走的个人信息不仅被用来预测、而且还被用来影响和改变我们的行为,忘记了这些做法如何为民主和自由带来灾难性的影响。朱伯夫指出,科技公司正在创造新的权力形式,这些都是在个人意识和公共责任之外运作的。要想遏制这种的权力,就需要一种新的对抗手段——一种以个人自由和民主之名,遏制监视资本主义的手段。

然而监控资本主义涉及的不仅仅是空前规模的个人数据积累,在美国,2001年市值最高的公司是通用电气和埃克森美孚之类的能源企业,而现在都是大数据公司。市场的逻辑已经把数据看做货币,看做是二十年前的石油,个人的力量往往很难与之抗衡。虽然各国政府在法律和行业自律上都做了相应的努力,但实际的情况是,在欧洲数据保护受到了更多的关注,美国则从产业利益出发,对个人数据持积极利用的态度,数据保护的法律规定较为宽松。

图灵奖的获得者马丁·赫尔曼曾经在采访中表示,技术和监管并不能阻止个人隐私泄露发生,还需要道德层面的约束。这也与《硅谷》的剧情不谋而合,剧中的处理的方式是通过唤醒程序员的良知来消灭灾难,Richard十年后也成为了斯坦福大学的科技道德教授。虽然这样天真的剧情设定只能在剧中发生,但是当法律和资本都没有足够的动力和提前预判的能力去应对如今复杂的现状时,也许我们只能再次寄希望于人类道德——这个最原始的约束机制,来展现人类崇高和感人的一面。

返回页首