社会信用请给分!数字极权下的中国症候群

2020年09月19日 06:06 转角国际

图为北京公车站。 图/美联社

如今我们不难想像,这个以确定性取代社会的潮流会导向哪种符合逻辑的结果。中国政府已发展一套全面的"社会信用"系统,一名中国学者形容该系统是中国网路议题的"核心"。这个系统的目的是"利用个人数据的爆炸性成长……来改善公民的行为……个人与企业的行为都会按照不同方面(去哪裡、买什么、认识谁),逐一评分,这些分数将整合进一个全面的资料库,此资料库不仅连接政府资讯,也连接民间企业收集的数据"。

这个系统会追踪"好"与"坏"的行为,范畴涵盖各种财务与社会活动,自动指派惩罚与奖励,果断地塑造个人行为,在经济、社会、政治生活中逐步"建立诚信文化":"目标是让每个中国公民都拥有一个档桉,累积来自公共与民间来源的数据……用指纹和其他生物辨识特征即可搜寻。"

中国北京地铁站。 图/美联社

尽管中国的社会信用愿景不约而同被称为"数位极权主义",也经常拿来与欧威尔《一九八四》的世界相比,但它不如说是机器控制力量的完美典范,以公共与私人数据来源喂养,并由集权国家掌控。关于其前导计画的描述正是非常强力的例子,展现了监控资本主义的行动经济与超大规模行为修正手段的精细建构。

系统的目标是实现社会自动化,藉由校准、驱赶、制约,让民众产生预先选择好、国家想要的行为,如此一来就能"预先消除不稳定性"(套用一位战略研究专家的说法)。换言之,目标是要运用机器控制主义的行为修正手段,来保证社会结果,而非市场结果;于是出现了这个系统,让我们能够一窥机器控制主义与国家权力全面融合所引发的一种未来。

中国这个愿景,是为了解决中国独有的社会瓦解诅咒。记者艾咪.霍金斯(Amy Hawkins)在《外交政策》(Foreign Policy)上刊登文章,解释社会信用系统被当成一种解药,来解决在中国蔓延的社会缺乏信任之疾病:

在今时今日,身为中国人,等于是居住在缺乏信任的社会,任何机会都是潜在的诈骗,任何慷慨之举都隐含遭人利用的风险。

图为北京密云区住宅前的毛泽东像。 图/路透社

有一份针对当代中国社会信任情形的实证研究相当有意思,该研究发现,其实"内团体"当中存在高度的信任,可是这却和负面的健康状况相关。结论是,许多中国人仅信任对他们来说有名的人,他们对其他人际关系皆抱持怀疑与焦虑,这对社会信任与身心健康造成的后果自不在话下。

这种广为传播的不信任感,通常归咎于高速现代化、转型为准资本主义国家带来的创伤,但同时也是中国极权主义遗留下来的影响。中国共产党拆毁传统领域,包括人际关系、身分认同、社会意义(家庭、宗教、公民社会、知识论述、政治自由),像极了鄂兰所言那摧毁信任羁绊的"单原子化"过程。如霍金斯所述:

然而,中国政府所做的不是逐步重新引介传统道德伦理,来降低缺乏信任的情况,反倒偏好将心力投注在科技解方……大众已经受够了不知道该信任谁,于是加以欢迎……一部分的原因是他们别无选择了。

中国政府意图征用机器控制力量,以必然结果取代一个破灭的社会。

春节期间的北京购物中心前。 图/路透社

二○一五年,中国央行宣布展开一项前导计画:各大电子商务企业将主导数据整合与软体研发,以供个人信用评分之用,其中的佼佼者是阿里巴巴旗下的蚂蚁金服,该公司推出的"个人信用评分"服务称为"芝麻信用"。芝麻信用系统能产生关于一个人"性格"的"全盘"评分,搭配演算式学习,范畴远远不止于准时缴帐单与贷款,演算法会衡量消费习惯(买电动还是童书)、学位、交友的数量与"品质",藉此评等。

一名记者曾描述她的芝麻信用体验,警告这套演算法简直"不可理喻",一一评估她的社会接触、开什么车、做什么工作、念什么学校、诸如此类的不明确行为因素,声称这些都"与良好的信用有关"。影子文本依旧遥不可及,使用者落得只能猜测如何提高分数,包括与评分低的朋友断绝往来,广为结交评分高的人,有些人认为这有助于提升评等。

蚂蚁金服董事长宣称,这套评分系统"可以让这个社会的坏人无处可逃,好人畅通无阻"。分数高的人可以在行为未来市场当中,从芝麻信用的客户得到荣誉与奖励:无须押金即可租车,贷款和租屋可取得较优渥的条件,办理签证可享有快速服务,在交友软体上拥有特殊待遇等各式各样的好处。然而,报导指出,高信用带来的特权也可能因为与消费行为无关的原因,转眼消失无踪,例如在大学考试中作弊。

图/芝麻信用官网

二○一七年,央行停止支持民间企业发展的个人信用计画,原因可能是这些计画实在太成功了,集中了过多资讯与力量。短短两年内,芝麻信用便累积逾四亿用户,控制了这些用户各方面的生活。一名记者以蚂蚁金服为主题写了一本书,预测政府正准备接收整个系统:"这项人民信用的建设太重要了,政府不希望它落在什么大公司的手裡。"中国政府似乎明白,拥有行为修正手段,就能逐渐累积权力,行为参数是由行为修正手段的拥有者设定,如此即可定义保证结果。于是,公私力量开始融合。

如果想知道机器控制力量与国家权力结合,将产生什么样的社会,可以先从所谓的"失信被执行人名单"(judgment defaulter’s list,俗称"黑名单")开始。《经济学人》(Economist)曾形容该名单是社会信用系统的核心,或许可说是衡量社会信用系统远大企图的最佳指标,名单内含债务人与任何曾违抗法院命令的人:

名单上的被执行人不能购买机票、高铁票、火车一等座与商务座车票,不能买卖或建造房屋,子女不得就读高收费学校。被执行人将限制入党、入伍、在党内与军中晋职晋级、接受表扬及担任职务。假如被执行的对象是一间公司,该公司可能不得发行证券、接受外资投资、参与政府工程。

图为中国火车。 图/路透社

根据一份《中国日报》的报导,自从黑名单在二○一三年生效,已自动履行被执行人限制购买机票六百一十五万人次,藐视法庭者限制购买高铁票两百二十二万人次,约七万一千人由于债务而错失在企业担任管理职的机会。

中国工商银行表示,该行已拒发逾六十九亿七千万人民币(约十亿一千万美元)给名单上的被执行人。没人被送进再教育营,但被执行人不得购买奢侈品。根据商务部研究院信用研究所所长所言:"由于这些不便,名单上约有百分之十的被执行人开始自主偿还银行欠款,这表示社会信用系统是有用的。"行动经济完全按着计画走。

对于芝麻信用的四亿用户而言,机器控制力量与国家权力结合带来的冲击不小。登录在黑名单上的人发现,信用体系的设计令他们陷入向下沉沦的螺旋,一去不回:

刚开始,你的分数下降,接着朋友听说你被加入黑名单,怕自己受影响,于是悄悄把你从联络人删除,这件事被演算法注意到,结果你的分数便再度骤降。

图/路透社

中国政府的愿景饱含难以企及的雄心壮志:利用演算法筛选无止无尽的公共与私人数据洪流,包括来自各领域的线上与线下体验,再进入十五亿人的个人生活,让演算法奖励、惩罚、塑造行为,连最新的公车票也不放过,藉此将社会行为给自动化,实现彻底觉察与绝对确定性的大梦。

目前,这项计画打散成许多个前导计画,不只散布于多间科技公司,也散布在各个城市之间,因此难以掌握政府希冀达成的规模。众多专家相信,要将这等浩大、复杂的系统合而为一是很困难的,甚至不可能办到。

我们也有理由认为,社会信用系统对本书主题未必有那么关键。一个显而易见的理由是,中国并非民主国家,中国文化与西方文化天差地远。雪城大学(Syracuse University)研究员汪洋(Yang Wang,音译)认为,中国文化不如西方文化重视隐私,况且多数中国人都已对政府的网路监控和审查有一定的了解,在一九九○年代中期以前,中文辞典甚至不存在"隐私"这个词。

图为参与中国国庆日活动的民众。 图/美联社

中国人民早已接受身分证内含生物辨识晶片,接受"计画生育",如今又接受了社会信用评等,毕竟中国社会的监控与资料蒐集持续了数十年。比方说,"人事档桉"就是内容涵盖广泛的个人档桉,累积数百万公民一生中从小到大的资讯,这套"始于毛泽东时代的系统记录每个人最私密的小事",由教师、共产党官员、单位人员更新,一般公民无权阅览档桉内容,遑论改正。

这套控制行为的行政体系无远弗届、行之有年,渗透了日常生活,时而封赏,时而惩处,人事档桉只不过是其中一二。随着网路发展,社会控制计画一同扩张,比如说"金盾工程"就是个广大的线上监控系统,一旦使用者传送的讯息夹带敏感词,像是"西藏独立"或"天安门事件",中国的网路侦测器就会停用该人的网路或社群媒体帐户。

即使我们的政治与文化天差地远,但中国社会信用计画有愈来愈多证据显示监控资本主义的逻辑,以及其创造的机器控制力量。芝麻信用加强了监控资本主义计画的每个面向,自动化的行为修正机器将上亿人捲入其中,逐渐浮现的行为未来市场持续分送利益与奖章,有如挥洒着宝可梦精灵粉,藉此换取保证结果。

中国人脸辨识系统。 图/路透社

中国使用者每接触一次数位装置,便受到转换、分类、排入伫列供预测之用,但我们也一样。我们在Uber、eBay、脸书、许许多多网路事业上受到评等,这些还只是我们看得见的评区分。中国使用者会得到一个"人格"分数,美国政府则要求科技公司训练演算法,计算"基进"分数。

影子文本的工作是以无数方式来评估、分类、预测我们的行为,我们对此一无所知,无从对抗──这些就是我们的数位人事档桉。在信用评分这方面,英美的银行与金融服务会挖掘、分析社群媒体的数据,建立浮动商业模型,据此给予信用分数,脸书本身就曾暗示对这方面的兴趣,还申请了专利,这些打算之所以作罢,全是因为联邦贸易委员会警告要介入规管。

牛津大学中国研究学者罗杰.克雷默(Rogier Creemers)是最早翻译社会信用相关文件的人之一,他观察到:

迈向社会工程、"鼓励"一个人做出"良好"行为的潮流,正好与硅谷的观点相彷,这种观点认为透过科技的破坏性力量,可以一劳永逸解决人类的问题……就这个角度而言,或许最令人震惊的部分不是中国政府的意图,而是这与其他国家的科技发展方向多么类似。

正在使用手机的中国共产党党员。 图/路透社

二○一七年,一场监控科技博览会于深圳举行,会场挤满来贩售最新产品的美国企业,尤其是装设人工智慧与脸部辨识功能的监视器。英国监视设备经销商CCTV Direct的总经理也身在其中,他一方面慨叹道,相较于中国监控设施的技术,"西方国家落后太多了",另一方面又深感安慰:"生于此地的科技,最终落脚于美国的家庭、机场与公司。"

西方的监控资本主义与中国逐渐成形的社会信用体系,两者之间的差异在于机器控制力量及国家权力相互纠葛与结合的模式,这是结构上的差异。在西方,如我们所见,模式有许多类型,最初国家扮演了摇篮和避风港的角色,随后转变为热切的学生与嫉妒的亲戚;监控资本主义与其机器已然成熟,两者的合作关系尽管时断时续,却又是必要的。关键的机器控制能力掌握在监控资本主义大企业手裡,国家非得与这些公司合作,透过他们来使用国家追求的力量。

在中国的脉络中,国家主掌一切、拥有一切,这并不是市场计画,而是政治计画,用机器解决方法来形塑自动化行为的新社会,以取得政治和社会上的保证结果:无恐怖的确定性。所有供应链的各个管道,都会把行为剩余传送至这个复杂的行为修正新手段,国家化身为行为之神,一手掌握影子文本,决定由影子文本塑造的增强时制与例行行为。自由遭到知识剥夺,然而这些知识由国家享有,不为牟利,而为延续国家本身的生命。

图为中国天安门的监视器。 图/路透社

分享
相关阅读

评论(0个评论)

写评论

Noavatar small

评论需要登录。 登录 注册