科技公司带来的信任冲突:“黑镜般的世界”你喜欢吗?
2021-02-05 15:34:00
  • 0
  • 0
  • 0

刚刚过去的2020是充满变数的一年,对于众多金融科技公司、电商平台也是难忘的一年,之前很多无序的模式创新,不断受到监管部门的挑战,这引发社会公众对互联网金融行业产生了负面认知以及不信任,并引起广泛的讨论:到底科技公司有没有权利采集我们的数据,进而影响我们的行为;在消费行业也是如此,消费者会对品牌或者平台使用他们的数据明显抱有戒心,“大数据杀熟”备受公众诟病。

在互联网金融频繁暴雷之前,用户对国内金融科技产品的认知度和信任度是很高的,这也可以从侧面解释为什么会有这么多用户入金到互联网金融公司的账户下。根据2017年汇丰银行所做的《科技信任度调查报告》,调查了11个受访国家和地区对金融科技产品的认知度和信任度,中国内地用户表示了解区块链和理财智能顾问的受访者比例分别达到31%和55%,前者在11个受访市场中仅次于印度,对新技术带来的正面推动力量曾经给予高度肯定。

去年阿里巴巴反垄断调查事件是个导火索,11月国家市场监督管理总局发布了《关于平台经济领域的反垄断指南(征求意见稿)》,《人民日报》于12月底再评“互联网行业从来不是、也不应该成为反垄断的法外之地”,这个举动,直接挑战了互联网科技巨头依靠数据和技术建立起的垄断“优势”。

面对近年来发生的信任危机,为建立一个广泛和开放的数字身份世界,中国人民银行公布了《征信业务管理办法(征求意见稿)》(后简称为《办法》)。与2013年公布的《征信业务管理条例》相比,此次采集范围扩大到了“用于判断个人和企业信用状况的各类信息。包括但不限于:个人和企业的身份、地址、交通、通信、债务、财产、支付、消费、生产经营、履行法定义务等信息,以及基于前述信息对个人和企业信用状况形成的分析、评价类信息。”

尽管从政策法规上进一步明确了科技公司应该遵守的规则,但在如今的社会环境下,引起了部分用户更多的不理解。

有人会因此联想到英剧《黑镜》在第三季第一集中设计的“社交印象评分系统”,当这些科技巨头每天盯着你的行为,知道你的偏好,你买了什么东西,和谁聊天,亦或是搭乘什么交通工具,去了哪儿,看了什么东西等等,要由它们的技术体系对你的行为进行评判,并得到一个被赋予的分值。

《黑镜》剧中采用了AR的识别方式,通过一个特殊的眼镜装置,可以看到对方的实时评分。用户的形象、身份、社会信用都会通过AR识别的方式展现出来,他的打分将马上会对对方产生影响,分数越高,一个人的社会地位越高,越能享受到租车、租房、出行、找工作、交友、选择婚配对象等方面的折扣和便利。

事实上,阿里巴巴已经采用了自己的社会信用评级方式,像芝麻信用的公司介绍中表明,其是一家旨在构建简单、平等、普惠商业环境的信用科技企业,是蚂蚁金服生态体系的重要组成部分。芝麻信用利用云计算、机器学习等领先科技客观呈现个人和企业的商业信用状况。

当芝麻信用刚出现的时候,部分媒体误以为芝麻信用第三方服务就是中国政府的信用体系。然而,中国人民银行并没有接入芝麻信用或腾讯信用体系,他们仍然作为民间的,或者只是阿里、腾讯内部的信用评判体系。之前也并没有针对性政策出台,这次《办法》是对该场景下的信用体系比较全面的规定。

上海交通大学凯原法学院郑戈教授在中国政法大学“大数据和人工智能法律前沿问题”讲座中提到了“高清社会”概念,在这个新型社会体系下,通过算法加持,针对某些群体的偏见增强,这就使得“法律的普遍性”理念受到挑战。算法背后是否真的依照数理逻辑运行?是否存在人的意志因素进行操控?

郑教授建议,部分场景可以考虑分布式信用评分,如:乘客与出租车司机之间的互评;餐厅客户与服务员之间的互评。这些互评,只影响客户和商品/服务提供着在特定平台上的信用,而不影响该场景之外的社会信用评分。

在这种社会体系下,传统的法律思维受到冲击和挑战,各个公司可能会有不同的评价标准,比如某个游戏公司,如果以在游戏中消耗更多时间、道具作为信用评分的一部分;亦或是某个在线购物商城,以用户购物的次数、金额作为高信用的用户,那么是否有悖于社会基本价值观、公序良俗,是值得讨论的,而并不适宜马上进入到公允的社会信用评分体系中。

目前,芝麻信用评分涉及的范围只在消费奖励方面。比如,达到550分,就可以免押金借用雨伞、租用自行车、免押金入驻酒店;超过700分的人,可申请新加坡签证而无需提供在职证明等。而真正对用户社会及消费行为产生限制的“失信被执行人”,是根据《最高人民法院关于公布失信被执行人名单信息的若干规定》等修正规定,经过法院判决得出的,并非根据科技公司采集的数据判断。有关部门负责人表示,“征信业务内涵不宜过度泛化”。并在《办法》中明确表示,“应当遵循‘最少、必要’的原则,不得过度采集。”

耶鲁大学蔡中曾中国中心资深研究员杰里米·道姆(Jeremy Daum)和北京大学法学院副教授戴昕都强调,尽管围绕数据隐私的担忧是合理的,也有人担心各种数据有朝一日会连接起来,但目前的社会信用体系并不像有些人所说的那么险恶,在很多方面,它试图解决中国的实际问题。

在世界范围内,前段时间围绕着科技公司另一场争论同时在展开,即在Twitter、Facebook等公司封禁一事,科技公司是否有审判权、监管权,以及“数字帝国主义”产生了广泛的讨论,包括默克尔、扎克伯格、马斯克等业内大佬各自发表了自己的看法,有意思的是,马斯克转而支持的Clubhouse一夜爆红,对老牌社交媒体产生了新的挑战,是否又会产生新的游戏规则?对全球的巨头科技公司而言,它们作用与限制的讨论还会在本世纪20年代持续下去。

文:陆易斯 / 数据猿

 
最新文章
相关阅读