你被算法歧视了吗？ 外滩峰会热议新型垄断

你被算法歧视了吗？ 外滩峰会热议新型垄断

　　第一财经日报 作者：杜川

　　一方面，算法歧视现象越来越引起决策者的重视；另一方面，如何平衡好科技创新与个人隐私保护问题也成为反垄断监管中亟待解决的难题。

　　10月22日至10月24日，第三届外滩金融峰会在上海召开。峰会期间，多位知名经济学家、专业学者就金融科技发展监管等问题进行了思想碰撞，涉及算法歧视、数据确权、隐私保护等诸多内容。

　　综合来看，与会专家均认为，在数字经济背景下，“算法霸权”已经严重危害了消费者的合法权益，对算法应实施公开透明监管，同时也要兼顾好隐私保护与公平利用等问题。

　　“积极应对算法歧视等新型垄断问题。”近期央行行长易纲在国际清算银行（BIS）监管大型科技公司国际会议上讲话时也如是表示。

　　算法歧视新型垄断问题

　　由于网络效应的存在，金融科技领域通常会形成“赢家通吃”的局面。为了强化反垄断监管，我国平台经济领域的反垄断指南出炉，以强化反垄断和防止资本无序扩张。除了“二选一”等与消费者购买行为密切相关的领域，与算法相关的大数据杀熟也成为我国反垄断监管的重点之一。

　　谈及反垄断监管，美国哈佛大学教授、白宫经济顾问委员会前主席Jason Furman在论坛上表示，从技术的角度来看，随着行业的不断发展，反垄断目标只需监管大型科技企业即可，中小企业可以进一步创新，而不是作为反垄断目标。但从金融监管角度出发，监管的侧重点是要保证金融系统稳定性，保护消费者。因此，金融监管部门需要了解数字技术，数字监管者需要了解金融，二者需要更多资源和能力的建设及投入。

　　不过，中国金融四十人论坛学术委员会主席、北京大学数字金融研究中心主任黄益平的观点则有所不同。黄益平认为，在数字时代，当大型科技企业利用大数据开展业务的时候，出现了歧视性定价，虽然不涉及垄断问题，但也同样损害到消费者的利益。他认为，行业中存在的很多其他问题才是反垄断监管需要关注的重点，小型玩家也需要被监管。

　　近年来，以人工智能算法为基础的应用渗透到社会的方方面面，随之而来的算法歧视问题也引发人们的关注。公众普遍担忧，自己是否会被数字和模型歧视或操纵。

　　“实践中，大型科技公司的算法已在很大程度上影响了用户的消费行为。”中国金融四十人论坛资深研究员、清华大学五道口金融学院院长张晓慧称，算法的复杂性以及算法使用者的刻意隐瞒，使得绝大多数人无法理解算法的工作原理，导致作为算法使用者的大型科技公司，特别是那些几乎控股了所有与个人生活行为相关的数字平台公司得以处于事实上的支配地位，形成“算法霸权”，从而严重危害了算法相对人也就是消费者的合法权益。应该说，算法已经成为大型科技公司控制市场的主要工具。

　　张晓慧认为，算法打着保护竞争优势和商业秘密的名义，为大型科技公司故意隐藏规则、操纵消费者和制造歧视，创造了更多的灰色空间。一是通过不公平排名，偏向自家产品或者商业利益伙伴；二是存在算法歧视问题，“大数据杀熟”就是价格歧视的一种表现形式；三是通过诱导性信息与风险隐藏，诱导消费者过度消费和承担风险。

　　在算法监管上，确立公开透明原则已迫在眉睫。9月30日，央行发布《征信业务管理办法》，要求征信公司必须公开个人信用评分算法模型；《互联网信息服务算法推荐管理规定（征求意见稿）》中，也针对“大数据杀熟”和“算法歧视”等问题，要求从业者完善算法管理制度，优化算法推荐，定期审核和评估算法模型，加强内容管理，促进算法应用向上向善。

　　近期，易纲在国际清算银行（BIS）监管大型科技公司国际会议上讲话时指出，未来将发挥好与反垄断部门的监管合力，遏制滥用市场优势地位的垄断行为，积极应对算法歧视等新型垄断问题。

　　数据治理兼顾隐私保护和公平利用

　　随着国内反垄断监管的深入，数据治理、个人隐私保护等问题也成为国内反垄断监管的另一重点。

　　近年来，为了获得平台公司的金融服务，中国消费者往往需要向其提供个人信息，过度采集数据的问题比比皆是。

　　例如，在2016~2017年“现金贷”高速增长期间，出现了买卖借款人信息的情况；甚至一些科技公司随意将用户数据在不同的产品条线上混用，加大了隐私保护的难度。

　　在张晓慧看来，当前中国在数据治理上仍面临较大挑战。一方面，大型科技公司过度采集客户数据，在各产品条线上混用数据，侵犯客户数据隐私；另一方面，大型科技公司在数据开放利用上存在不足。

　　数字时代，如何兼顾大数据开发、平衡数据的有效利用和个人信息保护？对此，Jason Furman认为，竞争和隐私应是互补的。消费者可以有更多的选择；“答案在选择权，关键在于要保留不同服务的丰富性，让消费者有选择权。”国际货币基金组织（IMF）货币及资本市场部主任Tobias Adrian如是说。

　　黄益平也指出，关键的问题是在创新和消费者权利之间取得平衡。一方面，对个人隐私要充分保护，另一方面又不能过度保护导致有害创新，而这条线该划在哪里还需要整个社会、各行业逐渐讨论得出答案，因此，监管需要有一定的灵活性，也要有创新性。

　　数据价值在创造的过程中，数据的产权归谁所有，利益如何分配，也是当下数据运用所面临的一项重大课题。

　　在复旦大学特聘教授、重庆市原市长黄奇帆看来，数据涉及五项基本权利：管辖权、交易权、所有权、使用权、财产分配权，各类主体基于自身在数据交易环节中的位置来行使相应权利。其中，数据的管辖权、交易权应由国家所有。

　　值得注意的是，10月20日，《上海市数据条例（草案）》正式结束公开征求意见，上海将按照国家要求在浦东新区设立数据交易所，作为数据资产交易的平台，开展实质化运营。

　　黄奇帆在论坛上指出，国家可以成立中央数据部门对国内的数据活动进行统一管理，在确立总的管理规则后，主要城市可以设立定点数据交易所，类似在北京、上海、深圳设立的证券交易所，而其他的一般省会城市、地级市不能设立。同时基于人工智能和区块链技术建立数据可追溯系统，对数据无论是交易、使用、财产分配，有全息的可追溯过程，并且保证是不可更改的，从而保证数据交易安全有序。

　　在数字治理方面，欧盟走在国际前列，其理念和方法被许多国家和地区所借鉴，包括《通用数据保护条例》《数字服务法案》《数字市场法案》等。

　　张晓慧认为，欧盟对于数字治理可以概括为：一是对数据隐私进行最严格的保护，加强用户对数据的控制；二是规定大型科技公司不得基于“核心平台服务”来整合个人数据；三是大型科技公司不得使用商业用户产生的数据与这些用户开展竞争；四是大型科技公司要为商业用户或经其授权的第三方机构提供数据使用便利；五是商业用户和终端用户向大型科技公司提供或产生的数据具有可携带性。

　　她认为，中国也应借鉴欧盟做法，在数据治理中努力平衡兼顾好隐私保护和公平利用的关系。不仅要明确区分数据作为私人产品和准公共品、公共品的边界，也要厘清各类数据的多重性以及数据跨界混合使用可能产生的系统性风险和社会副作用。

　　实际上，在强化数据保护，保障消费者权益方面，自2016年起，中国陆续出台了《网络安全法》《数据安全法》和《个人信息保护法》，着手治理信息收集和“霸王条款”，督促金融机构严格按照合法、正当、最小必要原则收集、使用和保管用户信息，充分保障个人隐私和消费者知情权、同意权、异议权、投诉权等合法权益。

　　张晓慧强调，应严格落实《数据安全法》《个人信息保护法》等法律法规，努力改进和提高监管能力，坚持制度规范和技术防护双管齐下，严防数据误用、滥用，切实保障金融数据和个人隐私安全。