南财快评:依法规范算法推荐 促进互联网信息服务业健康发展

21世纪经济报道 21财经APP 陈兵,杨鎏林
2021-09-10

近年来,随着智能推荐算法的广泛应用,互联网信息服务行业取得了有目共睹的发展和进步,特别是与新闻推送、网约车服务、网络购物、外卖服务、灵活用工等平台的深度融合,在极大地丰富人们日常生活的同时,提高了资源配置的效率。然而,与此同时,同智能推荐算法有关的互联网信息服务治理乱象也不断涌现,诸如大数据杀熟、信息茧房、外卖员劳动权益受挤压、未成年人沉迷等问题,引发了社会各界的广泛关注。社会各界对依法整治上述乱象的呼声不断高涨,必须依法强化对算法推荐和算法优化的监管与防治。

《征求意见稿》恰逢其时

2021年8月27日,国家网信办就《互联网信息服务算法推荐管理规定(征求意见稿)》(简称《征求意见稿》)向社会公开征求意见。《征求意见稿》共三十条,内容不仅涉及监督管理执法部门、行业组织、算法推荐服务提供者等主体应当遵循的原则规范,还涵盖了当前社会各界普遍关注的算法推荐热点问题,如用户模型、流量造假、个性化推送、未成年人身心健康保护、互联网平台劳动者权益保障、大数据杀熟等,并且对上述行为应当承担的法律责任进行了明确规定。《征求意见稿》为惩治算法推荐乱象提供了明确且具有针对性和操作性的法律规范,对规范互联网信息服务业发展中算法推荐活动,促进互联网信息服务业健康发展具有重大意义。

《征求意见稿》主要针对在中华人民共和国境内应用算法推荐技术提供互联网信息服务的各类行为,在范围上将涵盖全部互联网算法推荐服务公司。根据《征求意见稿》,应用算法推荐技术,是指应用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息内容。算法推荐技术是算法推荐服务提供者提供个性化服务的重要基础,对应用算法推荐技术提供互联网信息服务的各类行为进行规范,是维护互联网信息服务行业良好市场秩序、促进互联网信息服务业健康发展的关键。

《征求意见稿》亮点解读

一是聚焦国家安全与数据安全。随着人工智能、大数据、云计算等技术的深入发展,数据已经成为国家重要战略资源。数据安全的重要性日益突显,已构成国家总体安全的重要组成部分。《征求意见稿》第6条明确规定,算法推荐服务提供者不得利用算法推荐服务从事危害国家安全等法律、行政法规禁止的活动;第7条明确要求算法推荐服务提供者应当落实算法安全主体责任,建立健全数据安全保护和个人信息保护等管理制度。在国家安全层面和个人信息保护层面,均对算法推荐服务提供者提出了新的要求,为保障个人隐私、维护数据安全提供了重要保障。

二是规范用户模型与用户标签管理。在实践中,算法推荐服务提供者往往借助算法对用户消费数据及个人属性数据进行分析整理,形成用户模型或用户标签,并以此为基础进行精准推送。构建用户模型或用户标签虽然可以提高信息分发效率,但是容易形成“信息茧房”,使用户局限在自己熟悉的领域内,满足于被动的知识积累,无法获取全面、客观的信息;且在算法标注了偏见性或不良信息标签的情况下,这样的做法还会对用户产生误导,损害用户的身心健康。《征求意见稿》第10条强调,算法推荐服务提供者不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息内容,不得设置歧视性或者偏见性用户标签。为规范用户模型与用户标签管理提供了方向指引。

三是严格禁止流量造假、流量劫持与信息干预。近年来,虚假热搜、虚假转发点赞评论、过度推荐引发的网络舆情问题层出不穷,净化网络舆论环境、规范网络舆论生态已经成为了新时代网络安全建设的重要工作之一。究其原因,在于算法推荐服务提供者在经济利益的驱动下,不当利用平台规模优势和算法技术优势,向用户呈现虚假信息或干预信息,误导用户做出错误的选择。针对这一现象,《征求意见稿》第13条规定,算法推荐服务提供者不得实施流量造假、流量劫持,不得利用算法干预信息呈现,实施自我优待、不正当竞争、影响网络舆论或者规避监管。切实整治流量造假、流量劫持与信息干预等行为,净化网络舆论环境。

四是明确告知算法推荐服务并允许用户关闭。智能推荐算法的应用使算法推荐服务提供者得以最大限度地获知用户偏好,并根据用户偏好进行精准推送。表象上是为了满足用户喜好,实际却遵循“流量为王”的利益逻辑,向观众推荐获利最大化的内容产品。这种错误的价值导向极大地影响了用户的身心健康,助长了不良社会风气。《征求意见稿》第15条明确规定用户可以选择关闭算法推荐服务,这赋予了用户自主选择观看内容的权利,有利于保障用户的选择权,促使算法推荐服务提供者向用户传播正确价值观导向。

五是依法保障未成年人身心健康。未成年人尚未形成成熟健全的价值观,难以甄别纷繁复杂的各类信息,对算法推荐服务不加规范极易误导未成年人的思想认知和价值选择,不利于保护未成年人的身心健康。《征求意见稿》第16条明确要求,算法推荐服务提供者应当依法履行未成年人网络保护义务,保障未成年人身心健康,防止未成年人沉迷网络。实践中,网络游戏、短视频等应用软件导致未成年人沉迷的事件迭起,引发了公众的广泛热议。《征求意见稿》的这一规定对算法推荐服务提供者提出了更加具有针对性的要求,对算法推荐服务提供者规范自身行为提出了新的要求。

六是依法保障互联网平台劳动者权益。外卖配送员、专车司机、网约家政等主体均依靠互联网平台经济获取工作订单,也往往受制于智能推荐算法的奖惩规则被迫延长工作时间、超出工作强度,但在许多情况下,这些主体并不能依法享受相应的劳动者休息休假、社会保险、奖金津贴等福利待遇。《征求意见稿》第17条重点针对算法推荐服务提供者的劳动者权益保障义务进行规范,要求算法推荐服务提供者完善平台算法,依法保障劳动者合法权益,避免使劳动者陷于“算法困境”。

七是明确禁止“大数据杀熟”。算法推荐技术已经成为各大互联网平台企业设定商品价格、制定经营策略的重要工具,但与此同时也出现了个别平台企业借助算法推荐技术对消费者进行“精准画像”,并以此为基础实施“大数据杀熟”等侵害消费者权益的行为,损害了消费者的消费信心,不利于维护公平有序的市场竞争环境。《征求意见稿》第18条重点针对“大数据杀熟”等违法行为进行规范,强调算法推荐服务提供者不得根据消费者的偏好、交易习惯等特征,利用算法在交易价格等交易条件上实行不合理的差别待遇等违法行为。这将对维护公民合法权益和社会公共利益,促进市场公平有序竞争,产生巨大的推动作用。

八是对算法推荐服务提供者实施分类分级管理。《征求意见稿》要求根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模等要素对算法推荐服务提供者实施分类分级管理,更加全面地开展算法安全评估和监督检查等各项工作。特别是具有舆论属性或者社会动员能力的算法推荐服务提供者,应当依法填报名称、服务形式、应用领域、算法类型等信息,履行备案手续,避免网络安全隐患,有效防范网络安全风险。

《征求意见稿》值得期待

算法监管的重要性已经引起了国际社会的重点关注。2018年5月25日,被称为“史上最严数据保护条例”的欧盟《一般数据保护条例》(以下简称GDPR)正式施行。GDPR明确将自动化个人决策与用户画像纳入监管范围,要求数据控制主体采取适当的步骤和措施保障数据主体享有的权利、自由和正当利益。紧随其后,2018年6月28日,美国加利福尼亚州通过了《2018年加州消费者隐私法案》(以下简称《法案》),该法于2020年1月1日正式生效。《法案》赋予了消费者要求企业披露其所收集的消费者个人信息类别、具体要素、信息共享第三方等信息的权利,允许消费者访问或删除企业收集的个人信息,保障消费者的知情权和隐私权。

作为互联网发展和应用大国,我国政府同样高度重视算法监管与网络安全建设,目前已经形成了包括《网络安全法》《数据安全法》《个人信息保护法》(将于2021年11月1日正式施行)《互联网信息服务管理办法》等法律法规文件在内的较为成熟的数据及算法监管体系,在推进网络空间治理系统化、科学化和法制化,提升网络空间治理水平方面成效显著。此次《征求意见稿》作为上述法律文件的重要配套制度,是贯彻落实中央关于网络安全和信息化工作战略部署、推进互联网信息服务生态治理的又一重要举措。《征求意见稿》全面规定了政府、行业组织、企业、用户等主体在互联网信息服务领域应当遵循的要求,尤其对当前社会各界普遍关注的大数据杀熟、信息茧房等算法推荐热点问题及其法律责任进行了明确规范。为维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益,促进互联网信息服务健康发展提供强有力的法律保障。

《征求意见稿》助力互联网信息服务业行稳致远

促进网络环境生态治理、推动互联网信息服务健康发展不仅需要完善法律规范体系,还需进一步建立和强化多元共治的治理体系。在对互联网信息服务行业经营特征、行业惯例、商业模式等进行充分了解的基础上,将互联网企业与行业组织的自律自治、行政部门的科学有效监管,及企业与用户的科学合理维权有机结合,打造共建共治共享的互联网治理新格局。

为此,行业组织应切实加强行业自律,督促算法推荐服务提供者规范信息服务行为;算法推荐服务提供者应认真学习并自觉践行《征求意见稿》的具体规范,树立正确的价值导向;监管部门应提高执法技术水平,明确监管职责,依法开展安全评估和监督检查工作,提升监管效能;社会公众应积极参与《征求意见稿》学习,增强风险意识和法律意识,自觉维护良好网络环境,为互联网信息服务健康发展贡献力量。

(本文作者陈兵系南开大学法学院教授,南开大学竞争法研究中心主任;杨鎏林系南开大学法学院硕士研究生。本文系国家社科基金后期资助项目“数字经济与竞争法治研究”的阶段性成果。)

(编辑:洪晓文)