算法在便利数字时代生活的同时,也是备受诟病的“黑箱”。8月27日,国家互联网信息办公室发布《互联网信息服务算法推荐管理规定(征求意见稿)》(以下简称《意见稿》)并公开征求意见。
《意见稿》明确提出,不得实施流量造假、操纵热搜等影响网络舆论;外卖及网约车平台对劳动者、消费者的双重算法需规范,保证劳动者算法的公正透明,抵制算法对消费者“大数据杀熟”等。相关规定给算法推荐服务戴上“紧箍咒”。
牵住“主体责任”这一牛鼻子
“这个规定不是突然出台的,它是针对当下公众反映强烈、问题突出的算法治理问题作出的先导性回应,体现了对算法领域焦点问题进行系统全面治理的思路。”北京师范大学网络法治国际中心执行主任、中国互联网协会研究中心副主任吴沈括对科技日报记者表示,《意见稿》有两个突出特点:更强调生态治理、更突出主体责任,其规范核心主体是“算法推荐服务提供者”,以之为“牛鼻子”推出和落实相关行为规则。
据中央财经大学中国互联网经济研究院副院长欧阳日辉介绍,“大数据杀熟”就是企业通过平台用户的数字画像,利用用户的信息不对称以及对价格波动的不敏感这一特点对不同的消费者进行差别化定价,暴露了相关企业对思想道德建设的忽视。
吴沈括同样表示,一些互联网企业的算法应用造成的偏见、歧视与差别待遇,实际上对国家的互联网内容治理生态和网络安全等方面造成很大的消极影响。
“相关企业要增强社会责任感与思想道德建设,完善自我约束机制。”欧阳日辉说,“要强化数据采集的合规化,降低算法歧视发生的概率,也要赋予网络数据主体被遗忘权,完善数据退出机制。另外,对敏感数据进行数据脱敏也是从数据角度减少算法歧视的一个手段。”
对算法进行全生命周期治理
近日表决通过的个人信息保护法中要求,通过自动化决策方式向个人进行信息推送、商业营销,应当同时提供不针对其个人特征的选项,或者向个人提供便捷的拒绝方式。
这也体现在《意见稿》的要求中:算法推荐服务提供者应当向用户提供不针对其个人特征的选项,或者向用户提供便捷的关闭算法推荐服务的选项。
在吴沈括看来,这体现了《意见稿》与现行法律法规的配合,如网络安全法、数据安全法、个人信息保护法等,现实指向意义很强,“新规是对上位法的落实,它有助于拉齐整个行业的治理水平,整个算法应用生态的治理水平取决于行业内的短板企业,只有用法规向上拉齐,才能避免行业的劣币驱逐良币。”
“目前我们已经进入算法社会,这是无可阻挡的潮流,关键就是要怎么治理和规范好。”吴沈括说,着眼于与国际良好实践的比较,治理的核心焦点是透明度,包括机制透明度、规则透明度等,最大限度实现多层次的透明。
他建议,相关企业需要建立健全用于识别违法和不良信息的特征库,完善入库标准、规则和程序。发现违法信息的,应当立即停止传输,防止信息扩散,保存有关记录,并向相关部门报告。同时也要保持和监管机构常态、良性互动,保持沟通,实现风险管理需求。
此外,《意见稿》对包括用户注册、信息发布审核、算法机制机理审核、安全评估监测、安全事件应急处置、数据安全保护和个人信息保护等在内的方方面面作出规定,吴沈括表示,这体现出了全流程、全生命周期治理的思路,“相信未来在新规的落实中,也会是一个生态治理和共同参与,共同构筑社会公共信任的过程。”