算法歧视“大数据杀熟”诱导沉迷等算法不合理应用

经济观察网记者钱玉娟1月4日上午，根据中国网通公众号信息，国家互联网信息办公室会同工信部、公安部、国家市场监管总局近日联合印发了《互联网信息服务算法推荐管理条例》（以下简称《条例》），自2022年3月1日起施行。

针对《条例》出台的背景，国家互联网信息办公室相关负责人表示，算法应用的日益普及和深化，在为经济社会发展注入新动能的同时，算法歧视等算法、 “大数据杀戮”，诱导上瘾是不合理的。应用带来的问题也深刻影响正常的交流秩序、市场秩序和社会秩序，对维护思想安全、社会公平正义和网民合法权益构成挑战。

《条例》明确，不得利用算法推荐服务从事违法活动或者传播违法信息，采取措施防止和抵制不良信息传播；规范互联网新闻信息服务发展，不得合成虚假新闻信息，不得传播单位不属于国家规定范围的新闻信息发布；不得利用算法影响网络舆论、规避监管、垄断和不正当竞争等。

深切关注互联网行业的北京盈科（深圳）律师事务所股权高级合伙人朱一聪在查阅了《条例》细则后认为，随着《网络安全法》的颁布，数据安全法与《个人信息保护法》，《条例》是又一与数据相关的具有里程碑意义的法律法规。“这些规定将对算法驱动的公司产生巨大影响，例如短视频、网约车、新闻和食品配送平台等信息服务公司。”

算法需要被监督

正如国家互联网信息办公室有关负责人所说，制定的算法推荐《条例》明确了算法推荐服务提供者的主要职责。

“还有很多算法推荐服务公司需要进一步合规。” 北京高勤律师事务所合伙人王源认为，《条例》不仅强调了算法安全主体的责任机制，还明确了算法伦理。，“不得设置算法模型诱导用户沉迷、过度消费等，违反法律法规，违反道德规范。”

从互联网到移动互联网，人类进入大数据时代背后的技术进步是毋庸置疑的，但数字经济智库高级研究员胡启木发现，基于数据信息和技术能力，算法推荐确实很容易触达消费者，精准满足用户需求。但对于信息接收者来说，“针对性推送很容易形成信息茧，干扰信息的正常传播，侵犯消费者的信息选择权，在舆论发生时容易放大负面情绪。”

朱一聪向记者回溯了一些典型事件，比如2018年“蔡徐坤微博转发过亿”引发的交通诈骗事件模糊控制算法c程序，以及调查“星源”APP、幕后操纵事件等。 2019年6月，“大数据时代‘流量造假’、‘过度推荐’、‘炒作名单’等现象已经波及大众。” 他看到，《条例》对上述行为作出了明确规定，如不实施流量造假、不得篡改搜索结果等；并建立算法分类分级管理和算法备案制度，有针对性地监控算法推荐领域的混乱局面，

“互联网并非不可能。” 长期从事数据治理的王兆宇在接受记者采访时表示，《条例》是基于公共利益的角度，根据算法背后的规则，为一些平台和科技公司使用算法。 . 推荐逻辑，实现垄断、窃取个人隐私、歧视用户、信息茧房等谋取利益的行为，并对其进行监管。

在王兆宇看来，如果技术不能用于好的方面，一旦算法成为企业的盈利工具，结果必然是大多数人的利益受到损害。基于此，算法应该受到有效和强有力的监督。

有法律限制“大数据杀熟”

关于算法推荐流程，独立经济学家王驰坤将其大致分为“信息收集、信息分析、信息匹配、推荐、熟悉”五个步骤。他举了一个例子：一个人在这个过程中经常去深圳、上海等地。需要预定机票、酒店、出租车和餐饮。算法不仅会清晰准确地记录出发地和目的地、出行信息和交易信息等位置信息，还包括工作收入、生活习惯、消费水平、兴趣等。爱好等个人信息，通过这种方式，算法将用户画像和标签与人进行匹配，相关科技公司和平台可以进一步锁定推荐航班、酒店、

王驰坤还分析了“杀熟”的步骤，“相关平台锁定用户的相关需求信息，让他们针对刚性需求和需求做出被动、有限的选择。商家往往拥有主动权和定价权。”

相同的送货地址，相同的外卖商家，不同的用户订购外卖价格是不同的。朱一聪深入观察发现，“大数据杀戮”涉及的场景不仅包括外卖，还包括网购、酒店、旅游等。

近年来，相关问题频频被提出，并在各种报道中频频出现。不过，王驰坤认为，相关平台由于信息和专业优势，在确认责任时往往会逃避，让消费者被动。尤其是部分消费者遇到大数据时，取证难度更大，增加了后续维权的难度。很多消费者觉得“得不偿失”，最终选择了放弃。

采访中，朱一聪强调，现行的《条例》明确禁止“大数据熟人”，平台重新实施这种行为是违法的。不过，他也补充说，“杀熟”行为往往被差异化营销和不同的折扣所覆盖。如何做出有效判断，仍将是《条例》实施的一大重点。

明确行业方向

对于算法，人们常常给它们加上一个“聪明”的形容词。很多平台基于算法能力的提升，在把握用户粘性和扩展性的同时，捕捉用户的内容和服务需求，进行推送，满足用户需求。用户数等

王源表示，基于算法推荐的内容推广和广告营销已经成为互联网行业的盈利模式。在《条例》发布前后，很多平台已经做出调整，用户可以选择关闭算法推荐。

快手平台内部人士告诉经济观察报记者，快手APP于2021年11月更新了“关闭算法推荐”选项按钮。今日头条相关负责人也于截止日期前回应，“今日头条将认真落实相关规定，目前在APP中提供关闭个性化推荐的选项。”

胡启木认为，《条例》一方面保护了消费者的信息选择权，对相关算法推荐服务平台提出了新的要求，“他们应该使用更智能的算法来识别非法信息，净化网络环境。”

《条例》对防止未成年人沉迷网络作了特别规定。朱益聪指出，“这个规定比较笼统，需要网络服务提供者的详细参与，也给未来执法部门留有足够的空间。”

任何行业都有其生命周期，都遵循一定的发展规律，其中大部分是先市场发展，后是法律法规。在王驰坤看来，过去的算法市场对一些模型和行为没有任何法律监管，是“靠不住的”。他将当前的算法推荐行业视为“成长期”，这个乱象阶段难免出现，及时出台《条例》，有助于规范市场的有序发展。

采访中，有人认为，《条例》的出台，就像是给算法的滥用增加了“严密的诅咒”。对此，朱一聪也认为，《条例》的出台，将对平台数据和算法权力的滥用形成有力的监管，增加算法推荐的透明度，保护用户的知情权；同时，可以有效遏制“流量为王”的恶性竞争。在不正之风下，维护法律公序良俗模糊控制算法c程序，倡导主流价值取向。

但是，说到《条例》对行业，尤其​​是算法市场的影响，是不是就意味着“在镣铐中跳舞”？有受访者表示认同，但朱一聪不这么认为，“更像是指路。” 朱以聪说，立法往往比企业的无序发展要好，用严格的法规来纠正，“对企业和行业的发展影响小得多”。

尤其是从目前的情况来看，目前算法推荐相关的公司并没有受到很严厉的处罚。在此基础上，颁布了《条例》。朱一聪认为，可以先从立法层面引导行业，避免后续跟进。发展过程中出现的重大问题，有利于行业整体健康发展。