大数据“杀熟”顽疾归根结底是滥用用户个人信息导致顽疾

新华社北京1月6日电 题：聚焦《互联网信息服务算法推荐管理规定》五要点

新华社《新华视点》记者

通过大数据“杀戮”实施不合理差别待遇，利用算法诱导用户沉迷网瘾和过度消费……目前，算法技术广泛渗透到互联网应用中。在给用户带来一定便利的同时，算法带来的危害性问题也频频出现。

算法推荐是指利用生成与合成、个性化推送、排序与选择、检索与过滤、调度决策等技术向用户提供信息。

近日，国家网信办等四部门发布了《互联网信息服务算法建议管理条例》，对长期被诟病的问题提出了明确要求。

如何解决大数据“杀戮”？无差别待遇

对于同样的配送时间、地点、订单和外卖平台，会员支付的费用高于非会员。同时，同类型的车，同一个地方，同一个目的地，曾经有一个网约车平台被用户发现，老客户收费更高。

目前，越来越多的企业利用大数据分析来评估消费者的个人特征进行商业营销。但也有一些企业利用个人信息搞大数据“杀戮”，对不同群体进行不同定价，实行“价格歧视”。

条例规定，算法推荐服务提供者在向消费者销售商品或提供服务时，应当保障消费者公平交易的权利，不得利用算法实现基于消费者偏好、交易价格等交易条件的不一致。习惯和其他特征。合理差别待遇等违法行为。

去年10月，腾讯、华为等20多家应用运营公司承诺，严格遵守用户个人隐私边界，保障用户公平交易权利，不利用大数据“杀戮”。

中国信息安全研究院副院长左晓东认为，大数据“杀人”等慢性病归根结底是用户个人信息被滥用所致。解决此类问题，首先要努力控制违法违规收集用户个人信息的行为，其次要保护用户的选择权、删除权等权益。例如，为用户提供不特定于其个人特征的选项，或为用户提供关闭算法推荐服务的便捷选项，以及为用户提供选择或删除特定于其个人特征的用户标签的能力.

诱导用户沉迷和过度消费？促进算法的良好应用

建立诱导用户上瘾和过度消费的算法模型，已成为网络消费和娱乐领域备受诟病的现象。

“如果你不能玩一些游戏，它会给你一些水，让你像中毒一样停下来；或者看着你反复浏览某个产品，它会显示两个折扣20折，三个折扣25折之类的折扣。 ..，让你尽可能多地购买。” 中国电子标准化研究院网络安全中心评估实验室副主任何艳哲说。

条例规定，算法推荐服务提供者应当定期对算法机制、模型、数据和应用结果等进行审核、评估和验证，不得设置诱导用户沉迷、过度消费等行为的算法模型。违反法律法规或违反道德规范。

中国政法大学法治研究院教授王立梅认为，算法推荐服务商应坚持主流价值取向的基本要求，推动算法应用向善。规定不得设置诱导用户上瘾、过度消费等算法模型算法4有那么好吗，这是将科技向善理念落实到具体业务需求中的体现。

“法规提出，为杜绝此类情况，相关企业需做好算法评估工作，从算法推荐逻辑、目标用户群、浏览消费行为等多个角度进行综合分析。” 何燕哲建议，为了防止算法造成的成瘾或过度消费，必要时引入第三方进行评估和审查，以保证评估的中立性。

刷控审核会影响网络舆论吗？确保算法公开透明

利用算法注册虚假账号，雇佣网络“水军”，实施虚假点赞、转发等流量诈骗，或鼓励“粉丝圈”粉丝撕逼互骂，刷评论量；屏蔽信息、过度推荐、操纵和干扰热搜、榜单或搜索结果排名……部分算法推荐服务商在开展个性化推荐、热搜等活动时，仍存在影响网络舆论的现象。和信息发布。

根据规定，算法推荐服务应遵循公开透明的原则，鼓励算法推荐服务提供者综合运用内容去重、破坏性干预等策略，优化规则的透明性和可解释性。建立健全算法机制审查、科技伦理审查、用户注册、信息发布审查等管理制度。不得使用算法来操纵列表、控制热搜等干扰信息的呈现。

“我们一直在努力整治微博上存在的刷、排、评等干扰、真实用户声音失真和信息传播等问题。” 微博负责人坦言，这些问题都是屡禁不止的背后原因。并且还存在难以找到真人刷单行为、技术上禁止已形成完整产业链的相关黑灰产品等困难。

时辉律师事务所合伙人王新瑞认为，法规要求网络平台以显着方式告知用户其提供算法推荐服务，同时要求具有舆论属性或社会动员能力的平台记录算法相关信息。一般公开+部分归档”的方式，解决不透明算法带来的现实问题和普遍关注的问题。

如何保障未成年人等特殊群体的权益？精益求精，满足不同群体的需求

近年来，部分APP被曝出儿童软色情表情包泛滥，利用未成年人性暗示短视频引流，严重损害未成年人身心健康算法4有那么好吗，影响网络交流秩序。 .

“互联网为未成年人带来了新的生活方式，也带来了未成年人的网络保护问题。” 中国社会科学院大学副院长林伟认为，未成年人的认知和判断能力较弱，价值观尚未形成。等特点，过于针对性的算法推送的内容可能会造成各种不良影响，也可能导致沉迷上网的现象。

对此，法规规定，算法推荐服务提供者不得向未成年人推送可能导致未成年人模仿不安全行为、违反社会公德、诱发未成年人不良习惯等可能影响未成年人身心健康的信息。 . 利用算法推荐服务，诱导未成年人沉迷网络。

此外，针对部分平台未能充分考虑老年人老龄化需求等问题，法规还要求，算法推荐的老年人服务提供者应当依法保障老年人的权益。法律，充分考虑老年人的出行、就医、消费。按照国家有关规定，提供智能养老服务。

专家指出，在互联网信息服务日益多元化、基础化、普及化的形势下，将细化、聚焦不同群体利益的规定，更好地保障未成年人、老年人、劳动者的权益。和其他群体。，引导算法应用遵守社会公德和伦理，遵守商业道德和职业道德。

监管如何实施？着力完善治理体系

目前，算法等新技术新应用已成为推动企业数字化转型和国家治理能力现代化的重要力量。专家认为，该规定有利于建立健全科学的监管体系，协调各方建立完整的制度链，形成算法治理的长效机制。

“事前监管，建立算法备案、算法评估等制度；差异化监管，树立分级分类理念；系统监管，建立多元治理局面。” 中国信息通信研究院副总工程师王爱华认为，法规重点是完善治理体系。通过优化监管框架，实现事前、事中、事后全流程、全链条的监管，增强监管的制度性和权威性。

星瀚律师事务所首席律师魏鑫认为，当前算法技术的应用越来越广泛，对算法的监管需要跟上。

“算法推荐作为一种新技术模型，面临着一些新的技术安全、应用安全甚至伦理安全风险。” 中国电子标准化研究院党委书记杨建军建议，为支持法规的实施，迫切需要加强算法安全技术能力建设。搭建算法推荐服务备案、算法安全评估、算法安全风险监控平台，提升算法推荐技术监管能力。（记者王思蓓、杨娜、周琳、闫志宏）