专家解读 |《互联网信息服务算法推荐管理规定》系列解读一：合规红线和义务清单
2021年12月31日，国家网信办会同工信部、公安部、市场监管总局出台《互联网信息服务算法推荐管理规定》（以下简称“《算法推荐管理规定》”），全面规范互联网信息服务算法活动，旨在实现算法技术创新与用户权益保障之间的动态平衡。本文将对《算法推荐管理规定》的监管关注点以及企业需要着重注意的合规要求进行分析。
01 算法推荐服务的监管关注点
随着数字经济的高速发展，算法应用本身带来的社会问题不断积累，引起社会的广泛关注，《算法推荐管理规定》可谓是一个阶段性的法律回应。需要明确的是，算法监管的对象不是算法技术或应用本身，而是设计和使用算法的人。规则的设计意在通过义务设置引导人的行为。
根据相关参与立法支撑工作专家的说明，出台《算法推荐管理规定》主要聚焦在算法引发的五个方面的社会问题：
一是大数据杀熟问题；
二是诱导沉迷网络问题；
三是劳动权益保障问题；
四是偏见歧视问题；
五是未成年人和老年人权益保障问题。
为了解决这些问题，《算法推荐管理规定》一方面对所有算法推荐服务提供者的整体要求，例如“建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全评估监测、安全事件应急处置等管理制度和技术措施，制定并公开算法推荐服务相关规则，配备与算法推荐服务规模相适应的专业人员和技术支撑”，另一方面则针对场景提出一系列具体要求。以下归纳为“十不得”和“十六应当”。
02 合规红线：“十不得”
基于算法引发的重点问题，《算法推荐管理规定》对算法推荐服务提供者提出了十项禁止性要求。企业应将“十不得”作为其合规红线，逐项排查。而且这些行为不仅违反《算法推荐管理规定》，也有可能违反其他法律规则。
“十不得”清单
| 禁止事项 | 具体内容 |
| 违法和不良信息 | ▽ 不得利用算法推荐服务传播法律、行政法规禁止的信息
▽ 不得生成合成虚假新闻信息，或传播非国家规定范围内的单位发布的新闻信息 ▽ 不得向未成年人推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息 |
| 诱导沉迷 | ▽ 不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型
▽ 不得利用算法推荐服务诱导未成年人沉迷网络 |
| 算法歧视 | ▽ 不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为
▽ 不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息 |
| 算法操控 | ▽ 不得利用算法虚假注册账号、非法交易账号、操纵用户账号或者虚假点赞、评论、转发
▽ 不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现，实施影响网络舆论或者规避监督管理行为 |
| 垄断和不正当竞争 | ▽ 不得利用算法对其他互联网信息服务提供者进行不合理限制，或者妨碍、破坏其合法提供的互联网信息服务正常运行，实施垄断和不正当竞争行为 |
03 主要合规义务：“十六应当”
《算法推荐管理规定》对算法推荐服务提供商提出了多项合规义务要求。总体来看，企业的算法合规义务可以分为完善信息服务规范、加强用户权益保护和特殊人群权益保护三方面。企业应当重点关注《算法推荐管理规定》明确要求的十六项应当履行的合规义务，并和前述五类问题进行对照。
“十六应当”清单
| 类别 | 企业应当履行的义务 | 具体内容 |
| 信息服务规范 | 算法安全主体责任 | ▼ 应当建立健全算法安全管理制度和技术措施，配备相应的专业人员和技术支撑
▼ 应当定期审核、评估、验证算法机制机理、模型、数据和应用结果 |
| 信息安全管理 | ▼ 应当建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序
▼ 发现未作显著标识的算法生成合成信息的，应当作出显著标识后，方可继续传输 | |
| 用户模型和用户标签管理 | ▼ 应当加强用户模型和用户标签管理，完善记入用户模型的兴趣点规则和用户标签管理规则 | |
| 版面页面生态管理 | ▼ 应当加强算法推荐服务版面页面生态管理，建立完善人工干预和用户自主选择机制，在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息 | |
| 提供互联网新闻信息服务的算法推荐服务提供者 | ▼ 算法推荐服务提供者提供互联网新闻信息服务的，应当依法取得互联网新闻信息服务许可，并规范开展相关互联网新闻信息服务 | |
| 具有舆论属性或者社会动员能力的算法推荐服务提供者 | ▼ 具有舆论属性或者社会动员能力的算法推荐服务提供者，应当向网信部门办理算法备案，并在备案后公式相关备案信息
▼ 应当按照国家有关规定开展安全评估 | |
| 用户权益保护 | 强化算法透明度，保障用户知情权 | ▼ 应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等 |
| 赋予用户退出个性化推荐的权利 | ▼ 应当向用户提供不针对其个人特征的选项或者向用户提供便捷的关闭算法推荐服务的选项，并且如果用户选择关闭，应立即停止提供相关服务 | |
| 赋予用户标签的管理权 | ▼ 应当向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能 | |
| 保障用户和公众的申诉、投诉、举报的权利 | ▼ 应当设置便捷有效的用户申诉和公众投诉、举报入口，明确处理流程和反馈时限，及时受理、处理并反馈处理结果 | |
| 特殊人群权益保护 | 未成年人 | ▼ 应当依法履行未成年人网络保护义务，通过开发适合未成年人使用的模式、提供适合未成年人特点的服务等方式，便利未成年人获取有益身心健康的信息 |
| 老年人 | ▼ 应当保障老年人依法享有的权益，充分考虑老年人出行、就医、消费、办事等需求，按照国家有关规定提供智能化适老服务，依法开展涉电信网络诈骗信息的监测、识别和处置，便利老年人安全使用算法推荐服务 | |
| 平台劳动者 | ▼向劳动者提供工作调度服务的企业，应当保护劳动者取得劳动报酬、休息休假等合法权益，建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法 |
04 总结
2022年可谓“算法监管元年”，《算法推荐管理规定》只是起点，后续预计还会有其他和算法有关的规则出台。尤其是《数据安全法》《个人信息保护法》《反垄断法》的多项配套措施将会颁布，也会涉及与算法有关规则的细化。目前算法监管的很多理论问题和具体标准都还没有定论，因此也是一个循序渐进的过程，目前观察总体方向将是场景化的精确治理。
（文章来源：）