抖音：将主动多样化推荐 “人工+机器”协同治理内容

中证报中证网讯（记者 杨梓岩）日前，抖音在北京举办“安全与信任中心开放日”活动，相关业务负责人就抖音算法原理、平台治理体系以及社会关切的问题，展开了详细介绍。

据介绍，推荐算法作为人工智能机器学习技术的重要应用场景，本质上是一套高效的信息过滤系统。在抖音的实际应用中，推荐系统采取“人工+机器”协同的方式进行风险治理，始终有人工运营和治理体系为算法导航；同时多目标体系算法能主动打破“信息茧房”，为用户带来更丰富多元、实用可靠的推荐结果。

抖音算法工程师刘畅介绍，抖音的推荐算法与国内外大部分内容推荐平台相似，包含召回、过滤、排序等环节，重点是学习用户行为。

抖音基于用户行为的推荐方法包含多种技术模型，如协同过滤、双塔召回、Wide&Deep模型等。算法可以在完全“不理解内容”的情况下，找到兴趣相似的用户，把其他人感兴趣的内容推荐给该用户。目前，抖音算法已几乎不依赖对内容和用户打标签，而是通过神经网络计算，预估用户行为，计算用户观看这条内容获得的价值总和，把排名靠前的内容推给用户。

为引导算法打破“信息茧房”，抖音算法在多目标建模体系下，设置了专门的探索维度。一是对用户在平台上已经表现出的兴趣，尽可能推荐更多样的内容，通过多样性打散、多兴趣召回、扶持小众（长尾）兴趣等方法控制相似内容出现的频次。二是帮助用户探索更多新兴趣，采用随机推荐、基于用户社交关系拓展兴趣、搜索推荐联动、“不感兴趣”不再展现等多种方式，让用户的主动行为影响推荐系统，使推荐更加个性化和多样化。

算法能学习、预估用户行为，但因其无法理解内容语义，对内容的理解存在不足，可能导致违法违规、不良内容被推荐传播。因此，算法在真实使用场景中，必须由平台治理对其进行约束和规范。

抖音生态运营经理陈丹丹介绍，抖音的内容治理体系是“人工参与+机器学习”相结合的模式，并组建了专门的平台治理团队为算法设置“护栏”。

抖音平台治理体系包括异常感知、标准定义、机器识别、人工研判、风险处置等过程。治理流程秉持两大准则，一是所有在平台发布的内容都会经过评估，流量越高的内容评估次数越多，标准也越严格；二是抖音内容审核采用“人工+机器”相互配合的模式，“机器”负责“宽度”评估所有投稿，“人工”负责“深度”，确保专业、敏感或疑难等问题尽可能精准研判。