抖音上线安全与信任中心网站 首次公开推荐算法原理

刘峰
2025-03-30 17:56

在2025中国网络媒体论坛上,抖音总裁韩尚佑宣布“抖音安全与信任中心”网站上线,面向社会公开抖音算法原理、社区规范、治理体系和用户服务机制。

该网站首次公开抖音推荐算法原理,介绍其推荐算法如何预估用户行为概率,并通过多目标建模等方式实现更优质、丰富的内容推荐。算法需由平台治理体系对其进行约束和规范,网站也披露了抖音平台治理的审核流程,阐述平台如何应对谣言、网暴等违规内容带来的挑战。

今年1月,抖音集团回应国家有关部门组织开展“清朗·网络平台算法典型问题治理”专项行动,宣布拟推出10项措施,切实推动平台工作透明化,创建安全与信任的平台环境,打造更良好的网络生态。此次网站上线,标志着措施进一步落地。

d533f94ef3a4a9e0ab9245ecaaeb7513_1906273886516973568_1280px_width=1280&height=852-800.png

图源:潮新闻

韩尚佑在会上介绍了抖音算法原理,他表示,很多人对推荐算法技术存在误解,认为算法是给内容打上对应标签,再通过给用户打上对应的属性,最后通过数据运算,把对应标签的内容,推荐给有对应属性的用户。

但随着机器学习技术的发展,抖音的推荐系统,已经几乎不依赖对内容或者用户打标签,而是通过一系列神经网络计算,直接预估每一个用户对每一个内容的目标行为,比如点赞、关注、分享、评论的概率,并挑选出概率最大的一部分内容,推荐给用户。

韩尚佑表示,大规模计算模型也带来了挑战,例如,即使最好的算法工程师,可能也没办法具体解释出为什么把这个视频推荐给了某个用户,而另一个用户认为会更喜欢的视频没有被推荐。这些都让算法给用户带来了一些陌生和“不可控”的感觉。但抖音通过一系列实践认知到,算法虽然很复杂,却可以被“调教”和“驯化”。

韩尚佑表示,真正实现算法的“向上”和“向善”,需要回到算法的原理和生效机制层面去持续改进。抖音将以“平等友善、丰富多元、真实美好、积极健康、尊重知识、鼓励表达”的《社区运营规范》作为原则,不断优化平台算法和业务运营。

f19b24eb969cf503885ce313f8a58ae8_1906273886516973570_1280px_width=1280&height=719-800.jpeg

图源:潮新闻

抖音安全与信任中心网站首次公开平台治理体系,详解了治理体系如何对算法进行约束、规范,保障内容安全。网站介绍了平台治理标准制定、治理流程、专项治理概况。其中详细解释了抖音机器审核与人工审核的协同机制,初审、复审、三审的审核流程,及每一层审核环节对应的把关要点。经由此链路,所有在平台发布的内容均会经过评估。流量越高的内容经过评估的次数越多,标准也越严格。

除了普遍性风险内容的治理,针对社会普遍关心的、呈现聚集特征的焦点问题,抖音也成立了专项治理团队。如抵制网络暴力、未成年人保护、AI生成违规内容治理、谣言治理等典型问题,平台均设置了相应的治理标准、识别策略、处置手段和风险巡查能力。

除了阐释公众关切的算法、治理等议题,网站也公布了平台倡导的社区价值,以及对优质内容的定义。“用户服务”板块中,网站提供了常见问题答疑,及未成年人保护、人身与财产安全服务、用户与企业权益服务等路径指引。

1、该内容为作者独立观点,不代表电商派观点或立场,文章为作者本人上传,版权归原作者所有,未经允许不得转载。
2、电商号平台仅提供信息存储服务,如发现文章、图片等侵权行为,侵权责任由作者本人承担。
3、如对本稿件有异议或投诉,请联系:info@dsb.cn
相关阅读
1月4日消息,集团宣布拟推出10项措施,切实推动平台工作透明化,创建安全信任的平台环境,打造更良好的网络生态。2025年,将推进算法透明化,建设安全信任中心网站和线下公示展厅,面向社会全面深入地公开的算法基础运作原理、运营机制,也将对外公布各类热点榜单的计算原理和机制,提高透明度。
2025年,将推进算法透明化,建设安全信任中心网站和线下公示展厅。
报告显示,2021年1月至6月,安全中心主动封禁涉嫌诈骗帐号超过80万个,拦截下架涉嫌诈骗视频内容超过100万条。同时,安全中心多地警方跨平台联动,落地打击网络诈骗团伙57个,抓获诈骗分子273人。报告显示,2021年1月至6月,搜索防诈温馨提示展现量超过1177万次,其中,针对常见刷单诈骗的温馨提示展示量超过126万次。
9月19日消息,安全中心发布公告称,为倡导风清气正的社区氛围,保障用户财产安全,服务杭州第19届亚运会顺利举办,针对赛事期间可能出现的赌博、诈骗行为提前进行了专项治理。2023年7月1日至今,平台已经对9.6万个涉及赌博导流的账号实施封禁。亚运会期间,平台还将针对球类、电竞赛事相关的赌博行为进行重点打击和治理。
阿里安全、阿里公益安全中心今日正式联合发起绿网计划2.0公益项目,旨在帮助未成年人解决遇到的各类网络安全问题。
4月1日消息,安全中心发布的《2020年安全年度报告》显示,2020年,安全中心开展打击网络诈骗、清理色情低俗内容、对抗网络黑灰产,以及未成年保护等安全治理工作,全年共处罚违规帐号1717.1万个,事先拦截违规视频内容超过2.64亿条,封禁涉嫌诈骗帐号97.4万个。报告还显示,安全中心在2020年公安部门积极配合,联动打击黑产、诈骗团伙54个,抓获嫌疑人504人。
10月22日消息,官方发布了关于开展账号运营治理行动的公告。表示,此次治理行动重点整治违法违规账号“转世”、账号信息违法违规、大V账号虚假粉丝、恶意营销/炒作账号及向未成年人提供游戏账号租赁服务等问题行为现象。安全中心持续提升对“转世账号”、“重生小号”的发现和打击力度,完善账号黑名单禁入机制,严禁被封禁账号使用其他规避手段再次注册,对发现的违规账号小号,一律从严处置。
刘峰
关注人物,保持真实