抖音升级平台预防网暴能力 将上线国内首个“发文警示”功能

2月23日消息，今日，抖音安全中心发布抖音关于多举措预防网暴，首家上线“评论发文警示”等功能的公告。

公告显示，网络暴力现象频频发生，为打造风清气正的网络氛围，为用户持续提供友善、健康、美好的网络社交生活体验，近日，抖音全面升级平台预防网暴能力，为用户提供8项功能，全方位管理评论和私信。其中，针对不当私信，新上线“风险提醒”和“负向内容过滤”等功能；针对已发送的不当评论，即将上线国内首个“发文警示”功能，进行拦截。

抖音表示，在互联网平台中，发布评论、私信是公众对社会热点事件和人物表达意见最主要的方式和场景，具有发布成本较低、传播效率较高，容易产生骚扰、人身攻击、侮辱谩骂甚至诽谤造谣等行为。数据显示，抖音每天产生8亿条评论，其中，被投诉、举报并最终处理的不当评论中，“谩骂，人身攻击”占比32.79%。

针对评论，抖音即将上线国内首个“发文警示”功能，引导用户友善评论。该功能下，若系统模型判定已经发送的评论存在问题，则会推送弹窗提醒，建议发送者重新编辑，去除不当言论。如果发送者坚持发送，则该条评论不会在评论区出现。近期，该功能已开启小范围测试，目前可日均减少约3万条不当评论。

据了解，此前，抖音已上线“评论权限分层管理”、“关键词屏蔽”、“评论精选”三项功能。在“评论权限分层管理”下，用户可通过“权限设置-高级设置-谁可以评论”设置评论权限，根据自身需求从“所有人”、“仅粉丝”、“仅互关朋友”、“仅自己”四个选项中，自主选取谁可以对自己发布的内容进行评论。

同时，在私信方面，抖音新增“用户风险提醒”和“负向内容过滤”两大功能。在“用户风险提醒”功能下，当系统模型识别发现，用户刚接收的陌生人私信存在风险时，会对用户推送弹窗，提示其“是否认识该用户”。如果用户选择“不认识”，系统会再次弹窗，提示用户可进行“拉黑、举报、移除粉丝”等操作，确保自身安全。目前，该功能日均会对25万次会话发出风险提示，引导用户自主管理社交对象。

而在“负向内容过滤”功能下，当模型判定用户收到的私信消息为“谩骂或骚扰”，该消息会被直接放入“陌生人盒子—垃圾信息”中。该功能已日均为7万用户服务。此外，抖音还推出了“心情暖宝宝”助手，以根据用户内容情绪倾向，通过消息对话的交互方式，缓解用户负向情绪。

据介绍，抖音上线的一系列预防网暴的功能，提供了从私信到评论，从主动管理发送者到接收者自我管理的多场景的服务能力。抖音表示，抖音直播一直致力于为用户提供积极、美好、绿色、健康的内容生态环境，始终坚持平台治理的高标准、高要求，将持续通过完善产品功能、强化社区治理等从严打击网络暴力行为。此外，抖音呼吁用户在日常使用抖音过程中要理性交流、友善沟通，共同营造健康、积极的网络环境。