快手发布《2023暑期青少年数据报告》 处置不良违规视频18万余条

9月6日消息，快手今日发布《2023暑期青少年数据报告》。报告显示，今年6月28日起，快手开展为期2个月的暑期未成年人网络环境专项治理，全面深入清理不良信息和内容，对于涉未成年人不良信息从深从细整治、从严从重处置。

专项治理重点包括：涉未成年人的有害信息，尤其利用谐音变体、AI等传播有害信息；欺骗、诱导未成年人，如教授未成年人破解防沉迷系统等；未成年人网络霸凌，如恶意传播泄露未成年人隐私的欺凌视频；利用未成年人群体或身份炒作、博取关注；影响未成年人身体健康的不良信息和行为，如诱导吸烟喝酒等；其他严重侵害未成年人合法权益的有害信息。

快手《2023暑期青少年数据报告》截图

来源：快手大数据研究院公众号

报告数据显示，在两个多月的时间里，快手通过暑期专项治理共处置违规视频182778条、违规账号6387个。

据介绍，随着生成式AI技术的迅速发展和普及，在“不良内容、重点账号、评论治理”等3个传统场景进行重点治理的基础上，快手今年在“生成式人工智能”场景下专项提升算法的识别能力，围绕未成年人暑期网络环境专项治理重点领域，根据治理要求的迭代，不断细化审核规则、搭建1个专项审核队列，通过“4+1”的模式全面压缩有害信息隐形变异的生存空间，遏制侵害未成年人权益的违法行为。

快手《2023暑期青少年数据报告》

来源：快手大数据研究院公众号

快手面向4大治理场景升级了青少年保护专属算法模型。其中，针对不良内容，采用了未成年人算法识别模型、皮肤裸露面积识别模型；针对重点账号，采用了儿童人脸与场景结合识别模型、异常用户识别算法模型；针对评论治理场景，采用了语音语义识别算法模型和谐音词、变异词识别模型；针对生成式人工智能，采用了Al转换内容识别模型。

此外，根据新出现的不良内容样本，在此前三重机审+多重人审的基础上，进一步细化审核规则在暑期专项期间，搭建涉及校园主题专项审核队列。要求审核经验丰富审核员对相关内容进行专审，按照从严审核的标准处置相关不良视频。