阿里联手中科大等高校 研发4项AI安全技术

2月23日消息，据TechWeb消息，阿里安全图灵实验室涉及文本变异对抗、图像、视频内容风控以及AI小样本研究的4个团队，分别与中国科学技术大学、浙江大学、华中科技大学等知名高校研究人员合作。

据悉，阿里和上述高校合作研发了包括“内容安全、文本反垃圾、AI模型鲁棒性、营商环境治理”4项新一代安全架构核心AI安全技术成果，均被国际会议ICASSP（International Conference on Acoustics, Speech and Signal Processing）2021收录。

具体来看，以文本内容为例，恶意用户可通过对文本中的违规内容进行变形变异，从而达到绕开模型识别检测的目的。为应对挑战，解决对抗场景中风控模型性能衰减的问题，阿里安全图灵实验室与浙江大学提出了基于对抗关系图的文本对抗防御技术。

《电商报》注意到，电商平台的各种模态商品数据迅速增长，如何从中快速且准确地找出用户需要的商品是一项挑战。

在阿里安全图灵实验室实习的浙江大学硕士生马哲介绍，这次研究在文本-商品图像跨模态检索的场景下，提出了HSL网络和两种不同粒度的相似性度量方式，可显著提升商品图像检索的性能，并能适应复杂的商品内容检索。