T/AII 002-2021 基于人工智能的未成年人不良信息审核技术要求

主要技术内容:本标准以净化网络空间色情低俗、暴力欺凌等危害未成年身心健康的不良信息为目标，提出基于人工智能的未成年不良信息审核标准，明确审核架构、审核信息载体、未成年人不良信息的范围和细分类别、基于人工智能的审核算法评估标准以及审核流程。本标准覆盖范围包括未成年人在互联网中接触到的包括社区、论坛、社交媒体、聊天应用、网站、博客、短视频、直播、视频点播、流媒体、云盘、网盘、电台、游戏等各个场景。归纳的信息载体包括载体文本、图像、视频、音频、文件与URL六大类。本标准定义的年人不良信息可以分为两大类：未成年人主体敏感内容与未成年人不宜内容。未成年人主体敏感内容指对以未成年人为行为主体的敏感内容进行鉴别与拦截，可细分为四个二级类目：未成年人色情低俗、未成年人个人隐私、未成年人暴力欺凌与未成年人不良行为。未成年人不宜内容对未成年人不宜接收的信息进行过滤，可以细分为三类二级标签：未成年人不宜行为、未成年人有害信息和未成年人不宜ACG。本标准规范的机器审核评估准则分为预评估、效果评估和性能评估，并给出了详细的评估细则和流程。本标准规范的未成年人不良信息审核流程应采用以人工智能机器审核为主，人工审核为辅的审核方式，可以配合达到最优的审核效果