网络空间是人类共同的精神家园,也是国家治理的重要领域。每年“清朗”专项行动都会更新监管重点,2023年重点聚焦9方面问题,最重要的包含从严整治自媒体乱象、打击网络水军操纵内容信息、规范重点流量环节网络传播秩序、优化营商网络环境、生活服务类平台内容信息整治、整治短视频内容信息导向不良问题、2023年暑期未成年人网络环境整改治理、网络戾气整治、2023年春节网络环境整改治理。旨在整治网络生态明显问题,打击各种各样的形式的违法犯罪活动,维护社会安定,保护人民群众利益。
网络空间的安全治理需要各方通力配合,中国移动智慧家庭运营中心积极履行社会责任,构建贯众和盾内容安全防护系统,提供智能高效的内容安全防护解决方案,通过结合AI技术+审核策略,实现分场景业务管控,助力在短视频导向不良、网络戾气方面开展整治,面向社交平台、 视频直播、短视频等多业务场景提供不良内容审核服务。
短视频慢慢的变成了广大网民获取信息、获取服务、互动交流、文化娱乐的重要载体,是重要的传播方式,但同时短视频平台内容导向不良问题严重,影响青少年健康成长,损害人民群众合法权益。从短视频内容来看,其主要包含视频、图片、文字、音频等形式,存在不良内容导向的场景最重要的包含短视频内容、评论、弹幕等。
中国移动贯众和盾内容安全防护系统通过结合图像处理、自然语言处理、OCR、人脸识别、音频理解等人工智能技术,针对短视频场景特点,一直在优化审核策略和算法,及时识别短视频中的涉黄、暴恐、违禁、涉价值观等内容,并告警给业务侧,遏制不良导向内容传播,助力短视频行业健康发展。
网络暴力行为的存在不仅对受害人带来非常大的影响,同时也破坏了社会正常秩序,网络言论的公信力大幅度降低。近几年,因网络暴力导致受害人抑郁、自杀的案例日益增多。贯众和盾内容安全防护系统,凭借在自然语言处理领域技术积累和能力提升,利用文本情感分析、文本句法/词法分析、社交网络分析和知识图谱、模型压缩等技术,辅助业务深入排查评论区、话题、圈子等网络戾气集中版块内容,对发布的违规内容做快速识别和告警,满足线上检测的实时性要求,减少谩骂暴力言论的传播风险。
中国移动贯众和盾内容安全防护系统已升级完善文本垃圾清理、图片检测过滤、视频违规定位、音频精准识别、文件综合防范、URL深层扫描、复合消息治理等七大核心能力,并在云网盘、即时通信、社交平台、短视频等场景进行应用。截至目前,已累计过滤消息超249亿条、累计拦截违规消息达1.8亿条。
中国移动智家中心将始终践行企业社会责任,持续优化升级能力建设,为客户提供高效、安全、便捷的内容审核服务,为打造“清朗”互联网空间,维护幸福网上家园助力。