微博:全面清理平台内违规 AI 教程及商品信息,从严打击滥用 AI 生成谣言等行为
6 月 13 日消息,微博官方账号 @微博管理员 今日发文称,为营造文明、和谐、健康的网络生态环境,维护平台良好的网络传播秩序,微博积极响应中央网信办“清朗・整治 AI 技术滥用”专项行动要求,切实履行平台主体责任,对各类 AI 技术滥用违规行为开展专项整治工作。现将本阶段治理情况公示如下:
站方全面清理平台内违规 AI 教程及商品信息,重点整治传授伪造换脸视频、换声音频的教程内容,下架违规售卖的“语音合成器”“换脸工具”等商品,并严厉打击相关营销、炒作行为;
从严打击滥用 AI 生成谣言、伪造新闻等违规行为;
优化发布流程,提升技术识别能力,建立畅通用户反馈渠道,多措并举完善 AI 生成内容标识体系;
通过策略识别、人工巡查及用户举报等多渠道审核,累计处置违规 AI 生成内容 4800 余条,持续提升平台治理效能,典型违规案例如下:
案例一:
用户 @ai 技术讲解员、@23 号 3 月妩媚芋泥在炒股因发布“最强免费 AI 声音克隆工具, 3 分钟教会你用 AI 克隆任何声音!超详细免费 AI 克隆教程找我领取。”等违规内容,传授利用违规 AI 产品伪造换脸视频、换声音频等教程信息,站方已予以关闭账号处置。
案例二:
用户 @rope 直播、@AI 工具人_001 因发布“AI 换脸 V6.0 来啦,解压即用的免费换脸工具,需要的可以私信。”等违规内容,售卖违规“语音合成器”“换脸工具”等商品信息,营销、炒作、推广违规 AI 产品信息,站方已予以关闭账号处置。
微博官方称,将持续加大对各类涉“AI 生成”相关违规行为的打击力度,同时以此次专项整治工作为契机,全面构建 AI 内容安全治理体系,在技术研发、内容审核、用户教育等环节持续投入。
附原文截图如下: