抖音升级AI内容识别能力，严打借“AI教程”之名传播低俗擦边内容

SmartHey4月24日消息，为切实守护清朗网络生态、保障用户合法权益，抖音持续开展针对色情导流、低俗擦边等违规行为的常态化治理。随着治理不断深入，部分违规用户频繁变换手法，借助新型暗语、AI生成技术等手段伪装内容，企图规避平台审核。对此，抖音持续强化风险感知能力，迭代升级AI识别模型，将各类隐蔽化、技术化的新型违规内容及时纳入管控体系。

此前，平台已启动对“发布及传播AI生成低俗内容”行为的专项治理，并公开通报相关处置结果。近期监测发现，个别用户以“AI教程”“AI绘画入门”等看似中立的名义，实际发布诱导生成低俗、擦边甚至大尺度AI内容的操作指南，以此实现违规导流、快速涨粉等目的。抖音对此类行为采取零容忍态度；凡涉及违法犯罪的，平台将依法固定电子证据，并第一时间向网信、公安等主管部门移交线索。

典型案例公示：

1、收购他人账号批量发布低俗内容实施导流牟利，三名嫌疑人被依法刑事拘留

平台在巡查中发现，有违规用户通过非法渠道批量收购闲置抖音账号，集中发布低俗擦边内容吸引粉丝，再将流量导向第三方App，从事传播淫秽信息、为非法色情网站及应用导流等违法活动。平台迅速完成证据固化与链路溯源，同步上报执法部门。目前，涉案三名犯罪嫌疑人已被公安机关依法刑事拘留。

2、使用隐晦代称传播“AI生成敏感内容”教程，两周内处置违规内容超3000条

平台识别到部分账号以“w**w”“9**8”等变体暗语，隐晦分享AI生成大尺度图像的提示词（Prompt）、操作流程及工具推荐，严重违反《抖音社区自律公约》。抖音随即启动专项清查，近两周累计下架相关内容3000余条，相关账号均已依规予以禁言处理，并关闭其导流入口。