在当前内容生态中,平台正通过算法升级和人工审核结合的方式,重点打击以下五类低质垃圾内容,这些内容不仅损害用户体验,还破坏了健康的创作生态:
一、AI批量生成的无意义内容
- 表现形式:利用AI工具批量生成逻辑混乱、高度雷同的低质短视频或图文,如“胖妞掉水里”“大公公掉坑”等无厘头剧情。
- 判定依据:内容同质化严重、制作成本极低、发布频率高,旨在通过海量铺量赚取平台流量分成。
- 典型案例:快手账号“胖公公Ai”、抖音账号“情侣塌床日记”等,因批量生成传播此类内容被依法处置。
二、恶意“魔改”经典内容
- 表现形式:滥用AI技术“魔改”中国古典文学名著或经典影视作品,制作传播含有血腥、恐怖、诡异画面的内容。
- 判定依据:歪曲经典名著的文化内涵,对未成年人身心健康造成直接侵扰,部分视频还刻意配上“儿童动画”“亲子共读”等标签诱导点击。
- 典型案例:微信账号“阿宥游戏解说”、小红书账号“跨界玩家”等,因“魔改”《三国演义》《西游记》等经典名著被依法处置。
三、批量制造“真实故事”引流变现
- 表现形式:利用AI批量生成渲染家庭矛盾、打造“霸道总裁”虚假人设的图文视频,将这些虚构剧情包装成“真实故事”吸引用户追更,最终植入商品链接或引流至私域变现。
- 判定依据:内容虚构、误导用户,通过虚假人设和剧情吸引流量进行商业变现。
- 典型案例:账号“万江”“悦心”等,因走上“霸总流水线”模式,利用AI批量生成此类内容被依法处置。
四、利用AI蹭热点造谣
- 表现形式:使用旧图旧闻“移花接木”,发布虚假图文和视频,散布涉公共事件、名人动态的谣言信息。
- 判定依据:内容虚假、扰乱公共秩序,利用公众对热点事件的关注制造虚假内容收割流量。
- 典型案例:账号“倪”“如此说”等,因使用旧图旧闻发布涉春运保障的谣言信息被依法处置;网民“*兰”利用AI换脸技术,将自己的面部替换成某知名公众人物,拍摄“回乡过年”等场景视频,营造假象,引发大量转发,直至官方辟谣。
五、低成本创作的低质内容
- 表现形式:包括一文多发、低质图片轮播、大字报、低成本混剪等方式。如将本人创作的内容简单修改后多次发布,使用数量较少的非原创图片或质量较低的原创图片组成低质图片轮播内容,后期添加的纯文本/数字在画面中面积占比较高且时长较长影响用户体验和信息传达的低质内容,仅将多个画面拼合无剪辑思路和主题的低质混剪内容等。
- 判定依据:内容制作成本低、缺乏原创性和深度,通过简单复制或拼凑方式快速生成大量内容。
- 典型案例:不同达人发布多个相同的作品,挂载不同城市不同地点的poi,涉嫌一文多发违规;创作者使用两张随手拍的低质图片轮播做成短视频宣传某品牌的商品,涉嫌低质图片轮播违规等。