抖音出手，这类虚假网红，封！

最近两年，AI 的发展可谓是相当迅速。AI 换脸、AI 生成美女等在各个社交平台上也几乎是随处可见。

但是，也由此产生了不少问题。

比如有些人通过 AI 生成虚假人设，消费群众的爱国情怀。

这些 AI 生成的“爱国者”们，张嘴闭嘴就是“爱中国文化”、“ 想要留在中国”，或者是“想嫁给中国小伙子，做中国媳妇”。

同样的语调、同样的表情、同样的话术，无一例外都是为了博取关注，消费用户的爱国心理。

其次，就是用 AI 生成俊男美女的虚假形象，再称呼用户为「娘 」、「妈妈」、「老公」等，发布一些情感诱导、唱情歌等表达虚假感情的内容。

实际上，是为了把用户导流到微信等私人聊天工具，实施诈骗。

还有的使用 AI 打造虚假的精英人士人设，发布一些心灵鸡汤、财商、伪国学、厚黑学、伪成功学等不良内容。

吸引到粉丝后，再将粉丝引流到站外，以卖课、入群等方式获利。

又或者是 AI 换脸成明星来进行直播带货。

最近，抖音也表示，发现站内有不当使用 AI 技术生成虚拟人物发布内容的账号。

官方也处置了一大批利用 AI 技术搞事情的账号。

抖音表示，针对违规使用 AI 生成虚拟人物的行为，平台会对违规视频下架，对违规账号进行取消其投稿和营利权限、抹除账号粉丝、封禁账号等处置，并利用模型、技术识别能力等手段，进行长期系统的识别发现和处置。

对于一些账号，也在主页加上了「视频由 AI 生成」的注释。此外，发布的视频内容，也都打上了「内容由 AI 生成」的标签。

有时候，这些 AI 视频还真是真假难辨啊。