此外，不少生活中的普通女性在学校、商场、办公室、地铁等日常场景中的照片也成为AI盗脸的对象，她们被AI换脸或脱去外衣，相关图片有数千甚至上万次的浏览量。
虚假宣传：AI生成大量雷同图文
对于AI来说，生图以及文字相比视频而言就更为容易，因此，在社交媒体上也充斥着大量图文雷同的营销文章。
据上游新闻9月报道，近日，有网友发帖提醒武汉家长警惕机构新型软广，类似图文大量出现，文案相似、排版统一、场景雷同，该网帖引发热议。在评论区，网友贴出大量相似标题的图文内容，封面多为母子或父女合影，搭配“校门”“逆袭”“感恩”关键词，看似是一则则教育成才故事，实则逻辑雷同、图文高度相似，引发网友质疑：这是不是一种具有隐蔽性的新型“软广骗局”？
平台上大量类似标题的图片是合成的，系统一的背景图片。网络截图
“在武汉，儿子已经过上普通人最好的生活”“大连父母托举，娃逆袭”……近日，有武汉网友在社交平台发帖提醒，“武汉家长警惕机构新型软广，平台上大量类似标题的图片是合成的，统一的背景，天空纹路背景车辆一模一样，模板就是列举年支出，然后好似无意提到小孩补习班，然后趁机推荐教培。”在评论区，有细心网友还指出破绽，“背景里的天空、树木和建筑完全一致，只是换了个孩子的脸”“同一张娃娃脸，换个城市定位就变成另一组家长的故事。”有网友在评论区发出质疑，指出这些图文很可能不是实拍，而是AI合成。
为弄清这些“教培软广”网帖背后的运作机制，9月24日，上游新闻记者以“教育机构推广合作”名义，联系华南地区一家社媒营销公司。对方工作人员钟女士直言，目前此类推广几乎已实现“AI全包”操作——AI生成文案、AI合成图片，再通过批量购买或操控的“素人账号”（即粉丝量低于100的普通用户账号）发布。
网友展示多张“帅气男生正、副驾自拍图”。这些人物图片被重复使用，只更改文案中的城市和人设标签。网络截图
“社媒平台上大量雷同的文案，99%都是AI写的，谁还真写什么亲身感受啊？”钟女士介绍，教培机构只需提供推广方向和基本预算，营销方便可以根据固定模板批量生成图文内容，“图片大多是AI合成的，只要客户提供几张参考图，就可以批量生成‘新生活照’。”
账号投放是引流的关键一环。钟女士推荐使用“素人号”，即粉丝量低于100的普通账号，看上去更具“生活气息”。“一条软文在这种号上发一次，费用是六七十元；投放起步一般就是500个号，3万多元能投放一次。”她解释，这类账号更容易通过平台审核，“只要文案里不出现明确广告词、不挂课程名，一般不会被判定为硬广。”
据介绍，部分教培机构为了更高的转化率，还会自建“素人号矩阵”，通过内容发布系统统一投放图文，并由专人接管后台私信，实现“自控流量入口”。一旦账号被投诉或查封，只需“清号换号”重新上线，整个链条运转依然如常。
钟女士透露，除教培行业外，婚恋平台、外卖门店也是“照骗软广”的高发领域。
AI谣言：每天发布收入可上万
人工智能时代，利用AI造谣日渐频繁。
有报告指出，在各类AI谣言信息量占比中，经济与企业类谣言和公共安全类谣言占比最多、增速最快，其中餐饮外卖、快递配送等民生行业成为谣言重灾区。
调查发现，人工智能技术让网络谣言内容更为逼真，常配有伪造的图片、视频甚至所谓“官方回应”，极具迷惑性。
不久前，某著名食品公司向安徽省合肥市公安局经开分局报案称，多个网络平台上集中出现大量虚假、带有诱导性的负面文章，恶意攻击公司品牌及产品品质。公安机关立案调查，民警在多个平台发现关于该品牌“二氧化硫残留”“霉变”等内容的文章两百余篇，且内容高度雷同。
经公安机关核实，上述内容均为虚假信息。信息发布者陈某被行政拘留。陈某交代，今年8月，他在网上看到该公司相关信息后，想到知名企业涉及食品安全问题，容易引发公众关注。为博取流量，他使用AI工具编造内容，生成多篇虚假负面文章，在多个平台集中发布。
某AI软件生成图片的交互页面。网络截图
业内专家指出，传统谣言生产依赖造谣者人工操作。如今，造谣者使用AI工具，只要输入特定关键词或指令，便可快速生成内容逼真、欺骗性强的谣言，从而实现谣言的大规模、高效率生产。
去年3月，江西公安机关查处一起MCN机构使用AI工具造谣案。经查，王某某经营有5家MCN机构，共运营自媒体账号842个，长期组织公司人员选取热点文章，使用AI工具批量生成不实文章进行吸粉引流。
“他平均每天通过AI工具发布4000到7000条信息，最高的一条收入是700元。经初步估算，每天收入在1万元以上。”办案民警说。
可以看到，多起AI造谣事件背后，不法者的造谣动机主要源于牟取互联网内容平台给予创作者的奖励，以及为电商平台经营引流等；一些造谣者还可以从广告收入、合同推广、直播带货或其他相关的商业活动中获益。
一名长期从事自媒体工作的博主对记者说：“以某大型内容生产平台为例，收益计算公式可以简化为‘有效播放量×互动系数×千次播放单价’。平台会对点击量高、互动性强的原创性内容给予更多收益分成。如果整体权重较高，一篇阅读或播放100万次的稿件，收益可超过1000元。”
帮人打卡：AI辅助伪造驾培记录
还有不法分子瞄上培训学时，用AI帮人“打卡”。
今年3月，重庆警方侦查发现，一些驾校学员无需实际练车即可刷满学时，背后是不法分子使用“跑马机”并结合AI技术实施作弊。这一犯罪链条涉及生产、销售、使用等多个环节，已形成黑色产业。
什么是“跑马机”？重庆市南岸区公安分局网安支队民警介绍，这是利用汽车脉冲信号原理制作的设备，其核心功能是通过侵入并篡改驾培计时系统，并运用AI技术模拟学员动态人像，达成伪造培训记录目的。
通过涉案资金追溯显示，利益链条的源头是驾校为了降低运营成本，以提供“快速拿证”为噱头，吸引学员大量报名缴费获利。与此同时，上游负责销售“跑马机”的黑代理商也获利不菲。此外，部分驾校还外接订单“代打卡”获利，其规模化运作模式显示，涉“跑马机”犯罪已演变为机构化犯罪。
截至目前，重庆警方已打掉涉案违法犯罪团伙2个，抓获犯罪嫌疑人70名，查扣“跑马机”设备384台，查处涉案驾校34家。
观点>>
AI很“忙”，但使用者不能法盲
随着AI技术不断发展，围绕AI产生的“黑色产业链”，给网络空间安全、群众人身财产安全带来威胁的同时，也改变着部分行业的生态。
本应是检验学习成果、知识水平，需要查阅各种资料完成的文章、论文，正在写手群里以极其低廉的价格出售。中间商疯狂牟取暴利。
羊城晚报认为，尽管各方看法不同，但有一个基本共识，就是明确反对捉刀代笔、剽窃伪造等学术不端行为。近期高校接连发布的有关规定，也都明确划定了这条不可逾越的“红线”，一些高校还提出今年要引用检测服务系统加强对上述行为的规范。但在更细化、具体的规定上，比如AI的使用边界和学术参与尺度上，还有很大的探讨空间。