“有图有真相”？AI软件炮制网络谣言只为赚流量公安部重拳出击→
网络时代的到来，让我们每天都能接收到大量信息。但一些人为了吸引流量，编造或篡改情节，炮制出虚假信息，造成恶劣影响。耸人听闻的谣言在网络上混淆视听，撕裂人心，污染网络生态。这其中有的移花接木，有的虚实共存，更有甚者利用AI合成技术，生成逼近真实的图片、音视频，颠覆了有图就有真相的常规认知，让网络谣言难辨真假。
为吸引流量篡改事实真相 造成恶劣影响
5月18日早晨八九点钟，一则消息在网络上传播开来，郑州鸡排店惊现血案，男子用砖头砸死女子一名男子用地上捡来的砖头猛砸一名女子的头部，导致女子当场死亡。还有网帖说，河南郑州男子持板凳猛砸女子头部致其晕倒，鲜血顷刻间染红了她的头发。这些网帖作者貌似亲临现场，给人感觉就是男子无法无天，暴力杀害柔弱女子，令人触目惊心。如果按这些网帖所说，这起事件真的很恶劣，也正因如此，这迅速引发了网民的关注与转发，同样，这也引起了郑州警方的注意。
郑州市公安局航空港分局龙王派出所民警 葛海涛：本来就是一个因为吃饭喝酒发生口角引起的打架，他一放到网上，因为好多网民不知道啥情况，截取了一段，一个女的被啤酒筐打倒的视频，好多人在那上边评论，故意杀人了又是黑恶势力了……
警方调查后发现，网帖中所说的女子被打死，并不存在，而且也没有网帖中所说的砖头砸人。
郑州市公安局航空港分局网安大队民警 张效仆：实际上这个案件当中，是发生了打架斗殴治安事件，双方是轻微伤，但是由于画面显示有一个女子被男子用啤酒筐击打后倒在地上，所以很多网友就推测她被打死了，有网友在网上发布凌晨某鸡排店门口发生这种打架事件，然后一女子倒在血泊当中，头发上染满了鲜血，实际上这是不真实的言论。网上描述的情况把它往故意伤害甚至故意杀人的恶性刑事案件上去引导。
同时，警方还发现，这些网帖强化男子暴力欺负弱小女子的形象，刻意引导性别对立。
郑州市公安局航空港分局龙王派出所民警 葛海涛：最后那女的承认，是她先摔的啤酒瓶，那男的说啤酒瓶摔碎了以后溅到他身上了，那个男的喝酒了，恼了，他也掂起啤酒瓶对砸了，但是没有砸到那个女的，砸到后面过来给他帮忙那个男的身上了，然后开始打。
警方介绍，这些网帖夸大案情、篡改细节、刻意引导情绪对立，细节上渲染暴力、刺激，这些虚假描写，都让网帖更加吸引眼球，快速传播。
郑州市公安局航空港分局网安大队民警 张效仆：因为大部分不明真相的群众看到了他们发布的文章，就信以为真，认为某某某地又发生了一件性质极其恶劣的事件，容易引起网上的争吵以及一些性别上的对立。这个事件引发了大量网友关注，很多人去指责当地治安环境是不是有问题，甚至有些人无端猜测打砸的人背后是否有黑恶势力，是否有保护伞，这都对我们的网络空间秩序造成了极大扰乱。
同样，不堪其扰的还有这起案件的当事人，本来警方对双方分别给予行政拘留十至十五日处罚，双方都对当时的冲动感到后悔，但这些虚假信息让双方再次深处舆论旋涡。
郑州市公安局航空港分局龙王派出所民警 葛海涛：一评论了以后，他们也感觉到事件的严重性了，也请求公安机关赶快把事实调查清楚澄清了，不然他们受舆论的压力也大。
那么，这些虚假消息都是怎么来的呢？警方发现，案件发生后，有新闻媒体公开报道了这起案件，报道内容也是如实描述。
郑州市公安局航空港分局网安大队民警 张效仆：原来这个媒体在报道中并没有对事件的后果和恶性程度进行描述，客观描述了这个事件，一女子倒地不起，并且描述了警方已经参与调查这个事件。对这个事件的后果或者真实的情况，在不知道的情况下，没有进行主观推测。
但随后，很多自媒体的文章内容却成了上面那些虚假信息，这是怎么回事呢？对此，警方展开了追踪。
郑州市公安局航空港分局网安大队民警 张效仆：因为大部分网友在之后的传播过程当中，都是对前面不实信息的源头进行了转载，或者是在这个基础上二次创作，所以我们迅速溯源，锁定了两个源头，一个是陈某，一个是袁某，一个是在杭州，另外一个是在山东。
为赚取平台流量补贴 用智能软件生成谣言
陈某和袁某是怎么编造出这些虚假信息的呢？随着二人的归案，也揭开了这些虚假信息背后的神秘面纱。
为什么陈某发布这些虚假信息呢？
郑州市公安局航空港分局网安大队民警 张效仆：他看到了新闻报道这个事件之后，他想蹭靠热度吸粉引流，然后赚取平台的流量补贴。
民警介绍，陈某在看到新闻报道后，觉得这里面有很多地方可以加以渲染。随后，他就想到可以用现在很流行的AI软件来修改报道，并且给AI软件提出了自己的需求。
郑州市公安局航空港分局案件侦办大队二中队中队长 李源：他提出了几个比较关键的地方，第一是要吸引大众的眼球，他提出一些程序上的问题，就是占领哪些市场，提出来让年轻人看到之类的，设置了几个关键词。
民警介绍，正是在陈某这些关键词的训练下，AI给出了多篇文章，陈某选择其中自己最满意的一篇予以发布。
郑州市公安局航空港分局网安大队民警 张效仆：文章在使用人工智能编写的时候，就把所有的描述进行了夸张化或者更严重化的处理。比如说，一女子倒地不起，他将其描述成造成该女子的死亡；或者是持黑色不明物体击打该女子头部，改成使用砖头击打该女子头部。他用人工智能软件编写之后，整个事件的性质变得极其恶劣，这篇文章给网友造成了极大曲解，后续很多网友就认为这件事实际上是一个刑事案件，是故意伤害或者故意杀人案件。
那么，文章信息变动这么大，基本上可以说是两个事件了，陈某自己就不担心有问题吗？
郑州市公安局航空港分局案件侦办大队二中队中队长 李源：当时我们也问过他这个问题，他说就是为了一个吸引流量的想法，然后他就去做这个事情了。
民警介绍，此时的陈某眼中，只有流量，虽然这一次带给他的实际收益并不多，但他看重的是能给自己涨粉丝，这样以后就可以有更多的收益。
郑州市公安局航空港分局案件侦办大队二中队中队长 李源：他这篇文章获利不多，有两三块钱，其实我们定罪并不是按他的获利多少，主要是按他转发的文章是否具有真实性这一块考虑的。
无独有偶，另一名犯罪嫌疑人袁某也有着和陈某相似的目的。
郑州市公安局航空港分局网安大队民警 张效仆：他的主观目的是把阅读量推高，然后换取平台的激励，所以他在描述过程中，把新闻二次创作，他要说得像自己的话，他不能把别人的文章复制一遍发出来，所以他要把一些细节进行生动化描述。他要将文章中本来不具有冲突、不具有吸引眼球、不具有引爆性的字眼，都换得更具有引爆性，容易吸引网友关注。所以他把这些字眼都进行了重新修改。
民警介绍，看似简单的造谣，核查成本却很高，尤其是这起案件中还用到了AI技术。
郑州市公安局网监支队副支队长 张红梅：我们用他的电脑尝试过，提问之后，很快就生成一篇新的文章，而且在网上找到了不同的素材，跟这个案件不相关的素材和图片会插播进来，这样的话违法成本就非常低。而且书写这个段落，包括语言能力貌似还很高，所以就形成了一个新的谣言，这样违法成本低。我们在认证过程中，对他所有提到的信息都要加以认证和印证，所以我们的印证成本和打击谣言的成本，其实无形中就提高了。
警方调查认为，陈某和袁某为了利用热点事件牟利，利用高浏览量来换取平台补贴，肆意编排并发布在网络上，引发舆论关注，造成了不良影响。对于陈某和袁某的违法行为，依法对两人采取刑事强制措施。
郑州市公安局航空港分局执法执纪监督室民警 乔恒：他们的行为已经触犯了《中华人民共和国刑法》，涉嫌编造、故意传播虚假信息，已经严重地破坏了网络公共秩序，所以涉及一个刑事违法行为。
据了解，这起案件只是近来郑州警方打击网络谣言、治理网络乱象的缩影，近三个月来，郑州警方共侦办网络谣言案件61起，刑事打击175人，治安处罚28人，批评教育7人。
网络谣言往往呈现爆发式 裂变式传播
据警方介绍，网络谣言往往呈现出爆发式、裂变式传播，可以说瞬间就传遍全网，这也是网络谣言非常突出的特点。在流量经济的驱动下，一些自媒体从业人员造谣传谣的情况并不少。
2023年4月底的一天，网络上一条有关甘肃平凉的社会新闻不断发酵，同时也引起了当地警方的关注。
平凉市公安局崆峒分局网安大队大队长潘朱亮：发现有在百家号在发布甘肃一火车发生交通事故，致9人死亡的一条信息。同样的信息内容涉及的地点不同，涉及平凉市的崇信县、华亭市、泾川县这几个地方。
同样的交通事故，怎么会发生在不同的地点呢？就在警方调查的过程中，同样内容的文章被修改地点后，又再次出现在了这个网络平台的其他账号上。
平凉市公安局崆峒分局网安大队大队长潘朱亮：出来了又涉及甘肃陇南、庆阳、天水等地，所有信息内容几乎是一样的，只是更改了地点。
平凉市公安局崆峒分局网安大队民警 王虎：里面采用的图片，里面任何文字信息都是一样的，只是时间和地点更换了。
这些文章内容高度相似，只不过换了地点，换了账号进行发布，由此警方判定，这些都是属于谣言信息。
平凉市公安局崆峒分局网安大队民警 王虎：跟铁路核实这条信息，根本没有发生过。发布这样的谣言信息，对不知情人群造成恐慌心理。
经过警方进一步核实，两年前在甘肃省的金昌市确实发生过类似的火车交通事故，当时新闻媒体也做了相关报道。警方判断，造谣者正是以两年前的这条新闻为原型，编造出多个版本的虚假信息在互联网上发布。而发布这些信息的50多个账号，都来自同一个网络平台，点击量已达上万次。
平凉市公安局崆峒分局网安大队大队长潘朱亮：这50多个账号全部隶属深圳一个自媒体公司名下，这个自媒体公司有MCN账号，这50多个发布虚假信息的账号，全部是绑定在这个MCN账户下的。
警方进一步调查发现，这家自媒体公司的负责人是一个叫做洪某的男子，随后，平凉警方在广东深圳将犯罪嫌疑人洪某抓捕归案。
一人运作四家自媒体 大量账号从何而来
犯罪嫌疑人洪某落网后，对自己编造虚假信息在网络上散播的行为供认不讳。据洪某供述，他自己经营了四家自媒体公司，但是实际操作的只有他一人。
平凉市公安局崆峒分局网安大队民警 王虎：我们在广东现场抓获的这个犯罪嫌疑人的时候，他在自己租的房子里搭建了六到七台工作机，所有的工作机全部是自己一个人在操作。
经过民警调查发现，这个平台的自媒体账号要经过实名注册认证后才可以使用，而且要绑定到自媒体公司的MCN账号后才可以变现。那么洪某这么多账号又是从何而来的呢？
平凉市公安局崆峒分局网安大队大队长潘朱亮：发现他的全部网络账号，是通过一个湖南籍姓李的男子处购买过来的。发现他们是专职买卖这种网络账号。洪某前前后后总共买了1000多个账号，但实名认证过的，可能有100个左右。
据洪某供述，虽然认证了账号，但是由于没有吸引人的内容发布，所以他的这些账号一直也没什么流量，无法变现。于是，今年4月份，他又在网络上找了一个可以编写新闻的人工智能软件，开始编写虚假信息在账号上发布。
平凉市公安局崆峒分局网安大队民警 王虎：通过这个工具，输入想要的一个结果，比如搜索近几年来的新闻信息，更换其中的地址、时间，重新发布，或者重新编辑，然后AI智能软件会批量输出一些新闻信息。
让洪某没想到的是，这些批量编造出来的虚假信息，竟然真的给他的这些账号带来了流量。
平凉市公安局崆峒分局网安大队民警 王虎：他发布的这些谣言信息的浏览量总共是10000多条，不仅仅发布了涉甘肃火车撞人致9人死亡这样的消息，还发布了天津公交车发生交通事故致人死亡这样的消息。这两条谣言信息的总浏览量在30000条左右。他通过浏览量获取利润，据他供述，10000条浏览量可以获利5元钱。
据洪某交代，他也是刚做没多久，总共就获利了200多元，没想到这么快就被警方抓了。目前，犯罪嫌疑人洪某已被警方采取刑事强制措施，案件正在进一步侦办中。
打击整治网络谣言 公安部重拳出击
打击整治网络谣言，公安部重拳出击。自今年4月10日以来，公安部在全国部署专项行动，依法严厉打击借热点事件编造传播谣言的违法犯罪行为。在为期100天的专项行动中，全国公安机关共侦办案件2300余起，依法关停违法违规账号2.1万余个，清理网络谣言信息70.5万余条。
7月10日，中央网信办发布《关于加强自媒体管理的通知》，不仅要求自媒体在发布一些信息时要标注来源，还要求网站平台应当要求自媒体对其发布转载的信息真实性负责。
中国政法大学传播法研究中心副主任 朱巍：网络谣言一方面损害互联网传播秩序，另外一方面严重损害当事人的合法权利。当事人既包括自然人，也包括企业法人，还包括政府机关。因为谣言的存在让政府的公信力降低了，让一些企业的合法权利遭受严重损害。有时这些企业好好干了好多年，被一两条谣言，就把整个营商环境全都破坏掉了；对自然人本人来讲，有的时候谣言，即便事后有了维权，当事人赔礼道歉了，或承担了相关法律责任，但是谣言会在互联网上长期存在，对当事人的损害是极为巨大的。
根据公安部的统计，目前常见的网络谣言主要分为五个大类：
一是旧谣新传类谣言。近年来，网上涉及偷、抢儿童等老旧谣言在网上反复传播，在全国范围内频繁出现，舆论关注度高，容易引起社会负面情绪。
二是热点案事件的伴生谣言。热点案事件往往带有巨大网络流量，一些人员借机编造发布涉事网络谣言，以达到蹭流量、博取关注的目的。
三是利用新技术新应用编造谣言。一些不法人员利用人工智能软件自动汇聚编造网络谣言，甚至使用黑客技术对网站平台进行攻击篡改，获取管理权限后发布谣言信息。
四是涉校园安全类谣言。当前，学生安全和校园安全受到全社会的高度关注，一些不法人员迎合这种社会情绪与大众关切，为博取眼球、吸粉引流故意编造发布涉校园安全类谣言，扰乱社会公共秩序。
五是涉自然灾害类谣言。我国自然灾害种类多、分布地域广，相关谣言信息传播速度快、范围广、关注度高，且极易引发群众恐慌情绪，给当地正常生产生活秩序造成影响。
中国政法大学传播法研究中心副主任 朱巍：《民法典》有一个特别的规定。比如损害他人名誉的时候，有的时候是无中生有，是捏造，是假的，最典型的例子就是AIGC——生成式人工智能的合成，合成之后看似是有图有真相，实际上离真相是很远的。第二种是歪曲，这个事情已经发生了。但是在发生过程中节选出来一部分，配上一个文案，配上一个醒目的标题，这个时候，就造成了一个社会误导。这同样属于谣言信息，或者是不实信息。所以不管是歪曲还是捏造，都是谣言产生的类型。
不管是捏造还是歪曲，都属于造谣。更加值得警惕的是，一些网络水军不是偶犯，而是将造谣当成了牟利的手段。有的团伙公司化运作，运营大量自媒体账号，通过批量编造发布各类虚假文章、视频吸引眼球、引流牟利；也有团伙在热点舆情事件中，编造传播虚假信息蹭热点收割流量，甚至造热点，裹挟舆论、误导公众；还有一些不法分子开设假冒媒体网站和自媒体账号，打着舆论监督等旗号，以编发炒作虚假的负面信息相要挟，实施敲诈勒索，严重扰乱社会秩序，侵犯人民群众合法权益。
中国政法大学传播法研究中心副主任 朱巍：对传播虚假信息、传播虚假消息也有明确规定，这就是违法行为。如果是编造或者是明知道是虚假依旧传播的，这个时候就涉及刑法的一个规定，是编造、故意传播虚假信息罪，情节比较轻的话，是三年以下有期徒刑，情节如果非常严重，就三年以上、七年以下有期徒刑管制或者拘役。
网络谣言混淆视听，不仅会伤人于无形，也会破坏社会信任、扰乱社会秩序。互联网不是法外之地，网络谣言炮制者不只是突破道德底线，还涉嫌违法犯罪。网民也要提高信息甄别能力，不轻信、也不要随意转发、扩散来源不明、未经证实的信息。网络平台更要肩负职责。如果当事人发现个人合法权益因网络谣言受到不法侵害时，要及时运用法律武器维护自身合法权益。
来源：央视新闻客户端
