网络法治丨‌AI散布谣言,取代无利可图的“花木
发布时间:2025-10-24 12:50
近日,公安部公布了10起网络谣言治理典型案例。与这些事件相关的网络谣言不仅损害公民权益,而且扰乱正常的社会秩序和公共秩序。在四川省德阳市的事件中,有人利用真实的犯罪现场,捏造犯罪地点等信息,制造假新闻。这非常令人困惑,并引发了很多当地争论。 公安部宣布严厉打击网络谣言 典型 “液化气罐车爆炸”传闻 还有“现场”照片 今年8月11日,一位名为“春风骤雨文”的网友在今日头条发表了题为《汽油罐车起火爆炸:激动人心的目击者疏散背后的安全警示与行业反思》的文章。 据称,2025年8月10日,一辆装载液化气罐的卡车在大地村行驶时起火爆炸。e,四川省德阳市景阳区东湖街道。文章不仅详细介绍了爆炸地点,还包括燃烧卡车和人员疏散的照片。文章后半部分还分析了事故造成的损失以及相关部门采取的救援措施,指出:“由于事故发生路段狭窄,应急楼梯被私家车占用,导致救援队迟到10分钟。”乍一看似乎很现实,文章内容也引起了网友的关注和争论。 治安办网安支队四大队副大队长王周猛 德阳市市民:据网友发文称,液化气罐相继爆炸,产生巨大火球,波及周边村民。这个恐怖的词引起了很多人的关注、转发和评论人,引起社会极大恐慌。我支队立即派人前往核实核实。 警方赶到事发现场并对现场进行调查。村民们表示,他们对文章中描述的爆炸事件并不知情,村里只有一条乡间公路通往附近的一个城镇。本周通过的汽车很少,液化气罐车也很少。 德阳市公安局泾阳分局网安大队副指导员魏志走访了大地村当地居民,并与辖区内交通、应急、消防等相关部门核实,确认大地村未发生汽油罐车爆炸事故。 使用其他视频进行模拟 利用人工智能制造谣言 警方进一步调查显示,发布这篇文章的人原来不是来自德阳市的李先生却是外地人。他在平台上发布的信息还附有8月10日一辆油罐车在山西省青兰高速公路临汾段福利亚隧道入口起火爆炸的视频中的照片。这些短信是李利用人工智能工具伪造的。 德阳市公安局网安支队第四大队副大队长王周猛:我在网上搜了照片,核实了一下。这张照片其实是前一天发生在青兰高速的汽油罐车爆炸视频截图。被网友李抄袭。这完全是谣言。他(李)发布这样的文章是为了吸引粉丝、关注和流量。 得知真相后,德阳警方立即辟谣,要求网络平台删除不实信息,并将案件移送公安机关处理。李某居住地公安部门根据案件管辖,对李某依法提起公诉。我调查了。 云南省玉溪市需要门票吗?谣言! 还有虚假信息制造者,不仅发布有关事故和灾难的信息,还捏造公共政策,其影响是巨大的。 前段时间,抖音账号“玉溪市媒体广告公司”上传了一段视频,称“响应国家号召,玉溪市政府现要求凡进入市区的人缴纳200元城市维护费,五年内可自由进出玉溪。有了500元,就可以终身自由进出玉溪。”生活。'' 这段视频一经发出,立即引起了众多网友的关注和讨论。有网友问:“什么时候需要缴纳入城费?”有网友直呼直接请求玉溪警方注意。 监测到此消息后,玉溪市公安局红塔分局网络安全大队立即进行核实。 望溪市公安局红塔分局网安大队副大队长王超安:当时我心里很遗憾,我知道那不是真的。我们立即咨询相关部门,确认该信息是否属实。在收到这是谣言的回复后,我立即开始创建帐户。原来,发布这条谣言的人就是李木萌。我们组织警力,赶赴嫌疑人住处将其抓获。警方告诉记者,虽然玉溪是热门旅游城市,但只有部分特定景点需要门票进入,大部分古街都不需要门票。这种收取进城费的消息令人难以接受。此外,政府机构有时会盎司与整个社会公共政策相关的新闻。那么李木萌为何要编造那些谣言呢? 原来,李某某在浏览互联网时犯了一个错误,当时他注意到与atr旅游行为和古城相关的收费问题很受欢迎。 李某某在网络上散布的虚假信息,引起网友广泛关注和争论,误导群众和当地居民,造成社会不良影响。目前,公安机关正在依法对李伯克蒙给予行政处分。相关违法视频也已被删除。 有传言称学校在注册第一天就倒塌了。 男子被拘留7天 近日,山东省威海市警方迅速破获一起网络谣言传播案件,用法律的力量维护网络清洁和社会安宁。 2025年9月1日,一段关于威海经济开发区倒塌的假视频开发区实验小学的消息迅速在网络上传播开来。这张照片附有极具误导性的短语,例如“开学第一天学校就塌了”。相关话题在短时间内被大量转发和评论,产生了不良社会影响。 威海市公安局经济技术开发区分局皇冠派出所民警杨宁:视频​​传播速度很快,引起了学生家长和广大群众的焦虑和恐慌,产生了比较负面的社会影响。 接到通知后,威海市公安局立即启动核查工作,很快确认该视频为虚假信息。威海市公安局经济技术开发区分局关派出所民警连夜排查信息,最终锁定了犯罪嫌疑人。像刘慕远那样散布谣言。 9月3日,在当地警方的配合下,警方成功将刘木根抓获并接受审判。 威海市公安局经济技术开发区分局皇冠派出所民警杨宁:经调查发现,刘木源故意捏造事实,捏造、散布学校倒塌事件的谣言,以吸引眼球,利用“开学”关键点。其行为公开,严重扰乱公共秩序和道德,违反了《中华人民共和国治安管理处罚法》第二十五条第一款的规定。公安机关依法对刘牧原先生处以行政拘留7日,并已尽快删除相关虚假视频。 谣言的传播无视公众对校园安全的担忧,这不仅违反了法律最低限度,但也过度损害了公众的信任。对此案的调查显示了警方打击网络谣言的决心。 威海市公安局经济技术开发区科冠派出所民警杨宁:这起事件也提醒我们,互联网并不是法外之地。出于个人目的任意编造、散布不实谣言,造成社会恐慌的行为,将受到法律严惩。我们将继续坚决维护网络空间风清气正,确保人民安宁、社会大局稳定。 利用AI制造“华山医院原院长在国外去世”假新闻 近日,网络上出现了一些引人注目的内容,称“华山医院原院长没有得到及时救治”、“死在外资医院走廊里”。然而,上海经调查人工智能警察透露,这些内容实际上是使用人工智能(AI)工具生成的。 近日,上海警方在网上巡查中发现一则新闻文章,标题为:《华山医院原院长张明因阑尾炎无法出国接受治疗,死在医院走廊的长凳上》。引起了极大关注。 上海市公安局静安分局网安支队民警张帆:这个消息发布时可能点击量很少,但经过几层微信群传播后,从晚上开始,用了10个小时左右就广泛传播了。 警方调查: 华山医院有一位名叫“张明远”的诺诺员工。 上海警方立即展开调查,以确认该消息的真实性。经调查,华山医院不存在名为“张明远”的前院长及同名员工。此外,作者并非该帐户的注册人。 警方彻查后发现,所谓“华山医院原院长在国外去世”的虚假信息是自媒体工作室发出的,而真正的操纵者是王萌萌、郭萌萌、石萌萌这三名预备役军人。 三人联手利用AI制造谣言增加粉丝 据透露,王某某等人每天在网络上搜索各种热门话题和新闻,以快速增加其账号的粉丝数量。当关键字输入智能工具人工选择时,文章会自动生成并发布到管理帐户,无需验证。 上海市公安局静安分局网安支队民警张帆:利用人工智能批量生成虚假信息,并通过购买的各种账户进行传播在线的。通过创建受欢迎的内容,您可以实现增加这些帐户的浏览量并最终获得流量的目标。 3人被采取刑事处决。 关联账户已被禁止。 利用人工智能技术,散布“著名三甲医院A”、“前院长”、“死在异国他乡”等流行虚假信息。王某某等人整理出版。短短24小时内,多个版本的相关谣言在网络上广泛传播,造成社会不良影响。 目前,王萌萌、郭萌萌、石萌萌等三人因涉嫌非法利用信息网络罪,被上海静安警方依法给予刑事处分。相关违规账号已被依法封禁,事件正在进一步调查中。 网传一名女子从28楼坠落在怀化市? 伪造的! 这也是假新闻。网络平台上发布了一段“一名35岁同性恋女子从28楼跳下”的视频,但这个更真实。它不仅包括时间、地点、事件、人物等信息元素,还包括所谓事件的实时图像。那么为什么会出现这样的谣言呢? 湖南省怀化市网警在日常巡查中发现,怀化市一名35岁女子从28楼跳下的视频。视频文字中还带有高处坠落身亡、家庭悲剧等标签。视频一经发布,立刻引发热议,帖子数上万。然而,怀化警方在调查过程中发现了诸多问题。首先,视频中出现的建筑物的正面揭示了事件发生的地点。原来这不是一座城市。此外,视频中演示者的音频和图像o 显然不同步。 怀化市会同县公安局网安大队民警颜红辉:经怀化市公安局核实,当天并无类似坠楼视频。接到举报后,我大队立即展开调查,很快锁定了犯罪嫌疑人。他发布的视频是事实。 怀化市会同县公安局连山派出所教导员孟远:经过缜密侦查,发现了犯罪嫌疑人的住址,我派出所民警立即将其抓获。 使用AI“悲剧模板” 通过输入关键字生成屏幕 据其向警方供述,为了快速完善自己的账号资料,于某在人工智能平台中输入“高处坠落、家庭悲剧”等关键词,生成视频片段,然后重新编辑并发布到网上。警方调查显示,于某使用的人工智能平台“悲剧模板”的使用率非常高,每月下载量超过10万次。 于:我看到其他人用AI制作视频,粉丝数量以惊人的速度增长,所以我决定尝试,尝试模仿他们。平台有现成的悲剧模板,输入关键词即可生成图片。我不知道随意发布这样的视频是违法的,没想到会引起这么多人的恐慌。 截至警方调查时,于先生发布的虚假视频已引起广泛关注,严重扰乱社会正常秩序。怀化警方依法对于先生给予相应的行政处分。 在网络上散布谣言 将追究法律责任 散布有关事故、灾害、公共政策等的不实谣言,以吸引注意力、获取流量虚假信息不仅会造成一定程度的社会恐慌、扰乱公共秩序,还会影响政府的公信力。互联网不是法外之地,在互联网上传播谣言必须受到法律制裁。 中国人民大学法学院副院长丁晓东:根据我国治安管理处罚法,公民散布不实谣言,故意扰乱社会秩序的,根据情节的严重程度,受到相关法律追究,包括拘留、罚款等可能。公民散布严重谣言,违反刑法有关规定的,还必须承担相应的刑事责任。 专家表示,随着互联网的发展和个性化推荐算法的不断完善,谣言一旦传播,很可能造成严重的公共秩序扰乱。 丁晓东 中国人民大学法学院副院长中大:如今,随着互联网特别是社交媒体的扩张,我国的安全形势与以前有很大不同。网络谣言在互联网和算法的现代时代,信息的泛滥让不同的群体有选择地相信某些谣言。在某些方面,可能会形成群体两极分化和严重冲突。 专家: 打击网络谣言需要多方共同努力 如何更好地控制网络谣言?专家表示,需要多方治理,从政府部门到平台企业,再到公民个人,每个人都需要参与治理。 北京航空航天大学法学院副教授 赵景武:对于涉及国家监管和政策的网络信息内容,平台应建立更严格的内容审核和应急处理程序,因为政策谣言往往具有显着特征。防止谣言的广泛传播在事件发生前对政治和警方感到兴奋。同样,政府部门也必须迅速驳斥和澄清网络上传播的政策和警方谣言。平台还应与监管部门合作,利用算法推荐服务,增加辟谣、以真信息掩盖虚假信息的比例。 中国人民大学法学院副院长丁晓东:对于一些严重违反社会秩序的谣言,公安机关应当及时查处,并对相关虚假创作者、传播者依法予以惩处。同时,其他政府部门也要履行好声誉管理的主体责任。谣言的产生往往是由于缺乏信息来源,信息准确可靠,导致谣言广泛传播。在这种情况下,政府部门是否能够发布相关的、权威的、合理的、准确的信息?及时发布信息,可以起到澄清谣言、引导舆论的作用,从而达到形成良好网络生态的效果。 专家还表示,为了让广大公众营造健康有序的网络空间环境,应理性对待互联网上的所有信息,谨慎丢弃明显违反常识的信息,关注信息是否由公共机构或授权媒体披露,不信谣、不传谣。 网络主播以虚假身份销售珠宝 粉丝被骗千万元 虚构的“富二代”的身份,承诺高额仓储费和明显的轻松获取财富的方式。受害者原本期望获得巨额利润,却发现自己陷入了无底洞,被骗走了数百万美元。 近日,江苏省常州市武进区人民检察院办理一起直播诈骗案件。 2024年4月,江苏省常州市居民徐先生无意中点击了一个销售珠宝的直播间。珠宝首饰的价格从9.9元左右到几千元、几万元不等。 主持人在直播中表示,自己出身于香港珠宝企业世家,现在正在创业。目标是使公司上市。然而,由于上市时的逃税问题,该公司不得不暂时出售部分宝石、珠宝和其他资产以妥善保管,他承诺,稍后会以更高的价格从买家手中收回。 在高额回收费的诱惑下,徐某陆续购买了价值40万多元的珠宝首饰。但此后就没有人联系她谈论所谓的珠宝回收事宜。徐先生找到了一个直播平台,得知所谓“富二代”的直播间被关闭了。直到那时她才重新才知道自己被骗了。公安机关初步调查显示,与徐某有类似经历的受骗者还有不少。 常州市武进区人民检察院第二检察部检察官陈琪:2024年3月,杨某、王某最初在直播间出售木手链,但销量并未增加。一天,杨某在直播间看到一位村民正在用“宝石回收+保管费”的方式进行直播。这个直播间销量很大吗?杨先生也想通过这种方式来销售产品。 开设9家网上商店 将廉价珠宝装入高端珠宝 事实上,直播间里的所有所谓“贵重珠宝”都是犯罪嫌疑人在当地市场上获得的廉价珠宝,价格从几元到几十元不等。 2024年7月30日,犯罪嫌疑人杨某等4人欧普尔被捕并受审。 查明,两个月内,杨某及其团伙在直播平台开设网店9家,诈骗受害人213人,共计404万余元。案发后,公安机关查获杨某家中藏匿的现金345万元。 常州市武进区人民检察院第二检察部检察官陈琪:一是直播间内堆放大量假钞、假币、豪车钥匙等。其次,他们在直播间安置大量“受托人”,通过这种方式赚取巨额仓储费,并声称从此暴富。第三,现场安排了冒充公证人的人员对采购单进行公证,让人相信直播间的直播方式是合法的方式,包括销售商品的方式。 七月,吴常州市金区人民法院以诈骗罪,分别判处杨某、王某等四人有期徒刑十年零九个月至四年零三个月,并处罚金。 坚决打击互联网上的错误信息和混乱 针对网络虚假信息造成的混乱,相关法律法规不断制定,有关部门不断采取专项整治和打击措施。 国家网信办公布的2025年“清明”系列专项措施八项主要内容中,从“自媒体”发布虚假信息、短视频领域恶意营销,到滥用人工智能技术、网络直播打赏混乱等,持续整治网络虚假信息混乱、处理大量违法账号等问题。CN组织和网站平台。塔。 今年9月1日起,国家网信办发布的《人工智能生成合成内容标注办法》正式施行。 《办法》进一步对人工智能生成合成的内容进行了严格限制。 北京航空大学法学院副教授赵景武:网络虚假信息的兴起和传播是由多种因素驱动的,其中包括交通经济的产生,相应的治理工作将是长期的。网络虚假信息治理需要提高公众的网络法治意识,其核心目标是培养公众的网络素养,即面对大量网络信息时冷静思考、冷静决策的能力。在信息爆炸的时代,人们需要冷静地在网上看到完整的信息,不轻易被相信非官方媒体和机构发布的在线信息。尤其是涉及热点社会事件时,我们应该理性观察各类网红和媒体本身发布的信息内容,不要盲目跟风,根据信息发布者和信息发布平台综合判断信息内容的真伪。