​“被滥用的AI”：女子用AI编造“校园霸凌”谣言被处罚

“被滥用的AI”：女子用AI编造“校园霸凌”谣言被处罚

AI（人工智能），模拟人类智能以解决复杂问题和实现人类类似的任务。通过海量数据学习和用户行为、兴趣分析，发现隐藏在其中的模式和规律，进而提供准确的决策支持和更好的用户体验，是 AI 的拿手好戏之一。

然而，这项新技术在改变生活的同时，也正在滋生新型犯罪：一些人为博眼球赚取流量，利用 AI 编造或篡改情节炮制虚假信息，造成不良社会影响；更有甚者，利用 AI 技术生成虚假图片、音视频或者文字信息制造谣言，颠覆了 " 有图有真相 " 的常规认知，让网络谣言更加难辨真伪……

▲资料图

近日，四川德阳罗江警方就查处一起利用 AI 文章生成软件编造、传播网络谣言典型案件，一名成都女子利用 AI 小程序编造德阳某学校的 " 校园霸凌 " 虚假信息被警方行政处罚。1 月 15 日，办案民警向红星新闻记者讲述了详细案情。

红星新闻记者还梳理发现，国内多地也出现利用 AI 编造、传播网络谣言案件，并被警方查处。这种新型违法犯罪，值得公众警惕。

AI 编辑：

女子编造传播 " 校园霸凌 " 虚假信息被处罚

去年 12 月 20 日，一篇题为《12 岁女生被 8 人轮流扇耳光 3 小时，致耳膜穿孔》的文章发布在某平台，引发大量网民关注，也引起德阳罗江警方关注。随后，有网友举报该文为虚假信息，几小时后文章被平台下架。两天后，罗江警方找到了始作俑者刘某群，她才知道自己已触犯法律。

经警方调查，刘某群将 2023 年 12 月实际发生在外省某地已被处理的 " 校园霸凌事件 " 截取相关事件图片后，利用 AI 小程序自动编辑功能，嫁接为发生在德阳某学校的 " 校园霸凌 " 虚假信息，制作了上述文章在某平台发布，引发大量网民关注，对社会秩序、校园治理造成严重的负面影响。

▲刘某群被罗江警方行政处罚

" 为博取流量，获得平台浏览奖励，她被警方挡获时获利就几十元钱。" 一名负责该案的民警介绍，刘某群（四川成都人），20 多岁，待业在家，在一些平台注册了账号，平日靠写点文章博取流量，获得平台浏览奖励，" 文章基本上是用 AI 写的。"

面对警方，刘某群主动交代了自己的造谣行为，称自己法律意识淡薄，非常后悔。警方对其进行了批评教育，并依据《治安管理处罚法》对她进行行政处罚，并对其造谣账号采取关停措施。

AI 换脸：

男子收到 " 裸照 " 被勒索 40 万，一眼识破骗局

凌晨突然收到一条陌生人的彩信，内容竟是自己躺在床上搂着一名女性的照片，对方借此让他支付 40 万元。但他一眼就认出这是骗子利用 AI 换脸进行诈骗……这是四川广安邻水县李先生（化名）的真实遭遇。

据警方介绍，1 月 9 日凌晨 4 时 39 分，李先生收到上述陌生彩信，照片显示他正躺在床上并搂着一名女性。紧接着，他又收到一条短信：想平安，上午 9 点前回复，过时不候。李先生认出这是 AI 换脸诈骗手法，直接回复了七个字：你早晚会被抓的。

▲李先生（化名）收到的诈骗信息

当天早上，为一探究竟，套出对方用 AI 换脸诈骗自己的真实意图，他主动与对方联系，问其有什么要求。果不其然，对方自称 " 私家侦探 "，接受他人委托解决纠纷，以掌握李先生私密之事为由，一次性索要 40 万元，而且只给他 20 分钟考虑。

眼看 20 分钟快到了，李先生依旧没有回话，对方通过 AI 变声打通了他的电话，声称要与李先生谈条件达成协议，否则将 " 鱼死网破 "。最终，对方在李先生追问下，意识到自己的诈骗行为已被识破，便匆匆挂断了电话。

警方提醒，"AI 换脸 " 是新型诈骗的常用伎俩，也是网上敲诈勒索常用的手法，如果收到这样的信息，请不要害怕、不要相信、不要回复。公安机关将严厉打击恶意 P 图实施敲诈勒索的违法犯罪行为。

不止一起：

利用 AI 炮制传播网络谣言，警方予以查处

红星新闻记者梳理发现，近期，国内多地警方查处一批故意制造、传播网络谣言案件并公开公布，其中不乏利用 AI 工具炮制网络谣言案例，涉事人主要目的是吸粉引流，然后赚取平台的流量补贴。

湖南衡阳公安机关侦破一起利用 AI 智能工具炮制恶性网络谣言案。2023 年 8 月，阳某为吸粉引流博取关注，在网络平台使用 AI 智能工具炮制并发布 " 耒阳某化工厂爆炸致多人失联 "" 耒阳某珠宝店发生持刀抢劫案 "" 耒阳某公园发生多起杀人抛尸案 "" 耒阳女网红被绑架 " 等多条恶性谣言信息，引发网民大量关注转发，造成群众极大恐慌，社会影响极其恶劣。经衡阳公安机关依法调查，阳某对犯罪事实供认不讳。目前，衡阳公安机关依法对其刑事拘留，并对其造谣网络账号采取关停措施；

此外，2023 年 11 月 26 日，为博取引流，陈某通过 AI 软件合成一段关于无锡市某火灾事件的视频，并发布于社交平台。经调查，陈某对违法行为供认不讳，无锡市惠山区公安机关依法对其予以行政处罚。

AI，本是帮助人类进步，更好地工作和生活的工具，却被部分不法分子利用进行诈骗、编造传播谣言，值得公众警惕。