当今时代,AI技术的广泛应用如同双刃剑,在带来便利之余,也被别有用心之人利用来编造虚假信息,扰乱社会秩序。前不久发生的多起利用AI编造谣言的案件,就给我们敲响了警钟。
怀化曾在某网络平台出现一条“怀化35岁女子从28楼跳下”的视频,此内容有时间、地点、事件、人物等新闻要素,还有所谓现场画面,发布后引发不少关注。然而,怀化警方调查发现诸多疑点,从建筑物外立面判断事发地并非怀化市。经调查,原来是禹某为提升账号关注度,通过AI平台输入“高空坠楼、家庭悲剧”等关键词生成视频片段,二次剪辑后发布到网上。该AI平台“悲剧模板”使用率极大,每月下载的量超10万次,禹某发布的虚假视频严重扰乱社会秩序。
无独有偶,上海警方不久前也破获一起利用AI编造企业不实信息的案件。上海某茶饮企业报案称,多个自媒体平台出现大量针对该企业及其创始人的不实信息。接报后,警方成立专案组侦查,对100多个自媒体账号进行溯源,像“某茶饮企业使用过期原料被罚款20万元”等众多不实内容被查明。原来,自媒体博主姚某、陈某等人为吸粉引流,用AI搜集素材,未核实就生成发布这些不实信息。
其中,姚某为增加账号浏览量和广告收益,花800元请卢某代笔写文章,未核实就发布,该内容被大量转发,损害企业品牌形象,部分区域门店单日营业额同比下降超20%。陈某等人则为获取平台阅读量现金补贴,搜集企业创始人传言,用AI“洗稿”发布不实内容。最终,8名犯罪嫌疑人被上海长宁警方依法采取刑事强制措施。
华东政法大学数字法治研究院副院长赵精武表示,利用AI工具生成、发布和传播网络虚假信息属于明显的违法行为,情节较轻的将受到罚款、拘留等处罚。网络空间不是法外之地,利用AI编造谣言侵犯了个人、企业的权益,不利于营造健康稳定的社会环境。相关部门已行动起来,对这类行为严厉打击,希望广大民众也要提高信息辨别能力,做到不信谣、不传谣,共同维护网络空间的清朗环境,你觉得普通民众应如何更有效地识别利用AI生成的虚假信息?