近年来,AI技术发展迅速,成为全球科技领域的热点。AI已经从单纯的学术研究发展成为改变人类生活方式的重要力量。然而,却有一些别有用心之人将其变为造谣、敛财的工具。
真实案例
2024年8月,一则令人震惊的消息在网络上迅速传播。“南平松溪县遭遇严重大风袭击,造成枣岭街一人死亡”。这则消息图文并茂,甚至还有逼真的视频片段,一时间引得大量网民关注和转发。但经公安机关核查发现,这竟然是用AI编造而成的网络谣言视频。
经查,该谣言系发布者周某为博取关注、获取流量,通过AI软件生成的。周某对图片和视频剪辑拼凑后,制造出“有图片”“有文字”“有声音”的虚假信息,发布至网络平台上,造成社会不良影响。
公安机关依法对周某给予行政处罚。
案例分析
造谣者利用AI低成本、高效率、操作简单的特点,通过提供关键字,AI软件便会自动在网络上抓取相关信息,以热点新闻和随机网络音视频为素材,批量化生产网络谣言,投放到各大网络平台上,实现吸引眼球或流量变现的目的。谣言的传播率和影响力成倍增加。
当谣言披上AI的外衣时,不但能自动生成文本,还能生成逼近真实的图片和音视频,让不存在的场景变得栩栩如生,让虚构的人物仿佛真实存在一般。这就完全颠覆了我们常规认知里的“有图就有真相”,使我们对网络谣言本身难辨其真假。
AI谣言已经成为亟须治理的一道网络新课题,那么在日常生活中,我们怎样擦亮眼睛,识别并抵制AI谣言呢?
1.好奇之心要适度
面对新奇夸张的信息,先别急着一探究竟,AI就是选择、抓取大家关注话题来制造网络谣言,利用网民好奇心进行传播。
2.来源不明不轻信
切记不要盲目相信和传播未经证实的信息。在社交媒体或网络上看到可疑信息时,可以先进行核实或者等待官方消息发布后再作判断。
3.权威渠道常关注
在上网浏览信息时要保持对信息来源的警惕性,多订阅官方媒体、政府部门的账号,尽量选择权威、可信赖的媒体或机构作为信息来源。
4.逻辑分析不可少
注意网络信息的逻辑性,如果发现一条信息在逻辑上存在明显的漏洞或矛盾,它很可能是经过篡改或杜撰的。
原标题:AI背后的陷阱:有图未必有真相,警惕谣言 “新伪装”