近年来，AI技术的发展带来了诸多便利，但同时也引发了新的问题——AI谣言的泛滥。2月8日，四川省宜宾市筠连县沐爱镇金坪村发生山体滑坡，正当救援工作紧锣密鼓地展开时，一些人却利用AI技术编造虚假信息，混淆视听。公安部网安局于2月15日通报称，有网民为了博取流量，利用AI技术捏造了关于此次灾害的不实信息，并在网络上广泛传播，引发了公众恐慌和社会质疑。最终，涉事网民周某和许某鑫受到了行政处罚。
值得注意的是，在不久前发生的西藏日喀则地震中，同样出现了许多以假乱真的AI生成图片。这种现象警示我们，在AI时代，虚假信息与真实信息交织在一起，真假难辨，不仅造成了社会恐慌和网络传播秩序的混乱，还严重污染了信息生态环境。
监管部门的作用
面对日益猖獗的AI谣言，监管部门必须采取严厉措施予以打击，通过公布典型案例形成威慑力。同时，考虑到AI谣言往往伴随着重大事件而出现，平台应提前制定应急预案，加强对谣言的监测和预防，及时切断传播链，最大限度地减少其影响范围。
技术对抗技术
AI谣言的特点是仿真性强、传播速度快，而且随着技术进步，其真实性越来越难以辨别。为此，“以技制技”甚至“以AI制AI”成为了重要的应对策略。例如，可以通过改进AI生成内容的水印技术，确保每一条信息都能追溯到源头；还可以建立专门用于识别和处理AI谣言的技术标准和制度框架。
AI的双重属性
有人提议，应当强制AI系统学习法律法规，使其能够在检测到潜在违法行为时发出警告或拒绝执行相关指令。此外，未来或许会出现一种能够快速定位谣言来源并追踪传播路径的功能，帮助监管机构更高效地处理违规行为。
责任在于人
尽管AI是一个强大的工具，但最终决定其用途的是人。我们需要认识到，AI本身并没有善恶之分，关键在于使用者的意图。因此，治理AI谣言不仅要加强对违法者的惩治力度，还要倡导科技向善的价值观，推动AI技术向着更加积极健康的方向发展，不断优化治理机制和技术手段，努力消除网络谣言和虚假信息的滋生土壤。
澎湃首席评论员 与归
© 版权声明
文章版权归作者所有，未经允许请勿转载。
