AI造谣乱象“野蛮生长”？专家：可设置敏感关键词 禁止生成显著违法信息内容

近年来，人工智能（AI）技术发展迅速，成为全球科技领域的热点。AI已经从单纯的学术研究发展成为改变人类生活方式的重要力量。然而，却有一些别有用心之人将其变为造谣、敛财的工具。今年6月，一条“广东省五华县华阳镇一70多岁老人被殴打致昏迷，其孙子为此跳河自杀，打人者一审被判九年十个月”的短视频在互联网平台传播，引发大量网民关注、讨论。

经公安网安部门开展调查发现，该视频的图文内容系移花接木、肆意编造的网络谣言。据造谣人员任某供述，这段长达几分钟、声色并茂的视频全是由AI合成的。目前，公安机关已依法对任某追究法律责任。此事件并非个案，随着AI技术应用越来越普遍，一些网民为博眼球、蹭热度，将AI技术用以编“伪消息”、造“假新闻”，以此来获得网民关注和点赞量，进而实现流量变现。

专家表示，AI造谣具有定制化、门槛低、识别难、破坏大等特点，亟须加强监管。同时，可以通过设置AI生成内容提示标识、严格落实网络实名制等技术手段进行治理。

当前，人工智能（AI）网络谣言具有仿真性、规模性和扰动性的特征。根据输入指令的不同，AI在短期内能够批量生成大量不同内容的网络谣言，并且生成的网络谣言信息内容更加贴近人类表达方式。此外，深度伪造技术也被应用到生成图片、视频和录音中，使得社会公众难以辨识网络信息的真伪性。

赵精武副教授指出，人工智能网络谣言的危害主要表现为扰乱公共秩序，削弱政府公信力，以及诱发电信网络诈骗等犯罪活动。为了牟取非法利益而造假，行为人可能涉及多种罪名。例如，个人或组织利用AI技术编造虚假新闻并大肆传播，扰乱公共秩序，并被警方行政拘留。

黄福涛博士认为，编造虚假的险情、疫情、灾情或警情在信息网络或其他媒体上传播，或者明知是这些虚假信息故意发布，严重扰乱社会秩序的行为将受到刑罚处罚。如果行为人不仅制作并传播虚假信息，而且目的是骗取互联网平台上的不特定多数人的财产，则涉嫌诈骗罪。

为治理和防范AI网络谣言的产生，相关部门出台了多项政策和措施。例如，《互联网信息服务深度合成管理规定》禁止利用深度合成服务发布、传播法律、行政法规禁止的信息，并规定任何组织和个人不得利用该服务从事危害国家安全和社会秩序的行为。《生成式人工智能服务管理暂行办法》要求提供和使用生成式人工智能服务必须遵守法律法规，尊重社会公德和伦理道德。

针对技术滥用现象，治理可以采取措施，例如设置敏感关键词，禁止生成显著违法的信息内容；严格落实网络实名制，并配合水印技术实现对生成内容的有效溯源；或者平台设置AI生成内容提示标识等。同时，赵精武强调，也可通过加强AI领域的司法治理，立足于“安全与发展并重”和“分级分类监管”的基本原则，明确研发者、服务提供者及网络平台的主体责任，并严格追究违法行为人的刑事责任和行政责任。

在事前阶段，应明确定义AI生成内容的边界，确保其合法合规。此外，还需通过技术手段进行治理，例如设置敏感关键词，禁止生成显著违法的信息内容；严格落实网络实名制，并配合水印技术实现对生成内容的有效溯源；或者平台设置AI生成内容提示标识等。