当真假难辨，谁来为AI造假“踩刹车”?

如今，使用AI进行生产生活已经成为大势所趋。然而，技术从来就是一柄“双刃剑”。近日，上海辟谣平台收到读者询问，网传“7月1日起（中国）老年人坐火车有新规定，买票打折”等信息是真的吗？经核查，传言不实。进一步溯源发现，相关信息大概率为自媒体利用AI（人工智能）软件生成，依旧是“博眼球，拉流量，变现谋利”的套路。

与此同时，互联网还流传着一份通报，称“（江苏）泰州姜堰顾高镇政府办公室两名干部张某某、李某某在三令五申严禁违规吃喝、厉行节约反对浪费的纪律要求下，未能严于律己、以身作则，在镇政府周边一家便利店消费方便面2份，行为逾越了公职人员的廉洁规范，造成了不良影响，予以通报批评”，引发大量网民关注和讨论。经查明，相关内容完全虚假，系一男子利用AI工具所炮制的谣言，目前，该男子已被属地公安机关依法采取刑事强制措施。

随着行为人被依法采取措施，以上这些荒谬的闹剧看似落下帷幕，它们却为社会敲响一记警钟：当AI让各种形式的“创作”变得轻而易举，面向社会大众进行的相关法律意识培训已刻不容缓。

自媒体用AI造假，科技如何向善？

上海网络辟谣平台报道，在前文提及的第一个事件中，相关的惠老服务是真实存在的。有关机构进一步核查发现，在AI虚构的内容中，也包括铁路部门近年来推出的部分已经落地的惠老服务。只不过AI在生成谣言时，将虚构内容与真实服务混杂在一起，从而更具迷惑性。

根据读者提供的线索，上海辟谣平台核查发现，所谓“7月1日起老年人坐火车有新规定”的消息均出自自媒体账号，没有官方媒体对此进行过报道。

既然中国铁路部门没有发布过以上信息，自媒体又是如何炮制出这份假文件呢？调查发现，谣言内容大概率由AI生成，文件名称是捏造的，文件内容也是虚构的。上海辟谣平台核查时，甚至有大模型直接表示，可以“智写同款”，并且立刻生成相关内容。

值得警惕的是，目前大部分大模型都无法分辨网传信息真伪，所以谣言变成了它们新的学习内容。当用户询问“老人坐火车是否有新规”时，部分大模型会以讹传讹，继续扩散虚假信息。

近日网传的“7月1日起（中国）老年人坐火车有新规定，买票打折”等信息，已被上海网络辟谣平台辟谣。（图/上海网络辟谣平台）

真实有效的惠老举措，在中国国铁集团官方信息发布渠道上都有介绍。因此，用户查询信息时需认准官方渠道。

既然官方渠道有真实的服务信息，自媒体为什么还要造假呢？答案依旧是：为了骗取关注度，通过假内容制造噱头、吸引流量。根据上海辟谣平台溯源的信息可以推测，自媒体或营销号利用老年人的出游意愿，以及对车票信息的关注度，使用AI大模型编写虚假信息，继而骗取点击量、关注度，再进行变现。

AI大模型为自媒体造假提供便捷，以及将错误信息以讹传讹的现象，应引起大模型开发者的注意。践行“科技向善”“科技向真”与推动技术进步一样重要。

工业领域也有不少假AI

成都每日经济新闻报道，AI正定义第四次工业革命。当前，DeepSeek等大模型技术正深度驱动传统工业体系升级换代，AI在工业场景应用加速生根。去年11月，中国工信部透露，将研究出台推动AI赋能新型工业化行动方案。

这个过程中，工业领域的假AI产品不断出现。

今年3月14日，蘑菇物联创始人兼CEO沈国辉分享了一组调研数据，他称，100位接受调研的工业从业者（包括工厂总经理、部长、总监、经理等岗位人员）里，只有23.08%的从业者认为自己能准确判断真假AI产品，剩下接近77%的从业者均认为自己不能准确地判断真假AI。

从这个数据可以看出，“如何准确地判断真假AI，是B端企业一个不小的痛点。”沈国辉说。

AI创作的法律边界

长沙红网刊登评论文章称，AI正以前所未有的速度全面影响经济和社会生态，生成式AI更是走进了“寻常百姓家”。但毫无疑问，部分网民群体对AI生成技术的使用已经触碰到法律红线。

让公众能够规范地使用AI创作内容，关键在于压实平台主体责任。与此同时，媒体更应主动承担社会责任，将此类反面案例作为宣传素材，面向全社会大力开展警示性普法教育，让“技术有界，法律亦有绳”的法治意识深植于公众心中。

文章称，遏制AI创作滥用乱象，已经成为维护网络清朗空间的关键课题。当个体在技术赋能下，拥有前所未有的“造物神力”时，与之匹配的责任意识与法律素养必须同步提升，而这需要多方出力，长期耕耘。

唯有在法律的坚实护栏内，AI使用的狂欢才能真正服务于文明进步，而不是最终演变为一把影响社会稳定的利刃。

中国应对AI造假的有效之举：给“AI造”加标识

北京《科技日报》报道，中国国家互联网信息办公室等四部门今年联合发布《人工智能生成合成内容标识办法》（以下简称《标识办法》），将自9月1日起施行，强制性国家标准《网络安全技术人工智能生成合成内容标识方法》也将同步实施。

给AI生成合成内容添加标识，是从源头上治理AI造假的有效手段。如果把AI生成合成内容比作一种特殊产品，制作内容的AI服务商就是厂家，传播内容的网络平台就是商店。

《标识办法》规定，厂家在产品出厂时要贴上标识引起商店关注，商店也要在销售时通过贴标识等方式提醒消费者注意。其作用就是从内容生产和传播的源头入手，给“AI造”打上识别码，使其更容易被网络平台检得出、被社会公众看得见。公众知道眼前信息源自AI，也就不会轻易上当受骗。

治理AI造假，除了信息标识，技术防范同样不可忽视。比如，对网络平台上没有依规标识的AI生成合成内容该如何检测？怎样提升检测能力？如果未检测识别出来且造成不良社会影响的，责任应当如何划分？此外，对那些中国法规约束之外的境外AI工具生成合成内容，其发布和传播该怎样管理？这些都是在《标识办法》实施中值得关注和解决的问题。

编辑：无印