“西安突发爆炸”“重庆巫溪一民房(fang)发生爆炸事故”……这些耸人听(ting)闻的消(xiao)息，竟都是利用AI软件炮制的谣言。日前，多地警方(fang)对部分(fen)MCN机构负责人进行了行政处罚，并封禁其网络账号。原因是利用AI大量生成(cheng)谣言信息，用以赚取平台的流量分(fen)成(cheng)。
没想到(dao)，有了AI“赋能”，一些别有用心者的造谣能力也大幅提升。这些MCN机构通(tong)过AI软件，给出关键词，软件便会自动在网络上抓取相(xiang)关信息，生成(cheng)几百到(dao)上千字的文本，配上貌(mao)似和事件相(xiang)关的虚(xu)假图片，从而形成(cheng)一篇看起来信息量很大，实际上子虚(xu)乌有的内容。
其中(zhong)江西南昌一家MCN机构，最高峰一天(tian)能生成(cheng)4000至7000篇，最高的一条收入700元，初步(bu)估算(suan)每天(tian)的收入在1万元以上。经警方(fang)调查，实际控制人王(wang)某某共经营5家MCN机构，运营账号842个。
这确实是令人触目惊心的数字。有了新技术(shu)，造谣的成(cheng)本近乎为零——甚至连时(shi)间成(cheng)本都不需(xu)要了。这也意(yi)味着虚(xu)假信息扩散的成(cheng)本也急剧降低，可能对社会信息生态造成(cheng)极大破坏(huai)，对这种行为不加(jia)以规制，可以想象信息空间会变成(cheng)什么样子。
事实上，监管部门(men)对网络谣言的治理一直在持续。今(jin)年4月23日，网信办在全(quan)国范围内开展为期两个月的“清朗·整治‘自媒体’无底线博流量”专项行动，整治的重点(dian)就包括“摆拍发布涉及国内外时(shi)事、社会民生等领域虚(xu)假事件信息。拼凑剪接网络视频(pin)图片，篡改事件发生的时(shi)间、地点(dian)、人物等要素，以假乱真欺骗公众”。
魔高一尺，道高一丈。考(kao)虑到(dao)如今(jin)虚(xu)假信息生成(cheng)能力之强(qiang)，除了线下的查处，线上的治理手段(duan)恐怕也要进行技术(shu)迭代。一个MCN机构一天(tian)就能发布数千篇AI生成(cheng)内容，这意(yi)味着对互联网空间的信息追(zhui)踪、关键词捕获、自然语言搜索等，都需(xu)要提高相(xiang)应的技术(shu)规格，以应对这种批量生成(cheng)、大水漫灌(guan)的新型信息乱象。
对此(ci)，拥有技术(shu)优势的平台，更应该肩负起主体责任。之所以这种造谣信息可以“玩得下去”，就是因为它们有利可图。比如根据一些平台规则(ze)，账号根据阅读、评论、转发数量等获取相(xiang)关流量收益，每千人有效阅读量有1—2元的奖励。
很多时(shi)候，不管平台愿不愿意(yi)承认，平台也是谣言信息“获益方(fang)”之一——大量信息聚集，可以极大提升平台本身的活跃(yue)程度(du)，所以有些平台就疏于治理，甚至变相(xiang)鼓励这种能带来流量的虚(xu)假信息生产。因此(ci)，要想从源(yuan)头上斩断造谣信息的利益链，恐怕还(hai)需(xu)要平台通(tong)过更严格的信息过滤、账号处理等，让流量生意(yi)无利可图。
其实在“清朗·整治‘自媒体’无底线博流量”专项行动中(zhong)，也对平台做出了要求，比如短视频(pin)和直播等重点(dian)平台要加(jia)大对虚(xu)假摆拍信息的识(shi)别和清理力度(du)，要求资讯类平台清理标题党(dang)、要素欠缺、不具公共价(jia)值的“新黄色新闻”等。平台应当意(yi)识(shi)到(dao)自身肩负的社会责任，切不可在流量的诱惑下，对这类信息睁一只眼闭一只眼。
类似的事件对公众也是提醒。如今(jin)AI造假已经零成(cheng)本，读者阅读到(dao)这类耸人听(ting)闻的信息时(shi)不妨多留(liu)个心眼，慎点(dian)转发、评论键。在AI时(shi)代，信息的鱼龙混杂程度(du)已经呈几何级(ji)数增长，应当更加(jia)审慎地判断，切不可轻易被各类虚(xu)假信息撩拨情绪，落入信息陷阱之中(zhong)。