荆楚网(湖北日报网)主编舆情分析师 卢霜
当前,打工人用AI做PPT,自媒体博主用AI生成图文视频,大学生毕业论文用AI代写逼得部分高校发“AI禁令”……AI已逐步融入我们的日常生活。AI给我们带来便利的同时,也出现了带偏政策解读、误导舆论认知的风险。
一方面,AI问答生成的结果有误。当前,豆包、文心一言等AI智能问答应用日益广泛。部分搜索平台更是将相关AI问答功能嵌入其中,在搜索结果的首条进行展示。但有时AI问答给出的答案援引的资料来源为未经证实的自媒体信息,或者引用的信息时效性存在问题,还有可能其结果是选取了多篇信息中出现的时间、地点等核心元素拼接组合而成,出现了张冠李戴的现象,最终带偏舆论认知。
如近日,宁波晚报报道称,一位退休职工反映,她在“豆包”平台询问关于宁波公交免费政策时,得到“自2025年1月1日起,65岁以上老年人可以在宁波免费乘坐公交车”的回答。但据了解,去年底,宁波市民卡服务中心发布的通知明确“高龄老人免费乘车卡的办理对象为年满70周岁的老年人”。因此,这条所谓“自2025年1月1日起,将免费乘车年龄降低至65岁”的消息完全失实。溯源发现,“豆包”的信息源为13篇资料,其中一篇引用一名抖音用户在视频中提及的内容,但该视频并没有提到该政策的实施区域,因而出现了多篇信息拼接后,生成了“宁波65岁免费乘坐公交”的回答。
在社交平台上,也有网民反映,其在搜索关于某地一景区的门票政策时,得出本地人游览可以免费的回答,但经当地文旅部门确认,相关政策实际是多年前实施,如今早已失效。可想而知,若普通网民无法及时掌握相关信息,可能会滋生门票政策差异化质疑,或者本地群众误读前去导致扑空。
另一方面,AI技术可以让假新闻以假乱真。AI技术让普通人也能轻松跨越新闻内容生产的专业门槛,生成一篇新闻格式规范、新闻要素齐全、逻辑严谨的报道,且AI善于根据输入的不同需求运用贴合得当的语气措辞,让“假新闻”达到以假乱真的效果。以往,对于社会公众而言,尚能根据行文表达发现造假的蛛丝马迹,但AI显然抹平了造假的痕迹。
早在2023年2月16日,一则“杭州市政府3月1号取消机动车依尾号限行”的“新闻稿”在网上疯传。澎湃新闻次日从杭州警方证实,该消息不实。溯源发现,该“新闻”的炮制源自本地业主群的一个“玩笑”。据浙江之声报道,2月16日下午,杭州某小区业主群讨论ChatGPT,一位业主开玩笑说尝试用它写篇杭州取消限行的新闻稿,随后在群里直播了使用ChatGPT的写作过程,还把文章发在群里。其他业主不明就里,截图转发,导致错误信息传播。正是因为网友用AI技术生成的“假新闻”行文严谨、语气措辞得当,也基本符合官方通报的格式,导致了错误信息大规模传播。
值得关注的是,不同平台的AI产品其算法和生成逻辑不一样,影响了具体结果的呈现,可能会出现相同的问题,在不同的平台得出不一样的答案,这无疑容易误导群众生产生活,甚至影响官方信息的权威性和公信力。如宁波晚报报道,针对“宁波公交年满65岁优惠政策”这一问题,“豆包”“文心一言”“kimi”等人工智能软件,得到的答案各不相同,其中两个都是错误的,只有一个回答是正确的。而溯源发现,豆包错误的原因是多篇信息张冠李戴,文心一言则源于其结果是从某个“百家号”文章中提取总结而来。“百家号”与文心一言均同属百度旗下,由此可见,平台算法可能存在一定倾向性,而这也是呈现结果有误的因素之一。
要避免AI针对政策信息生成似是而非的结果,需要平台针对性做好算法优化,把优先呈现权威信源当成重要权重。同时,监管部门针对存在的政策带偏风险也应未雨绸缪,强化监管的同时,也要协同媒体做好宣传科普,助力公众提升数字素养和获取优质信息的能力。
专题:东湖观舆