人工智能技术正向社会各领域渗透，全国人大代表、科大讯飞董事长刘庆峰关注到“AI幻觉”带来的数据污染及其对社会的负面影响。
刘庆峰。图/受访者提供
中国『互联网』络信息中心（CNNIC）发布的《生成式人工智能应用发展报告（2024）》显示：我国生成式人工智能产品的用户规模已达2.49亿人，占整体人口的17.7%。用户规模的快速增长背后，潜藏风险也被放大。
生成式人工智能存在幻觉，特别是深度推理模型的逻辑自洽性提升，使得AI生成内容真假难辨。带有算法偏差的虚假信息会被新一代AI系统循环学习，形成“数据污染-算法吸收-再污染”的恶性循环。而普通民众对AI技术原理及生成机制的认知和理解不足，极易将算法输出的“幻觉数据”误判为真实可信信息。
当大模型生成的“幻觉数据”充斥『互联网』信息生态时，不仅会削弱公众信任，还可能影响社会稳定。
为此，刘庆峰表示，应预防大模型生成“幻觉数据”充斥『互联网』带来的危害，从技术研发和管理机制上构建可信的信息环境。
第一，构建安全可信数据标签体系，提升内容可靠性：建立安全可信、动态更新的信源和数据知识库，对不同类型数据的可信度和危害程度建立标签体系，降低人工智能幻觉出现概率，提升生成内容可靠性；
第二，研发AIGC幻觉治理技术和平台，定期清理幻觉数据：研究幻觉自动分析的技术和软件平台，开展幻觉自动分析、AIGC深度鉴伪、虚假信息检测、有害内容识别以及『互联网』传播溯源，由中央网信办、国家数据局等部门定期清理幻觉数据，为公众提供AIGC幻觉信息检测工具与服务。
九派新闻特派记者 武菲菲 北京报道
编辑 任卓
【来源：九派新闻】
版权©️归原作者所有，向原创致敬
