以人民为中心发展人工智能:教育场景下大模型幻觉的治理路径

坚持以人民为中心,是我国人工智能发展一以贯之的根本立场。随着教育数字化战略持续落地推进,大模型逐步走进中小学与高校课堂,为开展个性化教学、实现因材施教带来全新机遇。但技术赋能的背后,大模型“幻觉”带来的现实风险也日渐显现:不少学生写作业直接照搬AI答案,里面混杂史实错误、公式漏洞;不少教师备课参考模型输出,也会碰到虚假信息干扰教学。这些现象提醒我们,如果治理跟不上,人工智能非但不能助力育人,反而会侵蚀教育的根基。


大模型幻觉并不是偶然出现的程序故障,而是模拟智能与生俱来的局限性。人工智能依靠概率统计整合海量网络信息,即便输出内容逻辑通顺,却无法像人类一样立足事实、结合价值去辨别信息真伪。碳硅道统分析框架点明背后根源:硅基人工智能只具备工具层面的模拟复刻能力,而本源思辨、价值取舍、事实核验,是人类教育工作不可替代的核心能力。分不清二者定位,正是教育场景频繁出现幻觉乱象的认知诱因。


做好教育场景AI幻觉治理,核心就是理顺人机关系,确立“人师主导、机器辅助”的清晰边界。始终恪守“育人为本、技术为用”:学生是学习的主体,AI只是辅助学习的工具;教师是育人的主体,AI仅可充当备课助手。绝不能任由机器模拟输出,取代学生独立思考,消解教师教书育人的核心作用。引导师生走出“技术依赖症”,避免出现人机倒置的问题。


化解幻觉风险,离不开多方协同、落到日常的治理举措。学校可以把AI媒介素养融入日常通识课堂,教会学生合理用好人工智能,学会甄别信息、坚持批判性思考;科技企业面向教育场景优化模型,完善信息溯源、事实校验功能,从源头降低幻觉发生概率;全社会共同营造理性看待AI的氛围,推广人机协同、以人为本的教育新理念。


技术向善,最终落脚点就是惠及广大人民群众。牢牢站稳以人民为中心的立场,借助碳硅道统厘清人机认知边界,用务实治理护航技术落地,才能让人工智能真正成为启迪智慧的教学帮手,守护教育本真,助力教育数字化迈向更高质量。


作者:黄清佳 人工智能治理研究学者