近日，“人工智能乱编坑惨大学生”“如何防止Deepseek乱编文献”相继成为网络社交平台上的热门话题。随着AI在教育领域的广泛应用，学者担忧AI生成的虚假学术成果会扭曲科学方法论的理解，削弱科研逻辑训练，信息茧房及AI谣言更会影响青少年的独立思考。业内人士指出，理解AI思考模式，方能使其回归教育目标。

生成式AI正快速进军教育领域，凭借庞大的知识储备和认知能力，为教育高质量发展奠定技术基础。AI通过个性化学习路径、智能评估系统等，有效提升教育效率，促进教育公平。然而，如何确保人人善用而非滥用AI技术，成为亟待解决的问题。

具备深度思考能力的大模型，如OpenAI的O1、DeepSeek的R1，已展现出类似人类的反思能力。AI的反思能力放大了教育发展的机遇与挑战，一方面助力教育提质增效，另一方面若误用滥用，将对学习者心智成长产生负面影响。

AI技术的“双刃剑效应”显而易见。枪支作为先进技术，既能保护人类，也存在巨大破坏力。AI在教育中的应用同样面临困境，如何确保人们善用AI能力，避免滥用或误用，是亟需思考的问题。

AI思考与人类思考本质不同。AI以词元概率组合模仿人类思考，但人类思考过程复杂多样，包括直觉式快思考和有意识慢思考。当前大语言模型的思维方式与人类相去甚远，难以达到人类思维的多样化程度。

我们必须对AI的思维过程与结果保持高度批判意识。AI思考可能犯错，误导学生。研究表明，大模型的深度思考可能伴随幻觉率上升，即思维过程中植入常识错误、事实错误的可能性增加。AI在身心协同方面离人类尚有距离，难以全面理解现实世界，因此AI思维犯错在所难免。

AI思考存在过度全面的倾向，在海量知识和数据支持下，擅长关联不同因素解决问题，但往往抓不住解决问题的关键。同时，AI思维同质化问题显著，面对相似问题时，思维过程、例证选择和理论应用高度一致，缺乏真正的创新突破和思想多样性。

在教育应用中，需充分认识人机差异，合理定位AI角色，既发挥其在知识传递和思维辅助方面的优势，又避免对学生独立思考能力和创造力产生负面影响。应构建人机协同的新型教育模式，让AI承担知识传授和基础训练工作，教师关注学生价值引导、情感互动和创新思维培养。同时，加强AI技术在教育领域应用的伦理规范和安全监管，确保教育始终以培养学生的核心素养和思维能力为根本目标。

相关链接：

AI是教会学生还是教“废”学生？近两年，多所高校出台关于大学生使用AI工具的规定。如何界定AI使用边界，规避学术不端风险？立陶宛维尔纽斯大学开除10名违规使用AI的学生，耶鲁大学等也出现类似情况。研究发现，AI影响学生和教师决策能力，使学生变得懒惰。沃顿商学院副教授伊森·莫里克的研究发现，在特定任务中，过度依赖AI的人类顾问表现不如未使用AI的顾问。

（作者为复旦大学教授、上海市数据科学重点实验室主任）

（文章来源：上观新闻）