人工智能与未来教育国际前沿研究专栏 | 韦恩·霍姆斯 孙梦 袁莉：《人工智能与教育：本质探析和未来挑战》
世界教育数字化动向研究
重新思考人工智能给教育带来的冲击和影响
——人工智能与未来教育国际前沿研究专栏导读
科林·德·拉·伊格拉
作者简介
科林·德·拉·伊格拉（Colin de la Higuera），法国南特大学联合国教科文组织开放教育资源和人工智能教席，教授
人工智能教育包含两个方面的内容，一是人工智能在教育中的应用，二是提高人工智能素养。当前，如何面向未来培养下一代年轻人，已经成为这个时代各国政府的一个紧迫议题。可以肯定的是，虽然我们尚未掌握人工智能社会必备的数字技能，但全世界的教育系统都在迅速对此采取相关的行动。无论是从技术层面，还是从人类发展层面，人们都应该拥有以开发、实施和使用人工智能技术为核心的知识、技能和价值观。
专栏文章《人工智能与教育：本质探析和未来挑战》由英国伦敦大学学院副教授韦恩·霍姆斯（Wayne Holmes）等人撰写。韦恩·霍姆斯长期从事学习科学与教育技术创新等方面的研究，是关注人工智能与教育问题的国际知名学者之一。多年来， 他从批判性研究视角探讨人工智能教育的伦理问题及对社会的影响和冲击，已经出版了多本探讨人工智能与教育关系的专著。其中包括《人工智能教育中的伦理：实践、挑战和争议》（2022）、《人权、民主和法治视域下的人工智能教育》（2022）、《人工智能在教育中的伦理：走向社区的框架》（2021）等。他是多个国际组织的专家，也是联合国教科文组织新成立的国际人工智能研究中心（IRCAI）的主要发起人之一。
文章主要回顾了韦恩·霍姆斯在过去几年中提出并一直在坚持的关键思想，并探索了不同类型的人工智能技术应用。他的结论得到了广泛认同，即我们应该警惕炒作，人工智能对教育所产生的作用可能并不是我们想象的那样！更重要的是，作者认为，“如果人工智能能够对教育产生影响，那么人工智能产业就将拥有对教育的话语权……”而这并不是我们所希望看到的。很多国际权威组织也在不断强调人工智能应用于教育的相关问题，如欧洲委员会强调了人的权利问题，联合国教科文组织则强调了伦理规则等问题。
韦恩·霍姆斯等人在文章中提出“要确保同时教授人工智能技术和人文两个方面的内容。”这一观点非常重要，因为在大多数学校系统里，科学和人文是分开教授的。文章还提出“人工智能在教育中的应用大部分采用了相当原始的教学方法，而且经常把重点放在自动化这些陈旧的教学方法，而不是推动教学创新”等观点，从不同角度探析了人工智能教育的本质。
当前，很多人工智能教育研究是以解决方案为导向而不是以问题为导向、以取代教师为目标而非赋能教师，并且人工智能教学往往只关注人工智能的技术层面，而将人文的因素排除在外。文章从人工智能的定义以及人工智能与教育的关系出发，为读者了解人工智能教育提供了一个很好的切入点。文章还围绕人工智能教育与教学法，伦理，儿童权益，个性化，节约教师时间，智能、效能和影响，技术解方主义，教育商业化，殖民主义，信任等十个方面，思考人工智能教育表象下存在的问题，将启发更多人在此基础上继续探索新的想法，并对该领域的研究重点有更加深刻的理解和思考。
引用格式
韦恩·霍姆斯,孙梦,袁莉.人工智能与教育：本质探析和未来挑战[J].中国教育信息化,2023,29(2):16-26.DOI: 10.3969/j.issn.1673-8454.2023.02.002.
世界教育数字化动向研究
人工智能与未来教育国际前沿研究专栏
人工智能与教育：
本质探析和未来挑战
韦恩·霍姆斯 孙梦 袁莉
摘要：当前，虽然有研究人员认为人工智能将重塑教育，关于人工智能教育的研究也日益受到关注和重视，但是人工智能在教育中的应用仍存在“炒作”现象，一些乐观看法还亟待商榷，一些关键问题还需要探析和解决。为此，文章首先探讨了人工智能的定义，提出人工智能本质上应同时考虑其技术维度和人的维度；然后进一步分析人工智能与教育的关系，并从人工智能教育与教学法，伦理，儿童权益，个性化，节约教师时间，智能、效能和影响，技术解方主义，教育商业化，殖民主义，信任等十个方面，思考人工智能教育表象下存在的问题。据此提出，虽然人们已经意识到教育中人工智能伦理和人本主义等问题的重要性，但由于人工智能的发展方向受科技巨头企业的控制，这些问题的解决还有很长的路要走。文章希望通过对人工智能教育本质的探讨，促使更多研究者和实践者不只关注人工智能教育的表面价值，更要去发现、思考和应对正在出现和仍然未知的挑战。
关键词：人工智能；人工智能教育；人工智能素养；人工智能伦理；未来挑战
中图分类号：G434
文献标志码：A
文章编号：1673-8454（2023）02-0016-11
作者简介：韦恩·霍姆斯（Wayne Holmes），英国伦敦大学学院教育学院副教授，联合国教科文组织国际人工智能研究中心主任和欧洲委员会研究员（伦敦 SE9 2UG）；孙梦，北京师范大学未来教育学院讲师，共同第一作者、同等贡献者（珠海 519087）；袁莉，北京师范大学未来教育学院教授，通讯作者（珠海 519087）
基金项目：教育部教育管理信息中心教育管理与决策研究服务专项2022年度委托课题“国外教育数字化战略行动研究及其教育态势感知数据库建设”（编号：EMIC-2022006）；2021 年国家外专项目“人工智能和未来教育前沿问题研究与教学改革探索”（编号：G2021111027L）；2021 年度广东省教育科学规划课题“互联网 + 国际教育：高校学生自主性学习和新型能力培养的研究”（编号：2021GXJK375）
一、引言
人工智能在教育中的应用已被认为是一种“在全球传播优质教育的全新方式”[1]。著名人工智能专家李开复等人在《AI 2041：预见10个未来新世界》（AI 2041: Ten Visions for Our Future）一书中提出：“我们知道今天教育的缺陷，人工智能可以在修复这些缺陷方面发挥重要作用。人工智能将使学习更有效、更吸引人、更有趣……这种共生的、灵活的新教育模式，可以帮助每个学生在人工智能时代发掘自己的潜力”。[2]
当前，很多研究人员认为，人工智能可以为学习者提供个性化和符合学习需求的内容[3]；国际组织也纷纷大力宣称，人工智能将能为学习者提供更大的自主权（如学习内容、方式、时间、地点等）[4]和帮助教师实现更好的教学效果[5]。因此，越来越多的人认为人工智能将改变教育[6]，这种热情也促使人工智能教育（Artificial Intelligence in Education, AIED）成为2020年人工智能三大风险投资领域之一[7]。
然而，当前对于人工智能教育的一些乐观看法在很大程度上是夸大，甚至错误的。人工智能和人工智能教育的巨大潜力仍有待进一步发掘。目前人工智能在教育中的应用存在“炒作”现象，其发展受到诸多关键性限制的问题，也尚未得到充分考量。事实上，关于人工智能教育潜力的种种提法，大多基于理论设想而非源自实证研究[8]。这些设想经常过于简单化，忽视了诸如能动性、教学法、监督、效能、伦理等方面的问题[9-12]。其原因是，现有人工智能教育倾向于解决方案导向而非问题导向，目的是取代教师的职能而非赋能教师。此外，在关于人工智能与教育关系的研究与讨论中，还存在术语不明确的问题，“运用人工智能教学（teaching with AI）”与“教授人工智能知识（teaching about AI）”经常混淆，使得当前关注的焦点仅在于人工智能的技术维度，忽视了教育中必不可少的人的维度。基于此，本文从人工智能的定义、人工智与教育的关系，以及未来人工智能教育面临的挑战三个方面，对相关问题作延伸讨论。
二、人工智能定义辨析
要厘清人工智能与教育的关系，首先要明晰什么是人工智能。通过网络检索可以发现，有关人工智能的定义在不断发生变化。有观点认为，一些前沿的人工智能应用，一旦变得非常实用和相当普及，往往就不再被贴上人工智能的标签[13]。
对于非计算机领域的研究者来说，由联合国儿童基金会发布的定义值得参考。该定义认为，人工智能是指能够根据人类设定的一系列目标，做出影响现实或虚拟环境的预测、建议或决定的机器系统。人工智能系统直接或间接地与我们互动并影响环境。通常，人工智能系统看起来是自主运行的，并且可以通过对环境的学习来调整自身行为[14]。
该定义的重要性可以从三个方面来理解[11]。首先，该定义适应了基于数据驱动的人工智能技术的发展（如人工神经网络和深度学习），但又不依赖于数据；其次，该定义涵盖了基于规则或符号的人工智能，以及未来可能出现的任何新的人工智能范式（如“神经符号”人工智能）[15]；最后，该定义强调人工智能系统必然依赖于人类的目标，其核心是考虑到人类在人工智能开发流程所有阶段的关键作用，即人工智能系统有时“看起来是自主运行的”，而不是假设它们“确实是自主运行的”。
实际上，该定义也存在一定的缺陷，“学习”这一要素在人工智能系统中的意义并不大。学习需要意识或能动性，而在现在和可预见的未来，机器系统并不具备这一能力[16]。虽然人工智能叙事者经常使用拟人化的术语来描述机器系统，如“智能”“学习”“识别”等，但这并不能改变上述事实。总之，在试图理解人工智能的真正含义时，我们要认识到它既不神奇，也不具备人类的智慧[17]；跳出思维定势来看，人工智能甚至不是人工的，也不是智能的，其背后实际是人在执行任务，只不过系统看起来像是自主运行的[18]。
需要承认的是，近年来基于“机器学习”的人工智能，尤其是“人工神经网络”研究，取得了巨大的进展。人工神经网络的灵感来自于人类大脑的结构和功能，包括神经元和突触，并且以大量数据为基础来确定模式和得出推论[19]。人工神经网络已经在诸如人类语言之间的自动翻译[20]、蛋白质折叠预测[21]、生成类人文本的大型语言（如“GPT-3”）[22]等方面取得了成功应用。
然而，在取得这些进展的同时，人工智能也经常受到过度宣传和夸大其辞的影响[23]。例如，人工智能系统可能会非常脆弱，有时对路标的一个小改变就会妨碍人工智能图像系统对它的识别[24]；人工智能产生的结果也可能会因为训练数据集或驱动算法的偏差而出现偏差[25]；在人类面临严重的新冠疫情传播的时候，人工智能也未能如预期一样发挥作用[26-29]；人工智能语言模型也经常会生成一些无意义的文本[30][31]等。
需要指出的是，尽管当前人工智能有其技术背景和受技术主导，但也不应该只是纯技术术语。相反，人工智能是一种复杂的社会技术生成物，需要被理解为复杂的社会过程的产物[32]。也就是说，在研究人工智能时，必须同时考虑共生关系中人的维度和技术的维度。
三、人工智能与教育的关系
人工智能与教育之间的关系可以归纳为人工智能在教育中的应用和面向人工智能素养提升的教育。人工智能在教育中的应用涉及在教学和学习中使用人工智能辅助工具，包括利用人工智能支持学习者、教师和教育行政管理者（如招聘、课程表和学习管理）[33]。面向人工智能素养提升的教育涉及提高所有年龄段公民（从初等教育到终身学习者）及其教师的人工智能知识和技能，既包括人工智能的技术维度，即人工智能的相关技术，如机器学习、自然语言处理等；也包括人工智能的人的维度，即确保所有公民为人工智能对生活可能产生的影响做好准备，帮助他们了解人工智能伦理、数据偏见、监控，以及对就业的潜在影响等问题。可见，只有充分理解人工智能的本质，即技术和人两个维度，才能具备人工智能素养。
（一）人工智能教育应用
在过去的40年里，多数人工智能教育研究的重点都聚焦于支持学习者的人工智能，即自动化教师的职能，从而使学习者能够不依赖于教师进行学习。然而，现有的人工智能教育大部分采用了相当原始的教学方法，而且经常把重点放在自动化这些陈旧的教学方法，而不是推动教学创新。例如，人工智能经常被用于辅助传统考试，却很少被用于设计创新的方法来评估和认证学习。尽管如此，支持学习者的人工智能已经在主流教育中流行起来，并发展出了各种各样的应用。最近有研究依据可用性（从成熟的商业应用到获取投资的设想）对其进行了分类[11]，主要包括：智能辅导系统、人工智能学习应用（如翻译软件、作业解答）、人工智能模拟仿真（如增强现实、基于游戏的学习）、支持特殊学习者的人工智能、自动化论文写作、聊天机器人、自动化形成性评价、学习网络配置、基于对话的辅导系统、探索性学习环境以及人工智能终身学习助手。
随着人工智能对社会各个领域发展的冲击，世界各地获得数百万美元投资的人工智能教育公司数量不断上升，由此证明全球对于支持学习者的人工智能的需求在持续增长[8][33][34]。然而，现有支持人工智能工具有效性的证据，大多源自基于限定条件下的短期研究[35-37]。排除营销手段和政策制定者表达的愿景，目前尚未有足够证据表明在资源充足的教室中，广泛使用人工智能的合理性。因此，在缺乏强有力独立研究证据的情况下[8]，人工智能将显著改善学习者学习方式这一说法[4]，显得过于理想化或具有一定猜测性[8][33]。
与此同时，很少有研究关注支持教师的人工智能（除了常见的仪表盘[38]）。近期逐渐有一些研究和个别商业产品开始关注这一方面[11]，如抄袭检测、学习资源智能管理、课堂监控、自动化总结性评价、人工智能教学、评估助手以及课堂编排等。支持教育行政管理的人工智能研究也在起步[11]，包括招生、课程规划、日程安排、课程表、学校安全、识别辍学和有风险的学生以及电子监考等。
（二）人工智能素养
虽然只有少数学习者会因为想成为人工智能设计者或开发者而学习人工智能，但鼓励和支持所有公民具备一定水平的人工智能素养，是未来社会的必然要求。无论是从技术角度还是从人的角度，公民都应该拥有以开发、实施和使用人工智能技术为核心的知识、技能和价值观。世界公民需要了解人工智能可能会产生的影响，包括能做什么、不能做什么，何时有用、何时应该受到质疑，还要引导人工智能为公众利益服务。[8]
人工智能素养通常被认为是信息技术素养或数字素养的延伸，包括：数据素养，即理解人工智能如何收集、清理、处理和分析数据的能力；算法素养，即理解人工智能算法如何识别数据中的模式（Patterns）和关联（Connections）的能力[39]。然而，人工智能在本质上与大多数数字技术不同，人工智能素养也不能仅限于技术部分。换言之，人工智能素养应该包括人工智能的技术和人的维度，即人工智能的运作方式（技能和技术）和对人的影响（认知、隐私、能动性等）[33]。
总之，尽管人工智能技术的教学很重要，但也不应忽视采用自动化决策背后的人、权力和政治动机。强调人工智能素养的人的维度，是要让每个人都能够了解与人工智能共存意味着什么，以及如何在最大限度地利用人工智能提供优势的同时，保护人的行为或尊严不受任何不当影响。因此，应该帮助年轻人了解人工智能、自动化，尤其是自动化决策将如何影响他们的社会待遇。换句话说，如果年轻人想要像精通数学一样精通人工智能，就需要了解其有意或无意接触的人工智能是否公平地对待了他们。[40]
通常的观点是，信息技术相关教师负责教授信息技术或提高学生数字素养。但事实证明，只有通过鼓励不同学科（从科学到人文、艺术）的所有教师，与学生一起探索人工智能在其学科领域的潜在用途、益处、影响、挑战、风险等议题，才能真正实现人工智能素养的培养和提升。例如，基于人工智能已经被用于自动生成数字图像、诗歌和故事的案例，相关学科教师（如艺术和文学教师）可以提问学生——如果机器可以具有创造性行为，那么人的价值又将如何体现？
四、未来人工智能教育面临的挑战
值得关注的是，由于存在用于监控、剥夺教师权利和削弱学生能动性的倾向，许多人工智能工具在教育中的应用已经受到广泛质疑[11]。因此，有必要对人工智能教育所面临的深层次问题进行全面剖析，具体包括：教学法，伦理，人权，个性化，节约教师时间，智能、效能和影响，技术解方主义（techno-solutionism），殖民主义，信任等。
（一）人工智能教育与教学法
虽然现有的商业人工智能辅导工具采用了先进的技术，并时常以认知科学为基础，但它们几乎都仅仅体现了简单的教学和学习方法，其本质是根据学生表现灌输预先设定的学习内容，从而避免失败。尽管这些人工智能工具声称可以给每个学生提供不同的建议，但本质上还是基于行为主义或讲授主义理论，并未体现近60多年来教学研究的新发展。长此以往，人工智能将剥夺教育工作者的权力，使他们成为单纯的技术促进者；并削弱学生的能动性，使得他们别无选择，只能做人工智能要求的事情，失去发展自主技能或自我实现的机会。人工智能教育教学工具的典型方法忽视了深度学习[41]、引导式发现学习[42]、有益的失败[43]、基于项目的学习[44]、主动学习[45]等。这种行为主义取向，尤其是填鸭式的方法，将记忆优先于思考，将了解事实优先于批判性参与，最终会损害真正的学习。
（二）人工智能教育与伦理
总体来说，人工智能研究越来越关注伦理问题，并已提出80多项人工智能伦理原则[46]。人工智能教育中的伦理问题对学生、教育工作者、家长和其他利益相关者至关重要，但相关的研究还比较缺乏[9][10][47][48]。事实上，到目前为止，大多数人工智能教育工具的研发，都没有认真考虑在教育中使用人工智能可能带来的伦理后果。虽然欧洲国家开始制定面向教师的指南和规则，以规范人工智能教育伦理发展和技术开发，联合国教科文组织成员也签署了《北京共识》[49]，但尚未有国家和地区真正颁布适当的法规[50]。同时，大多数围绕人工智能教育伦理和学习分析的相关讨论都集中于数据（如偏差、隐私和数据所有权），以及如何分析数据（如公平、透明和信任）等问题。而人工智能教育的伦理不仅仅包括以上问题。也就是说，了解人工智能教育数据和算法的伦理问题是必需的，但不是全部。人工智能教育伦理还需要关注教育和人类发展的伦理问题[10]，如教学法（大多数人工智能教育采用的教学方法是否有道德基础）、知识（什么是知识）、评估（应该评估什么以及如何评估），以及学生和教师的能动性（谁应该掌握“控制”权）[9]等一系列问题。
（三）人工智能教育与儿童权益
近期，欧洲委员会借鉴了联合国《世界人权宣言》（1948年）、欧洲理事会《欧洲人权公约》（1953年）和联合国《儿童权利公约》（1989年），从人权方面探索了人工智能和教育，并发布了相关报告[40]。该报告详细讨论了人工智能教育工具面临的关键问题：①人类尊严的权利：教学、评估和认证不应委托给人工智能系统。②自主权：儿童应享有避免被进行个体描述、被规定学习路径，并保护他们的发展和未来生活的权利。③被倾听的权利：儿童应享有不接触人工智能系统的权利，且不会对他们的教育产生负面影响。④不受歧视的权利：所有儿童都应享有从技术使用中受益的机会，而不仅仅是那些有负担能力的社会经济群体。⑤数据隐私和数据保护的权利：儿童应享有在没有直接利益的情况下，其数据不被汇总和用于商业目的的权利。⑥透明度和可解释性的权利：儿童和他们的父母应该能够理解和质疑人工智能教育系统做出的任何决定。
（四）人工智能教育与个性化
李开复等人提出，也许人工智能在教育领域的最大机会是个性化学习。个性化的人工智能导师可以被分配给每个学生，不像真人教师要考虑整个课堂，虚拟教师可以给予每个学生特别关注，无论是解决特定的发音问题、练习乘法还是写文章。人工智能教师会注意到哪些知识会让学生的瞳孔放大、哪些知识会让学生的眼皮下垂。它可以推断出一种教几何的方法，使一个学生学得更快，即便这种方法可能对其他1000名学生无效。而对于一个热爱篮球的学生来说，数学问题可以用自然语言处理技术改写为篮球领域问题。人工智能会根据每个学生的进度给他们布置不同的家庭作业，确保学生在进行下一个主题之前完全掌握前一个主题。[2]
虽然“个性化学习”的含义尚未完全明确[51]，但越来越多的教育工作者认为教育应努力实现个性化学习[52]。事实上，“个性化学习”起源于100年前普雷西（Pressey）和斯金纳（Skinner）设计的所谓“教学机器”，即针对每个学生的长处和短处进行学习[53]。出于各种原因，这些机器在当时没有被广泛接受，因此关于个性化学习的讨论也逐渐消失。然而，几十年后，互联网的发展使大规模定制成为可能，也使得个性化学习重新被关注。人们经常会问，如果我们可以在网飞或亚马逊上提供个性化的推荐，为什么不能在教育领域做类似的事情。
关于个性化学习，有研究人员提出这样的比喻：标准的课堂教育就像一辆普通的校车（黄色巴士），所有学生都坐在一起，以相同的速度、相同的方向，前往相同的目的地（汽车站）；而人工智能教育产品更像是网约车车队，每个学生都坐在自己的网约车里，以适合他们个人的速度和方向行驶。然而，这个比喻也未能揭示人工智能教育的本质。虽然一些人工智能工具可以通过学习材料为每个学生提供学习的路径，但这仍然会把所有学生带到一样的固定学习终点。这也表明，当前人工智能教育所提供的个性化学习方法是基于对个性化的表面理解[33]。事实上，真正的个性化是帮助每个学生发掘自己的潜力，自我实现，并增强能动性，但目前很少有人工智能教育工具能够实现。总之，虽然现有人工智能教育工具可以通过学习材料提供相应的个性化学习途径，但大多数都有推动学生同质化的趋势。通过对这类人工智能教育工具的批判性解读，我们应该认识到，这些工具只能确保学生按照既定的目标发展（如通过考试），并为适应既定的社会工作角色作好准备。
（五）人工智能教育与节约教师时间
教育技术界另一个老生常谈却又从未真正实现的愿望是，应用人工智能教育工具节省教育工作者的时间[53]。当然，业界可能会辩解说人工智能与其他教育技术不同，人工智能工具最终将节省教育工作者的时间。虽然多数教师都会喜欢能够代替他们打分的工具，但是任何人工智能系统，都无法提供像人类教育者一样具有深度的解释或准确的分析。同时，人工智能还会忽略教师对学生的了解程度，在阅读学生的作品时，教师给出的个人见解是任何仪表盘都无法给出的。需要进一步思考的是，即使人工智能确实可以在一定程度上节约教师时间，但能否像技术公司所许诺的“提高教学质量”，仍有待进一步探究和证实。
（六）人工智能教育的智能、效能和影响
首先，许多公司声称其人工智能教育工具是智能的，但事实并非如此：至今没有任何人工智能系统能接近人类的智慧（引人瞩目的GPT-3也不能理解它生成的文本[31]），也没有任何人工智能教育工具能接近人类教育者的智慧。事实上，教育领域人工智能系统所涵盖的范围和能够实现的目标非常有限，有些系统尽管看起来很智能，但距离真正的智能依然任重道远[54]。
其次，发表在《国际人工智能教育杂志》（International Journal of Artificial Intelligence in Education）上的实证研究表明，研究者已经对人工智能教育系统的效能开展了广泛研究，也有许多元分析对此进行了综述[55-57]。然而，这些研究大多由技术开发人员开展，并且大多来自商业组织本身，其学习者数量十分有限，可推广性不强。目前，只有少数研究是独立进行或大规模的[58][59]，而这些研究大多在美国开展，其可迁移性也受到社会文化等因素的限制。
再次，现有的人工智能教育研究，多专注于验证人工智能工具在提升个体学生学习成就方面的作用，很少有研究考虑到人工智能在课堂环境中可能产生的更广泛意义，及其对教师和学生产生的更深远影响。例如，目前许多循证研究都旨在揭示人工智能的技术力量，而尚未触及教育是否需要人工智能的问题[8][60]。
最后，人工智能教育还可能会对人类认知和大脑发育产生潜在影响。儿童的认知结构和能力仍处于发展阶段，关于技术如何影响儿童大脑和认知能力是一个重要且尚待研究的问题，主要包括：技术使用是否导致诸如注意力问题等各种认知或行为后果？技术使用是否与儿童大脑部分区域重构有关？技术使用是否与健康风险有关？如果是，其因果机制可能是什么[61]。这些问题的解决对人工智能教育发展至关重要，值得重点关注。
（七）人工智能教育和技术解方主义
“人工智能教育系统比人类教师表现更好”[56]，这一结论是支撑人工智能教育系统广泛应用的合理性依据。特别是，由于优质师资不足，一些发展中国家农村地区学生无法获得应有的优质教育，而人工智能教育被认为可以弥补这一缺失[62]。尽管在这种特定的背景下，学生可能会从获得的人工智能教育工具中受益，但也存在很多挑战。一方面，许多农村地区缺乏必要的基础设施（如电力和互联网接入）；另一方面，有些地区有可用的设备，但能够部署、管理和支持所需硬件和软件的人才十分有限。
更重要的是，虽然人工智能教育或许能解决学习者无法接受高质量教育等表面问题，但无法从根本上改变优质师资不足等潜在、长期的，社会发展过程中存在的一些积弊。在实践中，技术提供者往往会根据自身利益来表述“问题”，而由于缺乏利益相关者的广泛参与，教育中更深层的社会和文化问题很难得到改变。正如克拉胡尔科娃（Krahulcova）所指出的那样，“最复杂的现实世界问题需要复杂的现实世界解决方案”[63]，而不是技术解决方案。因此，提升落后地区教育质量的最好办法，应该是专注于教师专业发展和向缺乏经验的课堂教师提供支持，如在全国范围内建立人工智能辅助的同行、教学专家交流平台。因此，人工智能教育未来发展的重点应该是使用技术来支持和赋能教师，而不是取代教师。
（八）人工智能教育与教育商业化
以学习者为中心的人工智能研究已有近40年历史，但近10年间才得以走出实验室，逐渐商业化，并被各国政府借助行政手段大力推广。这一发展现状具有重要影响：首先，虽然人工智能研究最初是在学术界进行，目的是加强教学和学习，然而，在商业机构以创造利润为前提的背景下，学生与人工智能系统的交互，必然会产生关于产品如何设计的技术知识，以及关于产品如何使用的市场知识。我们需要反思，学生是否在不知情的情况下，被用来创造和提供旨在支持企业的商业智能，这是否已取代帮助学生学习和认知发展的本意[40]。其次，商业机构很少分享专有系统及其有效性的信息，限制了社会公众对采购、审查和公共资金问责的权利。最后，大型科技公司所提供的人工智能教育系统和工具不仅在塑造个体学习者，并且也在影响国家政策和治理，即“它们可以按照自己的标准来决定什么是知识。知识就是或将是，那些能够或可以通过计算方式程序化的东西”[64]。简而言之，这种以人工智能教育为借口，从而隐匿地将教育商业化的做法，也反映了复杂的现实和意识形态问题。
（九）人工智能教育与殖民主义
人工智能教育科技公司在全球范围内销售其产品，也助长了所谓的人工智能教育殖民主义：发达国家的公司将人工智能教育工具出售到发展中国家，造成了国家之间权力的不对等。在这种情况下，“数字技术成为延续过去种族和殖民形态的一种方式”[65]。事实上，来自发达国家的人工智能教育研究长期以来占据压倒性优势，但其很少在解决文化多样性或地方政策、实践问题方面作出有意义的贡献[66]。
人工智能教育殖民主义可以表现为，发展中国家采用了某个人工智能教育工具，其数据和资本被提取，为发达国家公司带来市场和经济收益[67]。它可能始于个别学校的人工智能教育日常教学实践，然后逐步扩展到整个国家教育系统，最终所有学校都采用单一的产品。甚至，人工智能教育殖民主义并非一定要依赖某种特定的工具，在课堂中训练人工智能教育工具的语言（多为美式英语）都可能会产生影响[68]。而在非英语环境中，使用基于英语训练模型的人工智能教育工具的效果，及其对学生的影响尚未可知[69]。
（十）人工智能教育和信任
旨在支持学习者的人工智能教育的最后一个问题是信任。要想在课堂上更加广泛地应用人工智能工具，必须要让利益相关者，如教师、学生、家长等相信其是有益的，可以促进学习且不会造成任何伤害。当前，涉及信任的对话才刚刚开始，而相关责任往往落在使用者而非开发者身上。例如，最近一项研究总结了影响教师信任人工智能教育工具的八个因素，但所有因素都指向教师，而没有向开发者提出任何使其所开发工具值得被信任的要求[70]。为此，我们建议，未来人工智能教育系统设计应遵循欧洲委员会的《可信任的人工智能伦理指南（2019）》（Ethics Guidelines for Trustworthy AI 2019）[71]。
五、结语
本文提出和讨论当前人工智能教育所面临的众多挑战，试图确保教育工作者在教育中使用正确的人工智能类型，以及教授正确的人工智能方法[72]，并非阻止人工智能在教育中的应用。经过多年发展，人工智能的伦理和人本主义挑战开始出现并逐渐受到了重视。然而，由于人工智能的发展方向受科技巨头企业的控制，这些问题的解决还有很长的路要走[73]。与此同时，尽管人工智能教育研究已经有40多年的发展历史，但直到最近，人工智能教育工具才开始真正大规模进入课堂，而人工智能素养也仍存在唯技术维度而忽视人的维度的误区。总之，当前人工智能在教育中的应用和人工智能素养的提高还较为滞后。令人欣慰的是，越来越多的人尝试采用人本主义方式来研究人工智能教育[9][72][74]，开始逐步关注和解决信任、人的能动性和透明度等问题。
参考文献
[1]SELDON A, ABIDOYE O. The fourth education revolution: will artificial intelligence liberate or infantilise humanity?[J]. Nanotechnology Perceptions: A Review of Ultraprecision Engineering and Nanotechnology, 2018,14(2):120-125.
[2]LEE K F, CHEN Q. AI 2041: Ten Visions for Our Future[M]. WH Allen: currency, 2021.
[3]WORLD BANK. In ecuador, artificial intelligence makes learning math easier[EB/OL].(2022-02-10)[2022-08-19]. https://www.worldbank.org/en/news/feature/2022/02/10/en-ecuador-aprender-matematicas-es-mas-facil-con-inteligencia-artificial-nivelacion-remediacion-academica.
[4]OECD. OECD Digital Education Outlook 2021: Pushing the Frontiers with Artificial Intelligence, Blockchain and Robots[R]. Paris: OECD Publishing, 2021.
[5]IBM. IBM Watson Education Classroom helps teachers deliver personalized learning that can improve student outcomes[EB/OL].(2018-02-27)[2022-08-19]. https://www.ibm.com/common/ssi/cgi-bin/ssialias?htmlfid=897/ENUS218-010& infotype=AN&subtype=CA.
[6]OECD. Trustworthy AI in education: Promises and challenges[EB/OL].(2020-04-08)[2022-09-26]. https://www.oecd-ilibrary.org/education/trustworthy-artificial-intelligence-ai-in-education_a6c90fa9-en.
[7]ZHANG D, MASLEJ N, BRYNJOLFSSON E, et al. The AI index 2022 annual report[EB/OL].(2022-05-02)[2022-08-19]. https://doi.org/10.48550/arXiv.2205.03468.
[8]MIAO F, HOLMES W, HUANG R, et al. AI and education: Guidance for policy-makers[R]. Paris: UNESCO, 2021.
[9]HOLMES W, PORAYSKA-POMSTA K. The Ethics of AI in Education. Practices, Challenges, and Debates[M]. London: Routledge, 2023.
[10]HOLMES W, PORAYSKA-POMSTA K, HOLSTEIN K, et al. Ethics of AI in education: Towards a community-wide framework[J]. International Journal of Artificial Intelligence in Education, 2021:1-23.
[11]HOLMES W, TUOMI I. State of the art and practice in AI in education[J]. European Journal of Education, in press.
[12]PORAYSKA-POMSTA K, HOLMES W, NEMORIN S. The ethics of AI in education. In B. Du Boulay(Ed.), handbook of artificial intelligence in Education[M]. in press.
[13]CNN. AI set to exceed human brain power[EB/OL].(2006-08-09)[2022-08-18]. http://edition.cnn.com/2006/TECH/science/07/24/ai.bostrom/.
[14]UNICEF. Policy guidance on AI for children[EB/OL].(2021-11-01)[2022-09-26]. https://www.unicef.org/globalinsight/media/2356/file/UNICEF-Global-Insight-policy-guidance-AI-children-2.0-2021.pdf.pdf.
[15]SUSSKIND Z, ARDEN B, JOHN L K, et al. Neuro-Symbolic AI: an emerging class of AI workloads and their characterization[EB/OL].(2021-09-13)[2022-09-26]. http://arxiv.org/abs/2109.06133.
[16]REHAK R. The language labyrinth: constructive critique on the terminology used in the AI discourse. In P. Verdegem(Ed.), AI for everyone? critical perspectives[M]. London: University of Westminster Press, 2021:87-102.
[17]PRESS G. Deep learning pioneer Yoshua Bengio says AI is not magic and Intel AI experts explain why and how[EB/OL].(2019-09-20)[2022-09-26]. https://www.forbes.com/sites/gilpress/2019/09/20/deep-learning-pioneer-yoshua-bengio-says-ai-is-not-magic-and-intel-ai-experts-explain-why-and-how/?sh=4a278a7612a6.
[18]CORBYN Z. Microsoft’s Kate Crawford:“AI is neither artificial nor intelligent”[EB/OL].(2021-06-06)[2022-08-18]. https://www.theguardian.com/technology/2021/jun/06/microsofts-kate-crawford-ai-is-neither-artificial-nor-intelligent.
[19]HOLMES W, BIALIK M, FADEL C. Artificial Intelligence in education. promises and implications for teaching and learning[M]. Center for Curriculum Redesign, Boston, MA, 2019.
[20]OBTRANSLATE. OBTranslate is a deep learning, artificial intelligence platforms and neural network systems for languages[EB/OL].(2022)[2022-09-26]. https://obtranslate.org/
[21]GOOGLE DEEPMIND. AlphaFold: A solution to a 50-year-old grand challenge in biology[EB/OL].(2020-11-30)[2022-08-19]. https://www.deepmind.com/blog/alphafold-a-solution-to-a-50-year-old-grand-challenge-in-biology.
[22]HEAVEN W D. OpenAI’s new language generator GPT-3 is shockingly good—And completely mindless[EB/OL].(2020-07-20)[2022-08-19]. https://www.technologyreview.com/2020/07/20/1005454/openai-machine-learning-language-generator-gpt-3-nlp/.
[23]BERRYHILL J, HEANG K K, CLOGHER R, et al. Hello, world: artificial intelligence and its use in the public sector[EB/OL].(2019-11-21)[2022-08-18]. https://doi.org/10.1787/726fd39d-en.
[24]HEAVEN D. Why deep-learning AIs are so easy to fool[J]. Nature, 2019,574(7777):163-166.
[25]LEDFORD H. Millions of black people affected by racial bias in health-care algorithms[J]. Nature, 2019,574(7780):608-609.
[26]BENAICH N. AI has disappointed on covid[EB/OL].(2020-09-20)[2022-08-18]. https://www.ft.com/content/0aafc2de-f46d-4646-acfd-4ed7a7f6feaa.
[27]HEAVEN W D. Hundreds of AI tools have been built to catch covid. None of them helped[EB/OL].(2021-07-30)[2022-08-20]. https://www.technologyreview.com/2021/07/30/1030329/machine-learning-ai-failed-covid-hospital-diagnosis-pandemic/.
[28]ROBERTS M. Artificial intelligence has been of little use for diagnosing covid-19[EB/OL].(2021-05-19)[2022-09-26]. https://www.newscientist.com/article/mg25033350-100-artificial-intelligence-has-been-of-little-use-for-diagnosing-covid-19/.
[29]WALLESER E. When the world needed It most, artificial intelligence failed: how COVID-19 poked holes in AI [EB/OL].(2021-08-05)[2022-09-26]. https://towardsdatascience.com/when-the-world-needed-it-most-artificial-intelligence-failed-how-covid-19-poked-holes-in-ai-38b742ddc222.
[30]HUTSON M. Robo-writers: The rise and risks of language-generating AI[J]. Nature, 2021,591(7848):22-25.
[31]MARCUS G, DAVIS E. GPT-3, Bloviator: OpenAI’s language generator has no idea what it’s talking about[EB/OL].(2020-08-22)[2022-08-19]. https://www.technologyreview.com/2020/08/22/1007539/gpt3-openai-language-generator-artificial-intelligence-ai-opinion/.
[32]EYNON R, YOUNG E. Methodology, legend, and rhetoric: The constructions of AI by academia, industry, and policy groups for lifelong learning[J]. Science, Technology, & Human Values, 2021,46(1):166-191.
[33]HOLMES W. I’m not talking about robot teachers[EB/OL].(2019-12-13)[2022-08-22]. https://www.youtube.com/watch?v=PpvBbNsNqN4.
[34]SUSSKIND R, SUSSKIND D. The future of the professions: How technology will transform the work of human experts(1st EDITION)[M]. Oxford University Press, 2015.
[35]BEAL C R, WALLES R, ARROYO I, et al. On-line tutoring for math achievement testing: A controlled evaluation[J]. Journal of Interactive Online Learning, 2007,6(1):43-55.
[36]MA W, ADESOPE O O, NESBIT J C, et al. Intelligent tutoring systems and learning outcomes: A meta-analysis[J]. Journal of Educational Psychology, 2014,106(4):901-918.
[37]VANLEHN K, LYNCH C, SCHULZE K, et al. The Andes physics tutoring system: Lessons learned[J]. International Journal of Artificial Intelligence in Education, 2005,15(3):147-204.
[38]JIVET I, SCHEFFEL M, DRACHSLER H, et al. Awareness is not enough: Pitfalls of learning analytics dashboards in the educational practice[A]. In é. Lavoué, H. Drachsler, K. Verbert, J. Broisin, & M. Pérez-Sanagustín (Eds.), Data Driven Approaches in Digital Education[C]. Springer International Publishing, 2017:82-96.
[39]MIAO F, SHIOHIRA K. K-12 AI curricula: A mapping of government-endorsed AI curricula[R]. Paris: UNESCO, 2022.
[40]HOLMES W, PERSSON J, CHOUNTA I A, et al. Artificial intelligence and education: A critical view through the Lens of Human Rights, Democracy, and the rule of law[R]. Strasbourg: Council of Europe, 2022.
[41]ENTWISTLE N. Promoting deep learning through teaching and assessment: Conceptual frameworks and educational contexts[A]. TLRP Conference[C]. Leicester, 2000.
[42]GAGNE R M, BROWN L T. Some factors in the programming of conceptual learning[J]. Journal of Experimental Psychology, 1963,62(4):313.
[43]KAPUR M. Productive failure[J]. Cognition and Instruction, 2008,26(3):379-424.
[44]KOKOTSAKI D, MENZIES V, WIGGINS A. Project-based learning: A review of the literature[J]. Improving Schools, 2016,19(3):267-277.
[45]MATSUSHITA K. An invitation to deep active learning[A]. In K. Matsushita (Ed.), Deep Active Learning: Toward Greater Depth in University Education[C]. Springer, 2018:15-33.
[46]JOBIN A, IENCA M, VAYENA E. Artificial intelligence: The global landscape of ethics guidelines[J]. Nature Machine Intelligence, 2019,1(9):389-399.
[47]ADAMS C, PENTE P, LEMERMEYER G, et al. Artificial intelligence ethics guidelines for K-12 education: A review of the global landscape[A]. In I. Roll, D. McNamara, S. Sosnovsky, R. Luckin, and V. Dimitrova (Eds.). AIED: Artificial Intelligence in Education[C]. Springer International Publishing, 2021:24-28.
[48]AIKEN R M, EPSTEIN R G. Ethical guidelines for AI in education: Starting a conversation[J]. International Journal of Artificial Intelligence in Education, 2020,11:163-176.
[49]UNESCO. Beijing consensus on artificial intelligence and education[EB/OL].(2019-05-18)[2022-09-26]. https://unesdoc.unesco.org/ark:/48223/pf0000368303.
[50]HOLMES W, BEKTIK D, WHITELOCK D, et al. Ethics in AIED: Who Cares?[A]. In:19th International conference on artificial intelligence in education(AIED’18)[C]. London, 2018.
[51]HOLMES W, ANASTOPOULOU S, SCHAUMBURG H, et al. Technology-enhanced personalised learning: untangling the evidence[M]. Stuttgart: Robert Bosch Stiftung, 2018.
[52]UNICEF. Trends in digital personalized learning in low and middle-income countries[R/OL].(2022-05-01)[2022-09-26]. https://www.unicef.org/globalinsight/media/2756/file/UNICEF-Global-Insight-Digital-PL-LMIC-executive-summary-2022.pdf.
[53]WATTERS A. Teaching Machines: The History of Personalized Learning[M]. Boston: MIT Press, 2021.
[54]SCHAFFER S. Enlightened Automata. In W. Clark, J. Golinski, & S. Schaffer(Eds.), The Sciences in Enlightened Europe[M]. Chicago: The University of Chicago Press, 1999.
[55]BEAL C R, WALLES R, ARROYO I, et al. On-line tutoring for math achievement testing: A controlled evaluation[J]. Journal of Interactive Online Learning, 2007,6(1):43-55.
[56]DU BOULAY B. Artificial intelligence as an effective classroom assistant[J]. IEEE Intelligent Systems, 2016,31(6):76-81.
[57]KULIK J A, FLETCHER J D. Effectiveness of intelligent tutoring systems: A meta-analytic review[J]. Review of Educational Research, 2015,86(1):42-78.
[58]PANR J F, GRIFFIN B A, MCCAFFREY D F, et al. Effectiveness of cognitive tutor Algebra I at scale[J]. Educational Evaluation and Policy Analysis, 2014,36(2):127-144.
[59]ROSCHELLE J, MURPHY R, FENG M, et al. How big is that? Reporting the Effect Size and Cost of ASSISTments in the Maine Homework Efficacy Study[EB/OL].(2017-03-01)[2022-09-26]. https://files.eric.ed.gov/fulltext/ED575979.pdf.
[60]NEMORIN S. Fair-AI. Project Update #6. Preliminary Findings[DB/OL]. [2022-09-26].https://www.fair-ai.com/projectupdate-6.
[61]GOTTSCHALK F. Impacts of technology use on children: Exploring literature on the brain, cognition and well-being[EB/OL].(2019-02-04)[2022-08-19]. https://doi.org/10.1787/8296464e-en.
[62]XPRIZE. Global Learning XPRIZE|XPRIZE Foundation[DB/OL]. [2022-09-26].https://www.xprize.org/prizes/global-learning.
[63]KRAHULCOVA L. Techno solutionism-Very few things actually need to be an app[EB/OL].(2021-03-24)[2022-08-19]. https://digitalrightswatch.org.au/2021/03/25/technosolutionism/.
[64]BAKER M J. The roles of models in artificial intelligence and education research: A prospective view[J]. Journal of Artificial Intelligence and Education, 2000,11:122-143.
[65]ZEMBYLAS M. A decolonial approach to AI in higher education teaching and learning: Strategies for undoing the ethics of digital neocolonialism[J]. Learning, Media and Technology, 2021:1-13.
[66]BLANCHARD E G. Socio-cultural imbalances in AIED research: Investigations, implications and opportunities[J]. International Journal of Artificial Intelligence in Education, 2015,25(2):204-228.
[67]NEMORIN S, VLACHIDIS A, AYERAKWA H M, et al. AI hyped? A horizon scan of discourse on artificial intelligence in education (AIED) and development[J]. Learning, Media and Technology, 2022:1-14.
[68]COTTERELL R, MIELKE S J, EISNER J, et al. Are All Languages Equally Hard to Language-Model[EB/OL].(2020-02-25)[2022-08-19]. http://arxiv.org/abs/1806.03743
[69]NAISSMITH B, JUFFS A. Finding the sweet spot: Learners’ productive knowledge of mid-frequency lexical items[J]. Language Teaching Research, 2021(1):1-37.
[70]NAZARETSKY T, CUKUROVA M, ARELY M, et al. Confirmation bias and trust: Human factors that influence teachers’ adoption of AI-based educational technology[A]. In Companion Proceedings of the Sixteenth European Conference on Technology Enhanced Learning[C]. AI for Blended-Learning: Empowering Teachers in Real Classrooms Workshop, 2021: 3042.
[71]EUROPEAN COMMISSION, et al. Ethics guidelines for trustworthy AI[EB/OL].(2019-11-08)[2022-08-19]. https://data.europa.eu/doi/10.2759/346720.
[72]HOLMES W. The right kind of AI in education[EB/OL].(2020-02-21)[2022-08-19]. https://www.nesta.org.uk/blog/right-kind-ai-education/.
[73]BENDER E M, GEBRU T, MCMILLAN-MAJOR A, et al. On the dangers of stochastic parrots: Can language models be too big[A]. Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency[C]. 2021:610-623.
[74]TUMONI I. The impact of artificial intelligence on learning, teaching, and education[R]. European Union: JRC, 2018.
Artificial Intelligence and Education: Digging Beneath the Surface
Wayne HOLMES1,2+, Meng SUN1+, Li YUAN1*
(1.College of Education for the Future, Beijing Normal University, Zhuhai Guangdong 519087;2.UCL Institute of Education, London SE9 2UG, UK)
Abstract:It has been proposed that artificial intelligence will reshape education, and therefore the research and application of artificial intelligence in education have drawn increasing attention. However, the exaggeration of AI’s application in education still exists, and some optimistic conceptions still need reconsideration, and some key issues remain to be discussed and solved. In this case, this paper first discusses the definition of artificial intelligence, and proposes that artificial intelligence should consider both its technical dimension and human dimension. On this basis, the paper further analyzes the relationship between AI and education, and explores the perspectives of AI education and pedagogy, ethics, human rights, personalisation, saving teacher time, intelligence, efficacy and impact, techno-solutionism, commercialisation of education, colonialism, trust, etc., which are digging beneath the surface of artificial intelligence in education. While people are aware of important issues such as AI ethics and humanism in education, the resolution is still a long way off as the direction of AI development is controlled by the tech giants. By discussing the essence of artificial intelligence in education, this paper hopes to encourage more researchers and practitioners not only to pay attention to the surface value of artificial intelligence in education, but also to discover, think about and respond to emerging and still unknown challenges.
Keywords:Artificial intelligence; Artificial intelligence in education; AI literacy; Artificial intelligence ethics; Future challenges
编辑：王晓明 校对：李晓萍
相关荐读
期刊简介
《中国教育信息化》创刊于1995年8月，是由中华人民共和国教育部主管，教育部教育管理信息中心主办，面向国内外公开发行的国家级学术期刊。期刊内容力求全面深入地记录我国教育信息化的建设进展、研究与应用成果和行业发展状况，开展我国教育信息化发展状况调研和教育信息化国际比较研究，服务于国家教育宏观决策；力求全面准确地把握教育信息化相关的方针政策和标准规范，及时追踪ICT前沿技术的发展趋势及其与教育的融合，深度挖掘教育信息化建设与应用的体制、机制创新，服务于我国教育信息化实践。
●RCCSE中国核心学术期刊
●中国人文社会科学（AMI）扩展期刊
●中国期刊全文数据库收录期刊
●中文科技期刊数据库收录期刊
●国家哲学社会科学学术期刊数据库收录期刊
●中国核心期刊（遴选）数据库收录期刊
●龙源期刊网收录期刊
一年12期，每月20日出版
20元 / 期，邮发代号：82-761
编辑部邮箱：mis@moe.edu.cn
通讯地址：北京市西城区华远北街2号921室