From： Scientific American； 作者：Iris

许多人希望借助深度学习来满足对高质量、定制化教育的需求。慕课的出现、数字设备的普及，似乎为实现这一愿景奠定了基础。然而，我们必须要考虑到，AI工具进军教育领域所可能造成的负面影响，以及应如何改进研究内容，以防止一些意料之外的后果发生。

算法是AI教学的核心，它可以持续跟进学生的学习进度，并根据各个学生的学习习惯调整教学计划，从而给予他们最佳的学习体验。有了AI导师的帮助，学生们可以在家中学习。如今受疫情影响，学生们必须在家上课，网课得到了空前普及。不过，远程教学的体验并不太如意。虽然简单的网络授课与AI教学有所出入，但可以看出，它或许会与我们理想中的概念有很大不同。换言之，AI导师能够提高教学的效率，但并不一定能为学习者带来乐趣。

插播

3月5日（周四）晚8点，网易有道技术总监林会杰

来跟你聊聊「人工智能在教育软硬件工具中的应用」

大部分研究人员依然认为，只需要克服技术缺陷，深度学习就能为教育界造福。这未免过于武断了些。事实上，研究的重心更应该放在如何降低AI工具可能会产生的风险上。AI导师与人类教师的协同工作，可能是最具安全保障、效率最高的方法之一。

智能教学系统通用框架

AI教学的潜在风险

AI导师并不能建立起师生间的情感联系。除了汲取知识外，学生还期望在课堂上学到很多其他东西，比如发展人际关系、学会如何与人相处等。我们许多人都曾与老师构建起师生情谊，他们给予我们的人生教诲，有时候远比教学的内容要更能让人受益终生。然而，AI导师并不能为学生提供这些基于情感支持的互动。

此外，年轻人的社会孤独感日益加重。研究发现，上网时间较少、参加社交活动较多的青少年的同理心水平，与其他人相比要高一些。联合国教科文组织正在考虑调整教育方向，以强调培养学生的社会情感能力为主要目标，而非一味地强迫儿童看着屏幕吸收知识。

不巧的是，AI导师系统的设计往往是为了最大化学生上网的效率。除此之外，由机器学习驱动的教学方式，能够自动调整授课方法，以调节学生的注意力，而这可能会破坏学生进行自我调节的能力。同样，习惯于AI教学的学生，可能会很难适应现实世界中，那些无法进行即时沟通的创造性工作。

我们还必须考虑到这样一种可能性，即居心叵测的人会利用这项技术来教授暴力题材的内容。比如，恐怖分子会利用它来扩大有关破坏行为的培训课程的规模。此外，若要训练AI导师根据学生的学习习惯和进度来精确地调整培训方案，研究人员需要收集关于学生的心理状态和学习水平的信息数据，进行深入的处理和分析。这些私密数据，是否会被恶意泄漏呢？

恐怖分子曾在网上直播暴力视频被记者发现

网络安全和数据隐私的缺位，是这个平台亟需解决的难题之一。而对于接受AI教学的儿童来说，这一问题更加严峻。Facebook前首席信息安全执行官亚历克斯斯塔莫斯（Alex Stamos）表示：“儿童的隐私泄露， 会加重儿童剥削，比如儿童色情。”一些恶意的色情和暴力图片，也可能会被发到低年龄学生的上课平台，对他们造成不可预计的伤害。

迈向更美好的前景

这些风险的存在，并不代表着AI教学应被全盘否定，相反，它可以继续改进，发展成更成熟的线上教学系统。

首先，为了提高互动效果，教师和AI工具可以展开协同工作，即教师选择性采纳AI工具提供的教学建议，工具支持教师对作业进行评分，并跟踪学生学习进度。AI教学目前在教授以记忆知识为主的课程方面最为有效，而不支持创造性和开放性的课程学习。现实中，在大教室里，教师不可能像钢琴老师帮助调整学生的手的位置那样，密切关注每个学生。因此，工具的监控作用是非常必要的。

智能监控反馈

当前的算法，需要大量的学生数据来支持AI教学工作的信息反馈。我们需要找到在不动用大量学生数据的情况下完成反馈的方法。低数据分析技术似乎很有前途，可以降低数据滥用的风险，也不需要调出囤积了数百万学生的学习信息的数据库，来进行繁复的算法解析。

研究人员更应该加强儿童安全风险方面的检测，把大量的精力放在开发内容审核工具上。做到这一点，在线学习平台才能实现对所有学习者的安全保障。尤其是对儿童和那些暴露于不稳定的网络环境中的人来说，有了保障，他们才得以更放心地使用AI教学系统。

言而总之，深度学习在教育领域的应用和医学AI工具一样，在我们看到其潜力的同时，还要坚守这样的原则：一项优质技术的前提，是它不能对人类本身带来伤害。