作者：康玉琼 东南大学脑与学习科学系，儿童发展教育研究所
研究生导师：姜飞月
【推荐摘要】：
人工智能(AI)是一个结合了机器学习、算法生成和自然语言处理应用的研究领域。人工智能有多种教育应用，尽管在支持学生的学习经验和教师的实践方面有潜在的好处，但在中小学教育背景下，这些系统存在伦理和社会弊端问题。因此必须确定人工智能在教育中的伦理挑战。针对这些问题，本文（1）通过机器学习和算法的概念对人工智能进行了简要的定义；（2）介绍人工智能在教育环境中的应用，以及人工智能系统支持学生学习过程的好处；（3）描述了人工智能在教育中的伦理挑战和困境；（4）通过提供来自两个供应商的推荐教学资源来解决人工智能的教学和理解。这篇文章旨在帮助从业者将人工智能融入K-12教育的过程中获得便利并应对伦理挑战，同时还介绍了教师可以使用的教学资源来促进K-12学生对人工智能和伦理的理解。
【关键词】：
人工智能；K-12教育；伦理学；教师教育
1. 介绍
人工智能（AI）可以简单地定义为计算机科学的一个分支，它涉及到计算机中智能行为的模拟，以及其模仿并在理想情况下改善人类行为的能力。人工智能通过机器学习系统和算法制作出现在教育领域，可以提高K-12教育系统的能力，支持学生和教师的社会和认知发展。
尽管人工智能应用于教育具有好处，但它们也带来了社会和道德方面的弊端。因此，采取行动来解决这些问题是至关重要的。目前大多数研究很少有研究涉及如何在K-12环境中促进学生对人工智能和伦理的理解。因此，这篇文章：(a)综合了教育文献中确定的围绕人工智能的教育伦理问题，(b)反思了可用于教授学生人工智能和伦理的不同方法和课程材料，(c) 阐明了未来的研究方向和对寻求在K-12环境中引导人工智能和伦理的从业人员的建议。
2. 人工智能的定义和应用
人工智能可以被描述为构建系统以像人类一样思考和行动并具有实现目标能力的技术。人们主要通过不同的应用程序和先进的计算机程序了解人工智能。算法和机器学习与K-12教育中的AI最相关。
2.1算法
算法是AI的核心要素。它是一组规则或指令，计算机在解决问题的操作中遵循这些规则或指令，以实现预定的最终目标。从本质上说，所有的计算机程序都是算法。它们包含数千行代码，这些代码表示计算机为解决预期问题而遵循的数学指令。
2.2机器学习
机器学习源于统计学习方法，使用数据和算法来执行通常由人类执行的任务。机器学习是让计算机在没有任何逐行步骤的情况下行动或执行。机器学习算法首先分析数据以确定模式并建立模型，然后通过这些模型预测未来的值。
3 . 人工智能在教育领域应用的优点
个性化学习系统、自动评估、面部识别系统、聊天机器人和预测分析工具正越来越多地部署在K-12教育环境中，它们由机器学习系统和算法提供动力。下面概述了这些教育应用在K-12环境中的每一个好处，然后转向对它们的道德挑战和缺点的综合。
3.1个性化学习系统
个性化学习系统，也被称为自适应学习平台或智能辅导系统。它们根据学生的个人学习需要和科目提供不同的学习材料。例如，学生可以使用自适应和交互式的多媒体版本的课程内容，而不是在作业表上练习化学或阅读教科书。系统利用学习者的知识和认知生成学习者的模型；然而，现有的平台还没有为学习者的社会、情感和动机状态提供模型。但是个性化学习系统提供了一种有希望的远程学习形式，可以为未来重塑K-12教学。
3.2自动评估系统
自动评估系统正在成为机器学习在K-12教育中最突出和最有前途的应用之一。这些评分算法系统是为了满足对学生的写作、考试和作业以及通常由教师执行的任务进行评分的需要而开发的。评估算法可以提供课程支持和管理工具，减轻教师的工作量，提高教师的能力和生产力。
3.3面部识别系统与预测分析
面部识别软件用于捕捉和监控学生的面部表情。这些系统提供了关于学生在学习过程中的行为的洞察力，并允许教师采取行动或干预，这反过来又有助于教师发展以学习者为中心的实践，并提高学生的参与度。预测分析算法系统主要用于基于统计分析的学习者模式识别和检测。例如，这些分析可以用来检测有可能不及格或没有完成课程的学生，通过这些识别，指导者可以进行干预，并获得学生所需要的帮助。
3.4社交网站和聊天机器人
社交网站（Snss）通过社交媒体将学生和教师联系在一起。研究人员强调了使用SNSS（如Facebook）来扩大课堂以外的学习机会、监测学生幸福感、加深师生关系的重要性。聊天机器人也通过不同的AI系统出现在社交媒体上。它们也被称为对话系统或会话代理。例如，佐治亚州立大学使用了一个名为“Pounce”的基于文本的聊天机器人系统来帮助学生完成注册和入学过程，以及经济援助和其他管理任务。
总而言之，人工智能的应用可以积极地影响学生和教师的教育体验，但另一方面，AI不能替代人类互动，它只是教师工具包中的一个工具。因此，教师和学生如果要获得人工智能的好处并将成本降至最低，就必须了解人工智能在教育中应用的局限性、潜在风险和伦理缺陷。
4. 人工智能在教育中应用的伦理问题与潜在风险
考虑到在K-12环境中AI应用的不同形式的偏见和伦理挑战，我们将重点关注隐私、监视、自治、偏见和歧视问题。
在中小学教育中使用人工智能的最大伦理问题之一是学生和教师的隐私问题。侵犯隐私行为主要是由于人们在网络平台中暴露过多的个人信息。尽管现有立法和标准保护敏感的个人数据，但基于人工智能的科技公司在数据访问和安全方面的违规行为增加了人们对隐私的担忧。为了解决这些问题，人工智能系统要求用户同意访问他们的个人数据。虽然同意请求是为了保护措施和帮助缓解隐私问题，但许多人在不知道或不考虑他们共享信息（元数据）的范围（如所说的语言）的情况下表示同意。这种不知情的分享实际上破坏了人们的能动性和隐私。
另一个伦理问题是监视或跟踪，它收集关于学生和教师的行动和偏好的详细信息。通过算法和机器学习模型，AI跟踪系统不仅需要监控活动，还需要确定用户未来的偏好和行动。监控机制可以嵌入人工智能的预测系统中，以预测学生的学习表现、优势、劣势和学习模式。但这类行动也可以被视为威胁学生隐私的监视系统，可能限制学生参与学习活动，并使他们感到不安。
当监视系统引发与自主性有关的问题时，也会出现问题。由算法驱动的预测系统危及学生和教师的自主性和他们管理自己生活的能力。因此，预测性分析的风险还包括社会歧视和分层的现有偏见和偏见的永久化。
最后，偏见和歧视是K-12教育中人工智能伦理辩论的关键问题。在AI平台中，现有的权力结构和偏见被嵌入到机器学习模型中。性别偏见是最明显的形式之一，当语言学习课程的学生使用人工智能在特定性别的语言和不太特定性别的语言之间进行翻译时，这种偏见就会显现出来。同样，许多种族偏见的问题案例也与人工智能的面部识别系统有关。
5. 教育环境中人工智能与伦理的教学和理解
伦理问题表明需要向学生和教师介绍围绕K-12教育中人工智能应用的伦理挑战以及如何应对这些挑战。不同的研究团体和非营利组织提供了许多基于人工智能和伦理的开放访问资源。
5.1麻省理工学院媒体实验室为中学生开设的“人工智能与伦理学课程”
麻省理工学院媒体实验室团队为中学生和教师提供了一个关于人工智能和道德的开放课程。通过一系列的教案和实践活动，教师被引导支持学生学习人工智能系统的技术术语以及人工智能的伦理和社会含义。课程包括与学习目标相关的各种内容。主要的学习目标之一是通过算法、数据集和有监督的机器学习系统向学生介绍人工智能的基本组成部分，同时强调算法偏见的问题，让学生锻炼参与合作的批判性思维活动，促使他们努力解决人工智能中的偏见和歧视问题，以及通过预测系统和算法偏见进行监督和自治。
5.2麻省理工学院媒体实验室为九年级学生举办的“人工智能与数据隐私”系列研讨会
麻省理工学院媒体实验室的个人机器人小组的另一个优质资源是系列研讨会，旨在教学生（7岁至14岁）关于数据隐私的知识，并向他们介绍数据隐私功能的设计和原型设计。该小组已将系列研讨会的内容、材料、工作表和活动制作成一个开放的在线文件，供教师免费使用。
5.3对Code.org“海洋AI”的调查研究
第三个推荐给K-12教育者的资源来自Code.org，这是一个致力于扩大学生对计算机科学的参与的非营利组织，试图与学生一起应对人工智能的道德挑战，旨在为中小学学生提供学习人工智能和机器学习系统的机会。为了支持学生（3-12年级）学习人工智能、算法等，该组织组织了一项名为“海洋人工智能”的活动，该活动是为教师提供的一个开放访问的教程，以帮助他们的学生探索如何训练、建模和分类数据，以及理解人类偏见如何在机器学习系统中发挥作用。
6.人工智能与伦理学研究与教学的未来方向
本文概述了人工智能在教育中的可能性和潜在的伦理和社会风险，强调了几种教学策略和资源。此外，目前的资源主要涉及人工智能的隐私和与偏见相关的伦理和社会问题。对教师和学生的监督和自主关注进行更多的探索性和批判性研究对未来资源的设计将是重要的。
查阅原文：Selin Akgun, Christine Greenhow AI and Ethics
DOI：10.1007/s43681-021-00096-7
转自：“百研工坊”微信公众号
如有侵权，请联系本站删除！
