最近，ChatGPT和其他人工智能（AI）工具（如ClassPoint AI等）在教育领域的兴起和普及在教育工作者中引发了激烈的讨论。 教育工作者最初对这些革命性的人工智能工具感到兴奋时，往往会立即对在教育领域实施人工智能的风险和挑战感到担忧，从人工智能和作弊的道德影响，到最终最大的担忧–可能取代人类教师。
这不是它。 关于人工智能，有许多不为人知的真相和风险没有被公开讨论。 今天，我们将通过著名电视剧《黑镜》中的情节，重点探讨人工智能令人担忧的风险。 以前，它们只是人工智能潜在隐患的传说，而现在，它们正在成为现实。 我们将讨论人工智能在教育领域的这些危险是否应成为教育工作者的合理担忧。 当然，往好的方面看，我们也将探讨教育工作者可以从这些看似可怕的现实中利用机会，为教育的美好未来做好更好的准备。
黑镜 第四季 第2集 方舟子预言人工智能监控过度
摘要:黑镜》（Black Mirror）中的《天使长》（Arkangel）一集探讨了人工智能过度监控的主题，描述了这样一个世界：一位名叫玛丽（Marie）的母亲在女儿萨拉（Sara）的大脑中植入了一个芯片，通过这个芯片，她可以监控女儿的每一个细节，包括她的位置、实时生物数据，甚至她所看到的一切。 该装置还允许母亲审查任何可能给她带来情绪困扰的残酷或负面的场景或景象，这导致萨拉失去自由，成长和发展受到扼杀。
教育领域的人工智能监控：教育领域的人工智能监控工具并不新鲜。 黑镜阿卡格尔》正确地预测并回应了教育工作者的真实担忧，他们担心人工智能技术对学生隐私、知识自由和独立性的影响。 例如，中国越来越多的教室配备了人工智能摄像头和脑电波跟踪器，还有能跟踪学生并确保他们真正完成作业的智能笔。 这些人工智能监控系统有可能创造出一种墨守成规、受人控制的课堂环境，从而削弱自主学习的价值。
教育工作者的机遇：如果在适当的指导和障碍下合理使用，人工智能监控工具实际上能为学生带来真正的益处。 例如，Brightspace Analytics和Carnegie Learning等人工智能驱动的学习分析工具可以分析学生的学习模式，找出学生学习困难的领域，并提供个性化的改进建议。 Blackboard Predict等学生干预工具还可用于分析出勤率和成绩等学生数据，以识别可能面临辍学风险或需要额外支持的学生，从而使教育工作者能够进行干预并提供有针对性的干预措施。
黑镜》 第四季 第4集 《DJ预言：决策过度依赖人工智能》（Hang the DJ Predicted Over-reliance on AI on Decision Making
摘要: 《黑镜》中的 “Hang the DJ “一集中，有一个名为 “教练 “的高级婚介系统，它可以测量个人的爱情兼容性，并决定个人恋爱的时间和次数。 深爱着彼此的两位主人公反抗不断将他们分开并将他们与其他伴侣配对的制度。 最终，他们发现自己其实是模拟的一部分，模拟的目的是为了测试现实生活中的对应方的兼容性，而他们选择对方的反叛行为表明，他们渴望真正的代理权和真实的联系。
人工智能决策教育：目前还没有先进的人工智能匹配系统。 虽然有人工智能工具帮助教育工作者在教学中做出决策，从Naviance和BridgeU等学术和职业指导人工智能工具，到ZeeMee等大学招生人工智能工具，再到Starfish 等学生干预人工智能工具。
教育工作者的机遇：黑镜吊打 DJ》提醒所有教育工作者，在决策中盲目依赖人工智能是危险的。 虽然让人工智能做出所有决定既诱人又省时，但盲目信任人工智能，尤其是在学生教育机会和职业选择等重要选择上盲目信任人工智能是愚蠢的。
作为教育工作者，我们还应不断评估和评价人工智能工具在课堂上的效果和影响。 通过批判性地评估人工智能系统，教师可以对其使用做出更好、更明智的决定，并确定哪些领域更适合人工干预。
不仅是教师，学生在学习过程中也很容易让人工智能做出所有决定。 如今，许多教育工作者最关心的问题是，随着人工智能语言模型（如ChatGPT）的使用，学校作业中的抄袭现象激增。 不过，我们不应该禁止学校使用这些人工智能工具，而是应该教会学生评估人工智能工具和人工智能生成内容的有效性，这样他们才能继续掌控自己的学习决策。
黑镜 第二季 第 1 集 马上回来 预测与死者的交流
摘要:黑镜》收视率最高的剧集之一《马上回来》讲述了一个名叫玛莎的女人在一场车祸中不幸失去了自己的伴侣，她最终通过一个人工智能寻求慰藉，这个人工智能完全模仿了她已故伴侣艾希的性格、记忆和行为，先是通过一个人工智能聊天机器人，最后又通过一个设计得与艾希一模一样的现实替代品。
在教育领域与逝者交流的人工智能聊天机器人:虽然不像我们在《黑镜》中看到的人工智能技术那样逼真，但目前已有一些人工智能聊天机器人，例如 Replika 它可以模拟人类对话伙伴，并有可能让用户模拟与已故者的对话。
教育工作者的机遇：抛开复制个体的道德影响不谈，这种人工智能技术可能有助于模拟教学，为学生提供更身临其境、更令人兴奋的学习体验。 目前，教育工作者还可以让学生通过Hello History和ChatGPT等人工智能聊天机器人参与模拟与有影响力的历史人物或思想家的对话，如图所示。 当然，这些并不是与逝者的真正对话，但学生肯定能从历史人物的观点中受益，并利用这些观点来丰富他们的论证和学习。
黑镜》 第五季第 3 集 瑞秋、杰克和阿什利预言人类将失去联系
摘要:在《黑镜》（Black Mirror）的插曲 “瑞秋、杰克和艾希莉-托”（Rachel, Jack and Ashley Too）中，故事围绕着艾希莉-托（Ashley Too）和一个名叫瑞秋的女孩展开，瑞秋是艾希莉-托的主人，她崇拜艾希莉-托。 然而，当她发现 Ashley O 处于昏迷状态，而她的经纪人利用她的意识通过 Ashley Too 维持她的公众形象时，她对 Ashley Too 最初的喜爱很快被不安所取代。
人工智能为学生提供教育支持：教育工作者对人工智能的最大抵触之一是，人工智能在提供真实情感和人性化学习体验方面存在局限性。 现有的情感支持聊天机器人有 Woebot 和 埃莉 这些系统可以为学生提供情感支持和心理健康资源，为学生提供一个不带偏见的空间，让他们表达自己的想法和情感。 界 和 卡内基学习 通过分析个人的学习模式和薄弱环节，提供有针对性的反馈和学习材料，为学生提供个性化的指导和支持。
然而，这些人工智能工具缺乏情感和人类同理心，而情感和人类同理心对于理解人类情感的复杂性和人与人之间的联系至关重要，学生需要这种联系才能感受到学习的动力、理解和参与。 这些局限性有可能导致培养出情感疏离、缺乏必要技能来建立有意义关系的一代学生。
教育工作者的机遇：要为未来的教育做好准备，教育工作者必须在课堂上优先考虑人与人之间的联系、社交互动和情感支持，在人工智能无法做到的情况下，培养学生之间的联系感、同理心和理解力。
黑镜》第三季第6集 《国人恨》预测人工智能偏见与歧视
摘要: 《黑镜》中的 “国人憎恨 “一集讲述了这样一个故事：由于真正的蜜蜂灭绝，人们使用具有人工智能功能的机器蜜蜂（称为 “ADI”（自主无人昆虫））进行授粉。 然而，人工智能系统被黑客攻击，ADI 变成了杀人机器。 人工智能系统最终显示出了偏见，并将目标对准了曾在网上受到仇恨攻击的个人。
教育中的人工智能偏见和歧视：国家中的仇恨》一集说明了人工智能系统如何根据其训练数据，对某些个人或群体长期保持偏见和歧视。 这种情况在现实世界中并不少见。 例如，就连最近病毒式传播的 ChatGPT 也被认定在这方面有问题。 用户报告了模型生成性别歧视、种族主义或其他攻击性内容的情况。
在教育领域，这引发了人们对人工智能教学工具可能会加剧课堂上现有的不平等和偏见的担忧，如评分、推荐、职业指导或录取等方面。 例如，如果用于开发这些人工智能系统的训练数据存在偏差，就会造成各方面的不公平和歧视，从基于与实际表现无关的因素的不公平评分，到大学录取中代表性不足群体的不平等机会，再到基于社会性别和种族成见的职业指导。
教育工作者的机遇：作为教育工作者，必须认识到人工智能驱动教育的未来并不完全掌握在公司和政策制定者手中。 通过教育我们自己和我们的学生了解人工智能系统可能存在的偏见和局限性，培养批判性思维能力，鼓励学生质疑和评估人工智能工具的输出结果，而不是照单全收，我们在塑造教育的未来方面发挥着至关重要的作用。 我们可以，也应该采取积极主动的措施，与家长、政策制定者和人工智能开发者合作，确保未来人工智能技术在教育领域的设计和实施是负责任的，是为我们的后代造福的。
黑镜》第六季？ 教育工作者如何为人工智能的未来做好准备
黑镜》第六季能更好地预测教育的未来吗？ 我们只能拭目以待这一季的发布。
迄今为止的《黑镜》剧集已经说明，未来的教育是人类与机器之间复杂的相互作用。 人工智能有可能以前所未有的方式彻底改变教育，但教育工作者应该在利用其优势的同时注意其潜在的弊端。
通过保持知情、批判和适应能力，教育工作者可以帮助塑造人工智能在教育领域的未来，并确保其符合所有学生的最佳利益。 最重要的是，教育工作者应将人工智能作为辅助工具，而不是教学的替代品：人工智能可以协助完成数据分析、个性化反馈或内容交付等任务，但不应取代师生关系。
总之，对于人工智能在教育领域的未来，教师应该感到兴奋而不是恐惧，因为虽然人工智能能够做很多几十年前不可能做到的事情，但教师才是未来文明、道德、批判和人性化一代的真正催化剂，这是任何人工智能都无法取代的。
有关教育领域人工智能的最新技巧、趋势和工具，请阅读我们的A-Z 教育领域人工智能指南！
