人工智能伦理准则构建

1. 人工智能伦理准则构建

课程概述

课时：45分钟        

        本课程基于前期开展的论证研究与资料搜集活动，旨在引导学生进一步探究人工智能（AI）伦理问题。学生将以小组为单位，通过分析学术论文与专题视频，深度剖析自选人工智能领域存在的伦理缺陷。研究完成后，学生可通过以下三种路径对研究成果进行系统性整合，进而就人工智能技术的社会应用提出建设性建议：其一，制定《人工智能伦理准则》；其二，起草《人工智能发展宣言》；其三，创作"畅想未来世界"主题艺术展品。该教学设计强调批判性思维与创新性实践的结合，着重培养学生在技术伦理领域的分析能力与责任意识。

教学指南

一、课前准备

1.准备教授 Code.org 课程

Code.org 入门指南：建议观看我们的 视频系列，了解如何浏览课程计划、设置班级分区以及 Code.org 平台的其他重要功能。每个视频均配有支持文档，如果您更倾向于阅读或打印操作说明，可点击此处了解更多。

查看资源：本课程计划附带幻灯片组和其他资源（详见课程计划的"链接"部分）。课程计划中每条加粗内容通常对应幻灯片组中的一张幻灯片。在阅读课程计划时，建议同时打开幻灯片和学生资源，因为其中包含课程计划中未完全呈现的视觉素材和补充信息。

教师支持资源：您可以通过《AI 101 教师指南》系列课程，了解如何在课堂中开展人工智能（AI）教学。《AI 101 教师指南》是免费的在线基础专业学习系列课程，适合对人工智能这一开创性领域及其在教育中的变革潜力感兴趣的教育工作者。

2.准备教授 AI 影响与偏见课程

资源审核：学生将研究人工智能相关的不同主题。研究领域已列于本讲义《AI 研究领域》中。我们未直接向学生提供这些资源，部分原因是某些网站可能被学区过滤系统屏蔽，或最新的新闻类创新内容可能不适合初中生。我们强烈建议您在向学生分享前，检查每个网站的内容适用性并确保其可在教室设备上正常加载。您也可以根据所在地区或社区的时事动态，自主筛选新闻来源。

LEADERS 框架：本课程将引导学生探索人工智能对社会的影响，包括有益于社会的有意识解决方案和可能危害社会的非预期后果。在研究材料和课堂讨论中，可能会出现人工智能偏见相关议题。

为应对此类讨论，我们建议您预先学习《LEADERS 框架》。该框架专为引导涉及人工智能社会影响（包括偏见与伦理问题）的课程和讨论而设计。并非所有原则都适用于每节课，但本课程中的多数教学建议和讨论目标均遵循该框架的核心理念。

二、热身活动（5分钟）

板书：在白板上绘制标注"有益"和"有害"的T型对比图。

引导问题：互联网是上世纪最伟大的技术创新之一。它对社会产生了哪些有益影响？又带来了哪些危害？

教学小贴士：

• 可根据学生兴趣调整讨论主题，选择更贴近学生生活的技术（如社交媒体、地图应用、语音助手或自动驾驶汽车），前提是该技术具有明确的社会利弊案例。例如，可先让学生提出对其生活影响显著的技术，再以该技术作为讨论主题。
• 也可替换为社区相关议题——比如若社区附近拟建新采矿场，可讨论其利弊（如促进经济发展但可能影响空气质量）。

讨论目标：先让学生独立思考，再与邻座交流，最后集体分享。点名回答并记录在T型图中。学生应能结合新闻或个人经历填充图表。若学生思维受阻，可展示下页包含案例的幻灯片。

教学小提示：

展示：播放关于互联网社会影响的新闻截屏幻灯片。若调整了讨论主题，请同步更新对应幻灯片内容。

总结陈述

尽管互联网是划时代的技术创新，其社会影响具有复杂性——某些方面显著造福社会，另一些则造成危害。技术可能产生远超设计初衷的影响范围。今天我们将以另一项技术为例，探索其社会影响：人工智能。

三、教学活动（35分钟）  

1.人工智能导论（5分钟） 

教学小贴士：

跳过研究阶段：本节从人工智能的简要介绍开始。若此前课程已讲授过人工智能基础知识，可跳过此部分。  

学科融合：为拓展人工智能定义，可结合学生日常生活中的案例。例如：英语教师可讨论AI生成论文、数学教师可探讨AI辅助计算、经济教师可分析AI金融预测应用、历史教师可回顾近十年AI创新对社会影响。也可列举日常使用的应用程序作为讨论切入点。  

词汇讲解：展示人工智能定义  

人工智能：模拟人类智能的技术，能执行语言理解、模式识别、决策制定等任务。  

引导问题：你熟悉哪些人工智能应用案例？  

讨论目标：回答可能包含影视案例（如WALL-E/R2D2机器人）或生活应用（如手机Siri、TikTok面部识别滤镜）。可引导挖掘隐性应用场景，如社交媒体推荐算法、人脸识别系统、计算机自动决策等。  

总结陈述：

今天我们将深入探索人工智能的多个领域，目标是揭示这些技术如何从正反两方面影响社会。通过研读新闻素材填写反思表，最终形成个人观点。  

2.学生研究与反思（15分钟）

分发材料：共享数字版《AI研究领域》文档。该指南设计为数字交互式文档，方便学生点击链接查阅在线资源。  

操作步骤：  

• 阅读活动指南导言  
• 学生选择研究方向  

教学小贴士：

分组建议：可安排小组研究同一主题但阅读不同文章，便于后期填写《研究反思表》时获得更全面的技术影响认知。  

分发材料：向每位学生提供《研究反思指南》讲义

操作步骤：  

• 让学生研究他们的领域，并在此过程中回答讲义上的问题。确保学生目前只回答反思指南前面的问题。  
• 鼓励查阅3-4篇文章（至少1篇来自"社会影响"板块，1篇来自"伦理考量"板块），可延伸自主研究（如调查各板块"Spotlight Person（焦点人物"）  
• 如果时间允许，学生可以浏览较长的文章以获取关键思想、做笔记、提出其他问题，并使用搜索引擎进一步调查。

教学小贴士  ：

• 学生可能因AI偏见内容产生情感共鸣（如人脸识别偏见对自身社区的影响，或AI医疗应用引发家庭治疗担忧），这遵循了LEADERS框架中的"A"原则——假设课堂中存在相关数据点  
• 强调AI对不同群体的差异化影响，鼓励学生关注文章中的解决方案或自主构思对策 。多学者、技术人员和政策制定者正在努力消除 AI 中的偏见。

巡回指导：在学生进行研究时对其进行监控。考虑提示学生在阅读某些文章时做出反应，尤其是关于技术对社会的意外影响。

重组：重新组合类以进行类共享

引导问题：研究中哪些发现令你惊讶？（可以是技术积极应用，也可以是未曾了解的隐患）  

讨论目标：  

这是学生分享他们从文章中的想法和反思，处理他们的想法和情感的机会。一些学生可能对人工智能在社会中的使用方式有强烈的反应，无论是积极的还是消极的。尽量避免公开辩论，但要承认必须权衡这些技术的利弊与对社会的潜在好处和后果。考虑提醒学生，在人工智能伦理学中，有一整套职业道路致力于解决这些问题——政策制定者、软件工程师、人工智能伦理学家、研究人员、利益相关者倡导者等等。

总结陈述：

正如我们目前所听到的那样，任何新技术都可能很复杂。挑战之一是弄清楚如何权衡利弊 - 我们愿意接受哪些潜在的缺点才能从新技术中获益？还是我们需要做出改变，以便将危害降至最低？还是完全重新思考？

这种思路与道德有关，或者说是一个人或社会应该如何表现的指导方针。阅读这些文章后，您可能会对这项技术的道德用途有自己的看法。我们将想象一下这些道德用途可能在您的活动指南背面是什么。

操作：学生翻至指南背面阅读导言  

展示包含伦理框架的幻灯片  

教学小贴士：

为什么要引入道德框架？本课介绍了 5 个道德框架：功利主义、基于权利的道德、基于关怀的道德、基于平等、基于价值观的道德。这节课的目标不是成为每个框架的专家，也不是成为一般的道德思考专家。相反，希望学生们开始认识到，无论何时他们做出选择，这个选择都会受到他们如何看待和评价世界的隐性因素的影响，而这些价值观是有名字的。例如：

• 因为 “这是我们大多数人想要的” 而决定做某事 有一个名字 - 功利主义。
• 或者，因为 “首先，不要伤害 ”而决定不做某事 - 基于护理的道德规范。

通过向学生介绍这些框架，我们为他们提供了谈论这些价值观的语言，以便他们可以看到这些价值观是如何影响他们（和其他人）做出的决策的。而且，他们还可以开始看到其他思维方式，这可能会导致他们以前可能没有考虑过的不同决定。

总结陈述： 

这些伦理框架代表不同的道德决策视角。请思考哪种视角最契合你对所研究技术问题的解决思路。  

操作步骤：学生填写指南背面内容  

巡回指导：  

在学生完成任务时对其进行监督，将他们自己的想法与不同的道德框架联系起来。这些框架旨在帮助学生塑造他们的想法，并可能使它们更加连贯，并向他们介绍有关如何解决特定问题的其他观点。例如，学生可能会默认为功利主义的观点，即只要大多数人都能获得好处，一切都很好，但在考虑护理伦理学的观点时可能会改变他们的想法，并重新考虑技术如何影响不同的群体。

重组：将学生重新分组，介绍课程的高潮活动。

教学小贴士：

最终产品选项：以下是学生如何综合他们在这些文章中学到的知识并创建一个工件来反映他们的学习的几种选择。我们建议选择以下选项之一，绝对不要执行所有选项。或者，组合、重新排列或重新构想您希望学生在课程结束时展示他们理解的方式。

选项 1：人工智能道德准则

本节引导学生创建一个全班适用的人工智能道德准则，综合他们从相关文章中学到的内容。

展示：分享一个人工智能道德准则的示例，比如微软和谷歌制定的那些准则。

提示：基于你所阅读和讨论的内容，你认为所有当前和未来的人工智能必须遵循的最重要的道德原则（规则）是什么？

让学生分组讨论，集思广益想出一些初步的想法，然后重新集合，给出更具体的任务。

执行此操作：学生将为全班的道德准则至少写出一条原则。理想情况下，他们的原则应以一个句子呈现，后面跟着一个简短的段落，为读者提供更多背景信息（参考谷歌的相关页面）。

巡视：在学生完成这项活动时与他们交流。你可以询问哪种道德框架对他们最终的道德准则影响最大，或者他们是否结合了多种框架来提出最佳实践。

提醒学生，创建道德准则意味着要对多个利益相关者怀有同理心 —— 那些从这些技术中受益最多和最少的人。道德准则还可以包括与受影响最大的人沟通的协议，或者制定应对偏见出现的方法。人工智能伦理的整个问题太大而无法完全解决，但道德准则能为我们提供一些最佳实践。

教学小贴士：

展示全班的道德准则：你全班的道德准则的格式完全由你和你的学生决定。例如，你可以要求小组制作一张海报，或者让每个学生从一个共享的演示文稿（比如我们的[模板] 人工智能道德准则的演示文稿）中选取一张幻灯片，或者从一个共享文档中选取一页。你甚至可以要求学生使用网络摄像头录制短视频片段，然后你可以将这些片段汇编成一个视频并发布。尽情发挥创意！

选项 2：创建一份宣言

本节引导学生创建一份个人的人工智能宣言，综合他们从相关文章中学到的内容。

展示：分享包含霍尔斯特（Holstee）宣言的幻灯片。

提示：这是一份名为霍尔斯特宣言的文件。你注意到它的结构有什么特点？哪一句话让你印象深刻？

给学生一个与同伴讨论的机会，然后重新集合。

总结陈述：

这是宣言的一个例子 —— 它是一份特殊的文件，用于清晰、简洁地描述一系列价值观或信念。有时人们创建宣言是为了回应他们对世界的看法，从而激发变革，有时人们创建宣言是为了建立社区并激励志同道合的人。既然我们已经更多地了解了人工智能对社会的影响，我们将撰写关于人工智能技术的个人宣言。

分发：分发一份 “创建宣言” 的副本。在黑板上展示幻灯片的同时，让学生通读顶部的内容。

展示：展示描述创建宣言的三个原因的幻灯片，以及相关链接。

当学生完成阅读后，打开每一份宣言，让学生看看它们的样子，并浏览其中的一些原则。不要花时间深入阅读每一份宣言，而是让学生感受宣言的长度、视觉设计以及宣言中每条陈述的结构。

执行此操作：让学生围绕人工智能技术创建自己的个人宣言。鼓励他们在设计宣言时发挥创意。

巡视：在学生完成这项活动时与他们交流。可以促使学生告诉你为什么他们在宣言中包含某些陈述，倾听他们与课堂早期阅读的文章之间的联系。

宣言可以唤起深刻的情感。鼓励学生利用他们的热情为自己和他人强烈倡导。他们可以将自己的宣言用作抗议标语、行动呼吁，或者对人工智能失败的诗意描述。如果某个学生特别热情，提醒他们正在为对抗人工智能偏见所做的工作，并鼓励他们继续学习更多内容。你可以引导他们查阅不同研究人工智能偏见的团体的资源，比如算法正义联盟。

（可选）展示结果：考虑你是否以及如何为学生提供分享他们宣言的机会。一些学生可能希望公开展示宣言作为行动呼吁，而另一些学生可能希望将自己的宣言保密，只与你分享。在决定学生是否以及如何分享时，一定要考虑这些宣言潜在的个人性质。

选项 3：想象你的世界艺术展示

本节引导学生进行艺术创作，展示一个使用人工智能的理想化世界。学生还将创作一张较小的艺术家卡片，与他们的艺术作品一起展示。

人工智能的错误可能会造成特别大的危害，并让我们对技术产生悲观的看法。应对对人工智能的恐惧的一种方法是想象负责任和公平的人工智能系统可能带来的好处。我们希望鼓励学生觉得自己是解决方案的一部分，并将他们的创造力用于想象一个更美好的世界。

展示：展示鲁哈・本杰明（Ruha Benjamin）博士的以下名言：

“记住去想象和构建那些你不可或缺的世界，就像你拆解那些你无法生活其中的世界一样。”

提示：你认为这句名言如何适用于我们今天阅读的一些场景？

让学生先独自思考，然后与同伴分享，最后全班一起讨论。

教学小贴士：

与热身环节相联系：考虑将这次讨论与热身环节中的一个例子联系起来，并将这句名言应用到这个例子中。例如，如果你讨论了自动驾驶汽车，那么在一个这种技术最大程度造福人类的未来世界会是什么样子？

总结陈述：

这句名言邀请我们重新想象我们的处境，并按照我们希望的样子看待世界。基于我们今天探索的文章，我们将确切地这样做 —— 想象一个人工智能技术被公正开发和应用的世界 —— 那个世界会是什么样子、听起来如何？我们将创作一件艺术作品来想象那个世界，然后我们会把它和一张描述你所想象的世界的简短艺术家卡片一起挂在墙上。

分发：分发 “想象你的世界” 活动指南。

执行此操作：阅读最上面的两段内容，并回答关于活动说明的任何问题。

向学生说明他们应如何完成他们的艺术作品，例如：

• 使用实物材料，如画纸和颜料；
• 使用三维材料，如用黏土雕塑或用硬纸板塑形；
• 使用数字工具进行设计来呈现数字作品。

你也可以决定让学生选择他们使用的材料或格式。如果在一天内教授这部分内容，可以考虑一些规模较小的创作，比如只用铅笔和纸，或者制作数字照片拼贴画。

巡视：在学生完成他们的艺术作品时进行监督。同时确保他们完成艺术家卡片，以解释他们创作的艺术作品。

一些学生可能只是想象一个他们所读到的人工智能问题得到解决的世界。例如，适用于每个人面部的面部识别技术。鼓励学生运用 “登月思维”——“一种选择一个巨大的、看似无法克服的问题，并使用技术提出激进解决方案的方法”。想象的世界可以像他们希望的那样奇特。大胆想象！

展示结果：考虑你希望如何在教室里展示结果，无论是实物展示还是数字展示。可以考虑让学生进行一次画廊式参观，以探索他们同伴创作的艺术作品。

四、总结（5 分钟）

视频：全班一起观看 “人工智能伦理：隐私与未来的工作” 视频。

提示：你会如何向没有参加今天课程的家人或朋友描述 “人工智能伦理”？

教学小贴士：