人工智能伦理（二）：人工智能和21世纪的工人

1. 项目概述

   在《2020年未来就业报告》中，超过80%的受访公司表示，到2025年，他们将使用人工智能技术。此外，该报告估计，到2025年，“人类和机器之间的劳动分工的转变可能会取代8500万个工作岗位，而更适应人、机器和算法之间新的劳动分工的新角色可能会出现9700万个。”人工智能技术在不断变化的劳动力环境中的应用提出了各种伦理问题，今天的学生应该探索这些问题。

项目概述

    “人工智能与21世纪工人”项目为学生提供了一系列的学习活动，这些活动建立在他们之前的人工智能应用知识的基础上，探索人工智能技术如何影响现在和未来的学校和工作生活。通过视频、模拟、课堂讨论、研究和一点想象力，学生们将了解到，人工智能的所有应用都需要权衡，它将采取多样性、包容性和公正的决策，以促进人工智能对社会的积极和道德影响。

    学科：技术、计算机科学、英语语言艺术、或生涯探索

    时长：6-13小时

    适用年级：8-12

    词汇：偏见、伦理、道德、未来主义者、机器学习算法、利益相关者、训练数据

项目目标

•  描述人工智能如何积极和消极地改变学校和各行业。
• 解释偏见、公平、多样性和包容在有道德的人工智能发展中的作用。
• 预测人工智能可能影响未来劳动力的方式。

标准

ISTE学生标准

2. 数字公民

    d.学生管理他们的个人数据，以维护数字隐私和安全，并了解用于跟踪其在线导航的数据收集技术。

4. 创新设计师

    a.学生了解并使用深思熟虑的设计过程来产生想法，测试理论，创造创新的人工制品或解决真实的问题。

5. 计算的思想家

    d.学生理解自动化是如何工作的，并使用算法思维来发展一系列步骤来创建和测试自动化解决方案。

ISTE计算思维素养

1.计算思维

    e. 认识到计算机和社会如何相互作用，为个人和组织创造机会、不平等、责任和威胁。

2.公平的领导者

    b. 文化性地构建和实施相关学习活动，以解决各种各样的道德、社会和文化视角的计算，并突出不同角色模型和团队的计算成就。

e.与学生、家长和领导沟通，了解计算机如何影响世界、不同角色和职业生活，以及为什么这些技能对所有学生都至关重要。

4. 创意与设计

    b.设计真实的学习活动，要求学生利用设计过程来解决问题，意识到技术和人的限制，并捍卫他们的设计选择。

5. 整合计算思维

    b.让学生选择个人有意义的计算项目。

AI4K12 AI的五大理念

3.机器学习：计算机可以从数据中学习。

5.社会影响：人工智能可以对社会产生积极和消极的影响。

CSTA K-12计算机科学标准

2-DA-09:基于生成的数据来改进计算模型。

2-IC-20:比较计算机技术对人们日常活动和职业选择的影响。

2-IC-21:讨论现有技术设计中的偏见和可访问性问题。

3A-IC-24:评估计算机对个人、伦理、社会、经济和文化实践的影响。

3A-IC-25:测试和优化计算工件，以减少偏见和公平性缺陷。

3B-AP-08:描述人工智能如何驱动许多软件和物理系统。

3B-IC-25:评估计算人工制品，最大化其有益影响，最小化对社会的有害影响。

3B-IC-27:预测已经彻底改变了我们文化方方面面的计算创新将如何发展。

英语语言艺术共同核心国家标准

CCSS.ELA-LITERACY.W.6.1-11-12.1:用清晰的理由和相关的证据写论点来支持主张。CCSS.ELA-LITERACY.WHST.6-8.7:进行简短的研究项目来回答一个问题(包括一个自我产生的问题)，利用几个来源并产生额外的相关的、重点突出的问题，以允许多种探索途径。ccs。

CCSS.EL A- LITERACY.WHST .9-10.7/11-12.7:进行短期和更持久的研究项目，以回答一个问题(包括一个自我产生的问题)或解决一个问题;适当时缩小或扩大调查范围;综合有关主题的多个来源，展示对调查主题的理解。

2. 项目准备

材料准备

• 可连接互联网的电脑或平板电脑，用于访问在线工具和资源
• 书写材料，如纸、笔、铅笔
• 在线文章、工具和以下列出的资源
• 便利贴
• 可选：打印活动3中学生的作业

教育工作者的支持性资源

• 文章: “Top 9 ethical issues in Artificial Intelligence”
• 文章: “Design Thinking for Educators”

高级准备

• 完成与Most Likely Machine的交互，以理解用户的决定如何影响模拟结果。
• 完成与Survival of the Best Fit游戏的互动模拟，看看学生在训练人工智能审阅简历和做出招聘决定时如何探索偏见的概念。

3. 活动1：学校中的人工智能

  在本次活动中，学生将通过思考人工智能工具如何影响初高中学生的日常生活和工作，来激活他们对人工智能影响的先验知识。

    1）如果学生不熟悉人工智能技术，你应该首先解释什么是人工智能以及它是如何工作的。配套资源见附录A:拆解人工智能（Unpacking Artificial Intelligence）。

    2）展示在现代学校生活中影响学生的人工智能技术的真实例子列表。问学生:“在你上学的日子里，有多少真实的人工智能技术已经在使用?”统计有多少人在使用。

• 用于检查上学路上交通状况的GPS或地图应用程序APP
• 接送员工或学生上下学的自动驾驶汽车
• 可汗学院(Khan Academy)或iReady等智能辅导软件
• 聊天机器人提供技术支持或回答学校网站上的常见问题
• 自动更正或解释清楚
• 自动完成文本电子邮件或课题写作作业
• 搜索引擎做课堂研究
• YouTube或TikTok上的推荐系统可以找到解释学校概念的视频
• 视网膜扫描记录出勤率
• 面部识别以判断学生在课堂上是否认真听讲
• 翻译软件来理解另一种语言的词或短语
• 认知助理(如Siri或Alexa)计算或在课堂上给你一个事实
• 一个写作助手，如Grammarly校对和提出建议，以改进学生的论文
• 数码滤镜编辑照片或艺术项目
• 教师使用Turnitin或其他人工智能程序来检查学生提交的作品是否有抄袭
• 传感器监测课堂材料的使用或学生在走廊的交通模式
• 智能手表可以在上学期间测量你的健康状况或步数
• 用于学校安全的智能设备
• LinkedIn或其他软件帮助学生为高中工作找到合适的雇主

    3）组织课堂讨论，探讨人工智能技术如何影响教育。问以下问题：

• 你希望在学校中使用多少这样的技术?你有什么不想被利用的吗?为什么或为什么不?
• 在过去，这些任务是如何完成的?人工智能还能如何影响未来青少年的上学日?
• 作为一名初高中学生，人工智能是如何影响你的日常生活和工作的?

    4）告诉学生，人工智能正在被使来筛选大学、薛媛和技术学校的申请。开发了一种算法来决定哪些申请代表了他们机构的最佳候选人。问学生:“哪些学生最成功，你认为人工智能或人能做出更准确的决定吗?为什么?”

    5）让学生单独或与伙伴完成Most Likely Machine的互动。在这项活动中，学生们构建自己的机器学习算法，以确定哪些学生最适合某些顶级头衔，比如“最有可能上一流大学”。机器学习算法是人工智能用来发现和应用数据模型的过程或规则集。根据学生的经验，让学生指出他们认为让人工智能为学生的未来做决定是对还是错(或有益还是危险)。学生们对此可能会有复杂的感受。告诉他们这个问题没有一个正确答案，如果他们对这个问题有不同意见也没关系。

    6）告诉学生们，在这个项目中，他们将继续探索人工智能技术改变人们工作方式的方式，不仅在学校，也在工作场所。在这个过程中，他们经常会停下来问自己这些影响看起来是好还是坏，以及为什么。这些被认为是伦理问题。伦理学是研究支配人类行为的道德原则和体系的学科。它是一门研究人们用来决定孰是孰非的系统的学科。当人们说做某件事合乎道德时，通常是指他们认为这是合乎道德的事。在这个项目中，学生们探索人工智能技术对社会的影响，并自行决定他们是否认为这些变化是道德的——或对我们的社会有益的。

4. 活动2：不断变化的劳动力

    在这个活动中，学生将在观看视频、举行课堂讨论和完成亲和图（an affinity diagramming）活动的同时，考虑人工智能如何影响现代劳动力。

    1）把问题“人工智能是如何影响劳动力的?”写在白板、公告板或墙上。

    2）给每个学生五到六张便利贴。在学生体验了下面列出的资源后，让他们在便利贴上写下关于人工智能能做什么或人工智能如何影响工作的事实或想法。每个便利贴应该只列出一个事实或想法。

•  播放视频“
  ”和
  ，或其他视频剪辑，概述人工智能是如何以影响今天的劳动力方式的。
• 分享《2020年就业前景报告》（The Future of Jobs Report 2020）。

    ——超过80%的受访公司认为，到2025年，他们将使用人工智能技术。在接受调查的汽车、教育、金融服务和医疗行业中，近50%的公司表示，到2025年，他们将使用类人机器人。

    ——“ 43%的受访企业表示，由于技术集成，他们将削减劳动力，41%的企业计划扩大对合同工的使用，34%的企业计划扩大其劳动力，由于技术集成。到2025年，人类和机器在当前工作任务上花费的时间将相等。”

    ——“我们估计，到2025年，可能会有8500万个工作岗位被人与机器之间的劳动分工转变取代，而更适应人、机器和算法之间的劳动分工的新角色可能会出现9700万个。”

    ——“对于那些将留在岗位上的员工来说，在未来五年将发生变化的核心技能的比例是40%。”50%的员工需要再培训(增加4%) 。”

    ——“94%的商业领袖表示，他们希望员工在工作中学会新技能。

    ——“雇主认为，到2025年，最重要的技能和技能群体将日益突出，包括批判性思维、分析和解决问题等技能，以及主动学习、恢复力、抗压力能力和灵活性等自我管理技能。”

    3） 写下他们的想法后，让学生把便利贴放在张贴的问题下面。与学生一起将笔记分类，讨论他们如何给不同类型的影响贴上标签。然后用他们所确定的类别来聚集他们的想法。讨论出现的主要主题，包括以下问题：

• 随着时间的推移，哪些工作可能会被自动化或人工智能技术淘汰?
• 如果一个社会有如此多的工作是自动化的，以至于不需要很多人来填补工作岗位，那么它的利与弊是什么?
• l  为什么人们想要继续做那些可以由自动化或人工智能完成的任务?(即使有洗碗机，还有人用手洗碗吗?或者选择收银员结账，即使有一个自动结账通道?
• 自动化和人工智能技术创造了哪些新类型的工作?
• 人类和人工智能合作可能有什么好处?

    4）从道德的角度，让学生再看一遍分类和便利贴。解释有时相同的人工智能技术、应用或变化可能对一些人有利，对另一些人有害。那些对人工智能技术感兴趣、能够影响或受其影响的人被称为利益相关者。利益相关者不仅包括用户，还包括开发人员、销售人员、公司所有者、环境、政府或任何受其使用影响的人。

• 在黑板的上方划一条线。在一端写上“积极影响”。另一边写上“负面影响”。向学生解释，这条线代表他们写下的想法可能落在的范围。两端代表极端，而中间的东西可能是平衡的，或有同样强大的权衡双方。
• 对于每一张便利贴，都要问:“这种影响是如何反映一个或多个利益相关者受益的积极变化的?”这种影响如何反映对一个或多个利益相关者有害的负面变化?你认为这种影响的总体影响是积极的(利大于弊)，消极的(弊大于利)，还是中性的?
• 让学生们作为一个班级，把便利贴放在光谱上，通过解释他们是如何考虑到不同利益相关者的观点来证明自己的立场。

    5）把便签贴放好(或拍下便签贴的照片)，让学生知道他们会在项目结束后回到这个活动中。

5. 活动3：与人工智能相关的职业

    在之前的活动中，学生们讨论了人工智能技术将如何淘汰一些工作岗位，而新的工作岗位将会出现。在本次活动中，学生将探索为什么从事人工智能相关工作的人的多样性是重要的，然后了解来自不同背景的人，他们通过人工智能技术的工作产生了积极的影响。

    1）让学生观看视频“伦理与人工智能:平等准入和算法偏见”（Ethics & AI: Equal Access and Algorithmic Bias.）。在观看视频之后，请学生们分享他们的收获。突出以下要点：

• 人工智能技术有时会对最脆弱或最边缘化的人产生负面影响。为了限制这些技术的危害，我们必须考虑那些最有可能被系统伤害的技术。
• 当几乎每个人都有一台电脑时，可以想象一个人工智能技术可以让每个人受益的世界。为了实现这一目标，我们需要让那些受到影响的人发出更大的声音，让他们的投入影响人工智能的发展。
• 人工智能开发工作需要有不同观点的人来填补，比如更多的女性和更多的有色人种。这不仅为他们提供了一个应用新视角来解决世界问题的机会，也确保人工智能解决方案在设计时考虑到了这些问题。(注:虽然视频特别提到了女性和有色人种，但这是一个很好的时机，可以通过包括来自其他传统上代表不足的STEM领域人群的人，如残疾人、LGBTQ+或来自较低社会经济背景的人，来提及多样性的增加。)

    2）让学生独立或与伙伴一起阅读一篇关于在人工智能领域做出贡献或取得成功的人的文章，如在AI4All Role Models网页上列出的。学生们应该了解这个人，以及他们在人工智能领域取得的成就。这也是展示不同背景的人工智能贡献者的成功的机会。学生可以在一个图形管理器中记笔记，或者他们可以使用像ReadWriteThink trading Card Creator这样的数字工具创建一套人工智能角色模型交易卡。学生可以打印和展示这些卡片，或者在一个数字画廊中分享它们，供其他学生探索。

    3）告诉学生，因为有了人工智能工具、模型和数据集，他们不必等到进入职业生涯后才能创建人工智能应用程序，帮助解决生活、学校或社区中的问题。事实上，世界各地的儿童和青少年已经开始开发自己的程序和应用程序，集成人工智能来解决现实世界的问题。(如果时间允许，可以考虑分享高中生Michelle Hua的Coach AI或高中生Owen Scott、Drew Kinneer、Arya Karnik和Sabarish Mogallapalli的ChestML。这两个项目都获得了年度国会应用程序挑战赛的冠军。)

    Coach AI：

    ChestML：

6. 活动4：人工智能决策

 在这一活动中，学生们将探讨关于人工智能如何被用于自动化雇佣和解雇的决策伦理考虑。

    1) 告诉学生们，除了自动化任务和引入新类型的工作，人工智能还通过决定学校教育和工作安排来改变劳动力。人工智能技术目前正被许多组织用于自动化高中课程安排、筛选大学申请，以及做出招聘和解雇决定。

    2) 让学生完成关于AI中招聘偏见的模拟游戏“Survival of the Best Fit”。在这个模拟中，学生们进入了一个新公司担任招聘角色。起初，他们自己做招聘决定，但随着业务的发展，他们训练并实施人工智能算法来为他们做决定。

    3) 在模拟游戏之后，向学生解释偏见是一种偏好或反对一种想法或事物。我们都有偏见——对猫或狗、甜或咸、阳光或雨水等日常事物的偏好，以及对更困难的权衡，如女性是做全职妈妈好还是工作好。虽然我们知道自己的一些偏见，但还有一些是无意识的偏见——在无意识的学习或思考下对人或事形成的观点或决定。每当我们使用人工智能来做决定时，这些决定都会反映出人类收集、选择和使用的训练数据(用于教授机器学习模型的示例)中的任何偏差。

    4) 通过分享历史或时事文章，进一步探索人工智能决策中的偏见，这些文章揭示了现实世界中使用人工智能进行招聘或解雇的组织的应用和结果。支持这一讨论的资源可能包括：

• 文章: “AI programs exhibit racial and gender biases, research reveals”
• 文章: “AI at work: Staff ‘hired and fired by algorithm”
• 文章: “Amazon scraps secret AI recruiting tool that showed bias against women”
• 文章: “The Key Role Evolving AI Will Play In Tech Hiring And Firing”
• 文章: “How AI Can Remove Bias From The Hiring Process And Promote Diversity And Inclusion”

    5) 进行课堂讨论，探讨以下问题：

•  使用人工智能来做出招聘和解雇决定对利益相关者有何影响?谁会受益，谁不会受益，为什么?
• 人工智能机器学习算法如何继承创造它们的人类的偏见?
• 机器学习算法的使用会如何加剧世界上已经存在的不平等?
• 如果知道人工智能正在筛选简历或申请，你或其他人填写申请的方式会发生什么变化?
• 如果人们更好地理解机器学习算法是如何训练的，我们如何在决策时更合乎道德地使用机器学习算法?我们如何利用它们来克服世界上的偏见?我们如何为开发和使用它们的人建立问责制?

7. 活动5：未来的工作

 在这次展示中，学生将扮演未来学家的角色。他们将把研究和想象结合起来，描述他们认为未来工作所需要的不断发展的知识、技能和证书。

    1) 介绍这个活动，让学生知道他们将步入一个未来主义者的角色：一个利用当前趋势的研究来预测未来的人。这项任务需要研究和丰富的想象力。

    2) 让学生单独或与一个伙伴，或在一个小组内完成以下步骤：

• 选择您选择的工作或领域。
• 基于人工智能将影响每个工作和领域的假设，使用下面概述的设计思维框架来研究和发展您的想法。

    ——发现：利用美国劳工部的“职业一站式”（U.S. Department of Labor’s Career One Stop）、“我的下一步”（My Next Move）或STEM项目的现实职业联系（Project STEM’s Real-World Career Connections）等资源，对选定的工作或领域进行研究。这些员工每天都做哪些核心任务？人工智能目前是如何在这个工作或领域中使用的？他们是否使用、培训和/或开发AI工具？目前进入这一职业的途径是什么？需要哪些知识、技能或证书？

    ——理解：根据你所学到的，你注意到了什么趋势？人工智能技术已经带来了哪些变化思维？

    ——观念形成：形成关于10年或25年后该工作或领域的想法。将执行哪些核心任务，AI将如何参与？通往这一职业的道路将如何改变？需要哪些知识、技能或证书？在您看来，这些变化会对不同的利益相关者或整个社会产生怎样的积极和/或消极影响。

    ——实验：与同学分享想法并获得他们的反馈。你的想法可行吗？他们和你们自己想法的有效结合吗？他们还有什么其他建议可以改善你的预测。

    ——演变：考虑同行的反馈，并通过回顾之前的任何设计思考步骤来改进预测。

• 在你选择的领域中，选择最好的方式来发布未来工作的广告，比如在线招聘信息或视频。制定一个广告，至少包括未来的工作描述，以及胜任该工作所需的知识、技能和证书。
• 让学生向全班展示他们未来的招聘广告。在每个报告之后，作为课堂讨论他们认为具体的预测变化对不同的利益相关者或社会是有利还是有害的，以及为什么。

8. 活动6：反思回顾

在本次活动中，学生应讨论以下问题，反思人工智能技术对数字时代工作的社会影响。

• 在项目开始时，看看同学们是如何将便利贴放在积极和消极的影响范围上的，现在你知道更多了，你有什么想法想要改变吗?为什么?
• 为什么在人工智能开发中拥有多元化的劳动力对道德人工智能设计和应用的发展很重要?
• 人工智能技术改变当今劳动力的方式可能会给社会带来哪些负面影响?社会将如何受到积极影响?
• 仅仅因为AI可以用来做一些事情，就意味着AI应该被用来做这些事情吗?
• 您下一步将采取什么措施来继续学习人工智能技术对生活和工作的伦理影响?