前一个

5. 社会影响（中学指南）

核心观点
  • 开发人工智能应用涉及技术和伦理双重设计决策。
  • 人工智能应用涉及多方利益相关者，他们可能持有不同的价值观，并可能因设计者的选择受到不同影响。
  • 涉及人类决策的人工智能系统应被设计为遵循公平性、透明度和隐私保护等社会价值观。
  • 人工智能是一项颠覆性技术，不仅影响经济和就业，还将重塑社会与文化规范。
  • 人工智能正成为每个人生活和职业工具箱中的组成部分。

符合伦理的人工智能：利益多样性与差异影响（5-A-1）

  • 学习目标：解释人工智能系统的使用是如何对不同群体产生不同影响的。
  • 基本理解：不同的人群群体可能会受到人工智能系统的不同影响。
  • 详细说明：当一个系统的设计者没有充分考虑到用户之间的差异时，就可能会出现不同的影响。例如，使用过去的医疗支出情况来评估一位病人的患病严重程度，这一做法假定了每个人都享有相同水平的医保覆盖。若使用这种评估方式，将更积极的医疗护理安排给病情最严重的病人，那么对于那些医保覆盖水平较低的人群来说，就会产生不同的影响。机器学习系统中未被察觉的偏差（例如，简历筛选应用程序中的偏差）也可能会对某些群体产生不同的影响。
  • 参考资料：https://www.scientificamerican.com/article/racial-bias-found-in-a-major-health-care-risk-algorithm/

符合伦理的人工智能：伦理设计标准（5-A-2）
  • 学习目标：分析一个人工智能系统，以确定它是否符合伦理设计标准。
  • 基本理解：为确保人工智能系统是有益而非有害的，伦理设计标准包括：公平性、透明度、可解释性、可问责性、对隐私的尊重以及对社会价值观的遵循。
  • 详细说明：公平性意味着平等地对待每一个人。透明度指的是公开一个系统使用了哪些信息以及它是如何使用这些信息的。可解释性意味着能够为系统所做出的决策提供合理依据。可问责性意味着明确谁要为人工智能系统的行为负责。对隐私的尊重意味着不采取任何可能损害人们隐私的行为。遵循社会价值观意味着不做出任何违背这些价值观的行为。
  • 资源：人工智能伦理相关资源目录：https://aiartists.org/aiethics
    模型卡片（促进透明度和可问责性）：https://modelcards.withgoogle.com/about

符合伦理的人工智能：践行伦理设计（5-A-3）
  • 学习目标：运用符合伦理的设计流程来设计一个人工智能系统。
  • 基本理解：在设计流程的所有阶段，符合伦理的设计都要考虑到所有利益相关者的价值观，并坚持公平性、透明度、可解释性、可问责性、尊重隐私以及遵守社会价值观等原则。

人工智能与文化：AI日常生活应用（5-B-1）

  • 学习目标：解释随着人工智能技术持续发展并进一步融入我们的文化，可能会引发哪些类型的争论。
  • 基本理解：一些新的人工智能技术将对社会的文化规范和期望构成挑战，而社会必须识别并应对这些挑战。
  • 详细说明：一些潜在的争论包括：在与智能助手或机器人互动时，什么样的行为是可接受的？我们应该如何看待由人工智能程序创作或在人工智能程序协助下创作的文本或艺术品？在什么情况下学生使用大型语言模型来辅助完成家庭作业是可以接受的？机器学习工程师在使用人们的个人数据，或者以版权所有者未授权的方式使用公开可用的数据时，应该拥有哪些权利？预计还会出现更多诸如此类的争议。

人工智能与文化：信任与责任（5-B-2）

人工智能与经济：对社会部门影响（5-C-1）

  • 学习目标：预测由于人工智能技术的影响，社会的某个领域在短期和中期内可能会发生怎样的变化。
  • 基本理解：对于社会的健康发展而言，预见并规划新技术带来的变化是很重要的。
  • 详细说明：与人工智能技术相关的两类影响分别是自动化水平的提高和新型服务的出现。未来研究所的前任所长罗伊・阿马拉提出了 “阿马拉定律”，其内容为：“我们往往会在短期内高估一项技术的影响，而在长期内低估它的影响。”
  • 活动：（1）讨论由于人工智能可能会发展出的新型服务。（2）找出并解释人工智能系统在社会中引发的一个意外后果。

人工智能与经济：对就业的影响（5-C-2）

  • 学习目标：探究从事与人工智能相关职业所需的技能。
  • 基本理解：与人工智能相关的技能在整个劳动力市场中都将具有重要意义，而不仅仅是对程序员而言。大多数类型的工作都将涉及到与人工智能技术的某种交互。
  • 详细说明：随着新技术的采用，工作的性质会在一个人的职业生涯中发生变化。人们可以预期在整个职业生涯中都需要不断学习。逐渐变得重要的与人工智能相关的技能包括：为机器学习收集和整理数据集；与帮助人们完成工作的智能代理进行交互；训练机器人完成特定任务；使用由人工智能驱动的创意工具进行图像创作和处理；以及为人工智能系统进行知识工程方面的工作。

人工智能助力社会发展：AI技术的平民化（5-D-1）

  • 学习目标：使用你所选择的编程框架中可用的一些人工智能工具，创建一个新颖的应用程序。
  • 基本理解：人工智能工具正变得日益常见且可免费获取，没有高等学位或昂贵设备的人也能够使用这些工具。

人工智能助力社会发展：利用AI解决社会问题（5-D-2）

  • 学习目标：从一个 “人工智能促进社会公益” 项目所解决的问题以及该项目实际的或潜在的影响力方面，对其进行评估。
  • 基本理解：“人工智能促进社会公益” 指的是运用人工智能技术来解决社会问题。
  • 详细说明：“社会公益” 或公共利益旨在为最多的人带来最大的益处，让世界变得更美好。这包括诸如节能、环境保护、保护濒危物种、改善公共卫生以及预防人口贩卖等目标。
  • 资源：谷歌关于社会公益项目的博客文章：https://blog.google/technology/ai/30-new-ai-for-social-good-projects/
    《自然》杂志上关于 “人工智能促进社会公益” 的文章：https://www.nature.com/articles/s41467-020-15871-z


前一个