人工智能的五大理念-AI4K12

1. 概述

      以下是国际中小学人工智能教育指导工作组（AI4K12）发布的人工智能的五大理念（V2），该组织是国际人工智能协会（AAAI）与计算机科学教师协会（CSTA）的联合项目。                                                                            

一、感知

    计算机使用传感器来感知世界。感知是从传感器信号中提取意义的过程。AI领域迄今为止最重要的成就之一，就是使计算机能够足够好地去“看”和“听”，以投入实际应用。

二、表征与推理

    智能代理（能够）保持对现实世界的表示，并用他们进行推理。表征是自然智能和人工智能的基本问题之一。计算机使用数据结构来构建表示。这些表示（表征）辅助推理算法，这些推理算法从而从已知信息中推导出新的信息。虽然智能代理可以推理非常复杂的问题，但他们并不像人类一样思考问题。

三、机器学习

    计算机可以从数据中学习。机器学习是一种在数据中找到规律的统计推断。近年来，由于一些学习算法创造了新的表示，AI的许多领域都取得了显着进步。这种方法的成功需要大量的数据。这些“训练数据”通常必须由人们提供，但有时也可以由机器自身获取。

四、人机交互

    智能代理需要多种知识才能与人类协作并自然交互。理想情况下，智能代理将使用自然语言与我们交谈，利用文化知识从观察到的行为中推断意图，并对肢体语言、面部表情和情绪做出适当的反应。诸如大型语言模型和卷积神经网络等深度神经网络的进步正在使这一切成为可能。

五、 社会影响

    AI的应用对社会既有正面影响也有负面影响。人工智能技术正在改变我们工作、出行、沟通、和相互照顾的方式。但我们必须注意其所能带来的危害。例如，若用于训练人工智能系统的数据存在偏见，可能会导致部分人受到的服务质量低于其他人。因此，讨论AI对我们社会的影响，并为基于人工智能系统的伦理设计和部署制定标准是非常重要的。

2. 感知（小学指南）

侦测：生物（1-A-1）

侦测：计算机传感器（1-A-2）

3. 表征与推理（小学指南）

核心观点

• 表征是数据结构；推理方法是算法（人工智能运用计算机科学的工具：数据结构与算法）
• 表征支持推理；推理方法作用于表征（表征和推理是相互依存的）
  
• 知识表征的两种主要类型是符号表征和数值表征（使用符号表征进行推理是通过逻辑推理规则来实现的，而使用数值表征进行推理则会利用诸如神经网络之类的复杂数学函数）
  
• “知晓” 某事物意味着具备对其进行表示以及运用其进行推理的能力（书籍和视频能够呈现知识，但它们并不 “知晓” 事物，因为它们无法利用这些知识）
  
• 如果智能体采用一种并非简单的 “感知 - 思考 - 行动” 循环机制来朝着实现自身目标取得进展，那么它们就会被视作是智能的（要被认定为智能的，在 “感知”“思考（推理）” 或 “行动” 这些组成部分中，至少有一个部分必须需要复杂的计算方法或强大的计算能力。车库门开启装置并非智能体，因为它们的感知、推理和行动过程都非常简单）

表征：抽象（2-A-1）

• 学习目标：展示不同风格的地图是如何体现世界的不同层面的。
• 基本理解：地图在几何形状上可以做到精确无误，或者仅仅展示出从哪些地点能够抵达另外哪些地点（拓扑结构）。它们能够承载多种类型的信息，比如各个城市和城镇的名称、规模大小，又或是连接这些地点的道路类型。
• 详细说明：自动驾驶汽车依靠道路地图来规划行驶路线。地铁、火车和公交车的线路图既可能是几何式的，也可能是拓扑式的。

表征：符号表征（2-A-2）

• 学习目标：列举人们常用的树状结构的例子，并解释各组成部分之间的关系。
• 基本理解：许多类型的信息都具有层次结构，这种结构可以可视化为一棵树。
• 详细说明：族谱树、分类法、目录、组织架构树以及简单形式的思维导图（mind map）都具有相同的层次结构：除了根节点之外，每个节点都与层次结构中位置更高的父节点有一条单一的连接。分类信息是人工智能系统所使用的知识图谱的重要组成部分，并且通常在更大的图谱中形成一种树状结构。

表征：数据结构（2-A-3）

• 学习目标：描述一棵树的各个部分，以及这些部分之间是如何相互关联的。
• 基本理解：一棵树是由一组带标记的节点组成的，其中每个节点（根节点除外）都有一条连接到在层级结构中位于其上方的父节点的边。没有子节点的节点被称为叶子节点或终端节点；那些有子节点的节点则是非终端节点。

表征：特征向量（2-A-4）

• 学习目标：为一组对象构建特征向量表示，并展示在特征空间中相似的对象是如何彼此接近的。
• 基本理解：推荐系统使用特征向量来表示诸如电影、书籍、消费品或社交媒体帖子之类的事物。
• 详细说明：特征向量将概念表示为数字序列。两个特征向量之间的距离可以通过计算它们不同的位置数量来衡量，因此相似的对象在特征空间中彼此靠得更近。特征向量可以手动构建，但也可以使用机器学习自动构建。
• 示例：在 “意大利面世界” 练习中，学生们构建了一棵判别树来识别不同类型的意大利面。构成这棵树节点的问题可以为意大利面类型的二进制特征向量表示提供特征。

搜索：状态空间与算子（2-B-1）

• 学习目标：通过绘制玩家走棋所产生的棋盘位置的线性序列，来说明计算机如何表示诸如井字棋或尼姆游戏等游戏的进行过程。
• 基本理解：计算机通过创建由合法走法连接的一系列状态（棋盘位置）来玩游戏和解决谜题，在每一步都使用一种算法来选择它们的下一步走法。
• 详细说明：游戏的状态空间（或搜索空间）是指从起始状态（图示）可达的所有棋盘状态的集合，而算子是指玩家根据游戏规则能够做出的所有可能走法的集合。一个特定的游戏（棋盘位置的线性序列：图示）是通过这个状态空间的一条路径。

搜索：组合搜索（2-B-2）

• 学习目标：给定一个诸如井字棋或尼姆游戏的某一状态，绘制一棵搜索树，展示所有可能的下一步走法及其产生的状态，并选出最佳的下一步走法。
• 基本理解：计算机游戏程序可能会构建搜索树，以便决定其下一步的走法。
• 详细说明：搜索树是一种系统地探索游戏中所有可能走法的方式（图示）。游戏的状态空间是指从起始状态可达的所有棋盘状态的集合，而算子则是指玩家根据游戏规则能够做出的所有可能走法的集合。

推理：推理问题的类型（2-C-1）

• 学习目标：将问题归类为分类问题或搜索问题。
• 基本理解：分类问题是将每个输入分配到一组预先确定的类别中的某一个。搜索问题则是通过对状态应用算子来生成新状态，从而构建出答案。
• 详细说明：像在 “可教机器（Teachable Machine）” 中那样，将图像标记为狗的照片或猫的照片，这属于分类问题。从给定的起始位置找出通过一步移动就能到达的棋盘位置，这就是搜索问题的一个例子。

推理：推理算法（2-C-2）

• 学习目标：描述用于对事物进行分类的两种算法之间的区别：决策树，以及像 “可教机器” 这样的神经网络。
• 基本理解：多种算法可用于解决一个推理问题。
• 详细说明：对意大利面进行分类既可以通过构建一棵决策树（参见 “意大利面乐园（Pasta Land）” 活动）来完成，也可以通过在每种意大利面类型的示例图像上训练一个像 “可教机器” 这样的视觉分类器来实现。

4. 机器学习（小学指南）

核心观点

• 机器学习使计算机能够在无需人们对特定行为进行显式编程的情况下掌握这些行为。（“机器学习” 的定义）
• 学习新行为源于学习算法对推理模型（如决策树或神经网络）的内部表示所做出的改变。（机器学习算法的工作原理）
• 当推理模型能够产生多种行为时，需要大量的训练数据来缩小学习算法的选择范围。（训练数据的作用）
• 由机器学习算法构建的推理模型可应用于新数据，以解决问题或做出决策。（学习阶段与应用阶段）

学习的本质：人类学习与机器学习对比（3-A-1）

• 学习目标：区分人类的学习方式与计算机的学习方式。
• 基本理解：人类和计算机都能够通过在数据中寻找模式，或者通过反复试验来进行学习。然而，人类是灵活的学习者，能够适应不熟悉的情况，并以其他方式学习，比如通过观察他人、提出问题，或者将新知识与先前的学习建立联系。
• 详细说明：人类是天生的学习者，而计算机必须通过编程才能学习。目前，对计算机进行编程使其学习有两种方式：它们可以通过在人类提供的示例中寻找模式来学习，或者可以通过反复试验来学习。

学习的本质：在数据中发现模式（3-A-2）

• 学习目标：建立模型以展示监督学习如何识别带标签数据中的模式。
• 基本理解：在学习对带标签的数据进行分类时，所发现的模式（或规则）可以表示为神经网络中的权重，或者决策树中的节点。
• 详细说明：这是对幼儿园到二年级（K-2）版本内容的拓展，要求学生绘制一棵决策树，而不仅仅是口头表述他们提出的规则。此外，在三到五年级（3-5）阶段，可以通过增加类别数量或使类别定义更加复杂来丰富任务内容。例如，如果一条鱼满足以下条件中的任意一个，那它就是有毒的：头部为方形且颜色为红色；头部为圆形且颜色为蓝色；长有尖刺、头部为任意形状且颜色为紫色。决策树的每个节点可以测试一个特征值，比如颜色，所以复杂的特征需要更深层次的决策树。

学习的本质：训练模型（3-A-3）

• 学习目标：使用机器学习训练一个分类模型，然后检验该模型在处理新输入数据时的准确性。
• 基本理解：计算机能够通过展示带标签的示例来学习对实例进行分类或预测数值。如果在新输入数据上的结果不尽如人意，可能就需要进行额外的训练以提高准确性。
• 详细说明：使用 “可教机器（Teachable Machine）” 或 “儿童机器学习（Machine Learning for Kids）”，训练示例可以通过网络摄像头输入来提供，也可以从网络上的图像搜索中收集，并且可以针对诸如识别猫的图片这类任务来训练模型。

学习的本质：构建推理器与使用推理器（3-A-4）

• 学习目标：演示在使用机器学习工具时，如何对训练数据进行标注。
• 基本理解：在为训练模型做准备时，首先要定义类别（即标签），然后分别为每个类别添加示例，以此来对训练数据进行标注。训练完成后，可以向模型输入新的数据，模型会预测数据所属的类别，但这些数据是未标注的，所以模型不会收到关于其类别预测是否正确的反馈。
• 详细说明：“可教机器（Teachable Machine）” 默认提供三个类别，并且每个类别都有一个单独的 “按住录制” 按钮，所以训练示例会根据它们所录制归属的类别被隐式地标注。训练完成后，该模型会对网络摄像头的输入进行实时分类，但不会收到任何反馈。

学习的本质：调整内部表征（3-A-5）

• 学习目标：分析一个构建决策树的游戏，描述该决策树的结构以及用于添加节点的学习算法。
• 基本理解：在决策树学习游戏中，树的分支节点是问题，而叶节点是类别。学习算法通过在分支节点处提出问题（测试输入的特征）来遍历整棵树，直到到达一个叶节点。如果该叶节点的类别不正确，这个节点就会被一个带有新问题的分支节点所取代，并且原来的叶节点会重新连接到这个分支上。
• 详细说明：“猜动物” 游戏、故障排查问题以及 “意大利面乐园（Pasta Land）” 活动都是用于演示决策树学习的不错选择。

学习的本质：从经验中学习（3-A-6）

• 学习目标：解释强化学习是如何让计算机从经验（即试错过程）中学习的。
• 基本理解：如果存在一个 “强化” 信号，用于指示计算机的行为是导致了好的结果还是坏的结果，那么计算机就能够从经验中学习。
• 详细说明：计算机可以利用一个强化信号来学习玩游戏，该信号表明计算机在最近的一局游戏中是赢了还是输了，或者它得了多少分。计算机可能需要玩数十万局游戏才能成为一名游戏高手。
• 演示：强化学习可以通过一个智能体在存在障碍物和危险的网格世界中导航来进行说明；其任务是学习到达目标位置的最佳路径。在每个网格方格处，允许的动作是向北（N）、向南（S）、向东（E）或向西（W）移动。在反复的尝试过程中，智能体学会在每个方格中做出最佳的移动动作。

神经网络：神经网络的结构（3-B-1）

• 学习目标：举例说明由 1 到 3 个神经元构成的神经网络是如何作为一个计算输出的函数的。
• 基本理解：一个神经网络利用一个或多个协同工作的神经元来形成一个函数。每个神经元将一组数值作为输入，并产生一个单一数值作为其输出。
• 详细说明：神经网络是相互连接的神经元的集合。每个神经元都有一组输入连接，每条连接都附有一个权重。每条输入连接都携带一个值。神经元将每个输入值与连接权重相乘，以产生一个加权输入。所有加权输入的总和将与该神经元的阈值进行比较。如果总和高于阈值，神经元就输出 1；否则，它就输出 0。输出值可以作为其他神经元的输入。
• 活动：计算具有多个输入的单个神经元的输出，或者计算由两个多输入的 “隐藏” 神经元为单个输出神经元提供输入的网络的输出。这样的网络可以计算诸如 “与”“或” 或者 “三选二（至少两个）” 等简单函数。如需针对三至五年级学生的神经网络快速教程，请访问Google文档

神经网络：权重调整（3-B-2）

• 学习目标：演示在神经网络中如何分配权重，以实现期望的输入 / 输出行为。
• 基本理解：神经网络的行为可以通过调整其权重来改变。

数据集：特征集（3-C-1）

• 学习目标：创建一个带有多种明确特征类型的标记数据集，并使用一个机器学习工具对该数据进行训练，以得到一个分类器。
• 基本理解：特征类型包括离散值（例如，“纽约”“宾夕法尼亚”“爱荷华”）、二进制值（是 / 否）以及连续值（年龄、身高）。
• 详细说明：诸如 “面向儿童的机器学习（MachineLearningForKids）” 这样的网站，将会基于此类数据训练决策树分类器。

数据集：大型数据集（3-C-2）

• 学习目标：举例说明为诸如 “狗” 这样宽泛的概念训练分类器时，为何需要大量的数据来涵盖该领域的多样性。
• 基本理解：机器学习要达到良好效果需要大量的数据。为了识别图像中的狗，人们不仅需要有多种不同品种的狗的图像，还需要包含许多不同的拍摄视角和场景环境下的图像。
• 详细说明：帮助学生直观理解所需数据多样性的一种方法是浏览一些用于目标识别的标准数据集，比如 ImageNet（图像数据库）或 Coco（微软的一个大规模视觉识别数据集）。

数据集：偏差（3-C-3）

• 学习目标：检查训练数据的特征和标签，以发现潜在的偏差来源。
• 基本理解：机器学习算法需要具有代表性的数据集合，以便构建出准确的模型。从历史数据中提取的训练数据集可能反映出人类和社会中早已存在的偏见。
• 详细说明：亚马逊的简历筛选器表现出了对女性求职者的偏见，原因在于它是通过模仿过往招聘历史中的统计数据来进行训练的。
  

5. 人机交互（小学指南）

核心观点

• 计算机能够使用自然语言来传达事实性信息，但在理解诸如隐喻、意象、幽默和讽刺等非字面意义的表达方式时却存在困难（语言是构成人类特性的一个重要部分。隐喻、意象和幽默是人类文化的一部分，然而，我们缺乏关于人们如何理解这些内容的精确且详细的理论，也不清楚计算机应该如何处理它们）
• 计算机能够识别情感，但无法体验情感。对于情感的恰当回应必须由人类进行编程设定（人工智能系统运用算法来识别人类的情感。然而，当机器对我们的痛苦表示同情时，它并没有一颗会为我们而感到疼痛的心）
• 当前的人工智能系统是专为处理定义明确的问题而设计的专用推理器。类似人类的灵活推理能力，即所谓的 “通用人工智能” 或 “强人工智能”，目前尚未实现（我们尚不清楚何时能够构建出能够模仿甚至超越人类推理能力的通用人工智能系统）
• 当前的人工智能系统缺乏意识和自我意识。一台具有自我意识的计算机需要对自身的存在和思想进行表征，并且需要存储其过往经历的记忆（意识是对自身存在的认知，也就是对自身身体和所处环境的察觉。自我意识则是认识到自己是一个有意识、能思考并且具备对自身思想进行推理能力的存在。有关这些观点的简要讨论可参见 Jabr (2012)的相关内容）

自然语言：语言结构（4-A-1）

• 学习目标：通过展示任何句子如何能够被不断扩展以形成更复杂的句子，来证明人类语言是无限的。
• 基本理解：人类语言能够表达无限数量的想法，并构成无限数量的句子。这一特性使得预先为计算机编程以应对每一个句子成为不可能。因此，为了理解一个新句子，计算机必须识别单词是如何组合成短语和从句来传达复杂想法的。
• 详细说明：句子可以通过添加新的短语或从句来延长，且没有限制。不断扩展一个句子会得到类似这样的内容：“John said that Mary knew that Peter saw that Lisa gave Megan the book about hamsters from outer space that Harry recommended.”
• 活动：让全班同学轮流扩展一个句子，直到它变得特别长。然后将这个句子输入伯克利神经解析器（Berkeley Neural Parser），看看它是否能够正确识别短语结构。

自然语言：语言歧义性（4-A-2）

• 学习目标：通过给出一些句子，在这些句子中代词可能指代两个名词中的任意一个，以此说明理解一个句子对计算机来说为何可能具有挑战性。
• 基本理解：根据代词所被认为指代的名词不同，句子可能会有多种含义。人类以及（在较小程度上）计算机可以利用上下文和常识性知识来选择最有可能的含义。
• 详细说明：指代歧义的一个例子是 “John handed Pedro his telephone”，因为 “his” 既可以指John，也可以指Pedro。通常，常识性知识能够解决这类歧义问题，就像在这个例子中：“The trophy would not fit in the suitcase because it was too large/small.(奖杯放不进行李箱，因为它太大 / 小了。)” 选择 “大” 还是 “小” 会改变我们对 “它” 所指代对象的判断。指代歧义是一个语义（含义）方面的问题。这两个句子的分析树（语法结构）是相同的，但意思却不同。将其与 6-8 中讨论的附着歧义作比较。

自然语言：文本推理（4-A-3）

• 学习目标：对语音转文本系统进行实验，查看它是否能基于语境正确解决可选词汇的选择问题。
• 基本理解：语音识别系统能够利用语法和语境来解决有歧义的词汇问题，但并非总能得出正确结果。
• 活动：使用这个语音演示工具（SpeechDemo）来查看 “the dishes' size and weight were impressive（这些盘子的尺寸和重量令人印象深刻）” 的不同解读，或者像 “I couldn't tell which of the witches was the witch with the broomstick（我分不清哪个女巫是拿着扫帚的那个女巫）” 里 “which（哪一个）/witch（女巫）” 这类同音词的不同理解。

自然语言：应用（4-A-4）

• 学习目标：展示搜索引擎或智能助手能够回答的某些类型的问题，以及一些它们无法回答的问题类型。
• 基本理解：搜索引擎（如谷歌）和智能助手（如苹果的 Siri、亚马逊的 Alexa）拥有一系列专门用途和通用用途的模块，它们依靠这些模块来回答不同类型的问题。
• 详细说明：由专门模块处理的查询示例包括：单词的定义；单位换算（例如，英寸换算成毫米，美元换算成欧元）；世界上任何地方的当前时间和天气情况；人物传记和地理方面的事实（亚伯拉罕・林肯的出生日期、比利时的首都）；店铺营业时间和驾车路线；以及航班、火车和公交车的时刻表。当被问到有关实体之间关系的推理问题时（例如，鳄鱼比鸵鸟大吗？），或者当被要求给出解释而非简单事实时（例如，为什么莎士比亚没有写过关于飞机的内容？），目前的智能代理表现欠佳。当没有专门的模块能够处理某个查询时，搜索引擎就会退而采用关键词搜索，但结果往往不尽如人意。

常识推理（4-B-1）

• 学习目标：解释计算机要理解一个故事需要具备哪些知识。
• 基本理解：人工智能在理解故事方面存在困难，因为它不具备人类所拥有的关于日常生活的知识。
• 详细说明：“日常生活” 知识既包括文化知识（例如雨伞的用途是什么），也包括朴素物理学知识（例如物体掉落是因为重力作用）。
• 活动：创作一个可能让计算机难以理解的故事，并解释是什么因素导致其难以理解。

情感理解（4-C-1）

• 学习目标：举例说明计算机如何判断文本的情感基调。
• 基本理解：计算机能够运用被称为 “情感分析” 的自然语言处理技术，识别关于某一主题的积极和消极表述。
• 详细说明：情感分析可用于多种任务，例如：
  • -电影评论：分析在线电影评论，以了解观众对电影的看法。
  • -餐厅评价：分析餐厅的评论，以衡量顾客满意度。
  • -新闻报道：分析关于某一事件、人物或公司的新闻报道，以评估媒体的看法。
  • -社交媒体分析：分析脸书（Facebook）、推特（Twitter）或照片墙（Instagram）上帖子的情感倾向，以评估公众对事件、人物或产品的看法。
• 活动：使用合适的人工智能服务（例如 Scratch 插件）来创建能够展示情感分析的作品。使用基于网络的情感分析工具，分析带有主观标记的文本的情感极性。

心灵哲学（4-D-1）

• 学习目标：展示通用人工智能系统能够做到而当前的专用人工智能系统无法做到的事情。
• 基本理解：“专用人工智能（窄人工智能）” 为我们提供了一系列擅长特定任务的算法。“通用人工智能” 有望赋予我们与人类相当的通用推理能力。
• 详细说明：目前，只有人类展现出了通用智能。人类能够完成许多不同的任务，并且能够学会执行新类型的任务。当前的人工智能程序专注于单一类型的问题。例如，擅长下国际象棋或驾驶汽车的程序并不擅长回答有关故事的问题。目前，我们还没有能够模仿人类智能所有方面的算法或机器学习技术。

6. 社会影响（小学指南）

核心观点

• 开发人工智能应用涉及技术和伦理双重设计决策。
• 人工智能应用涉及多方利益相关者，他们可能持有不同的价值观，并可能因设计者的选择受到不同影响。
• 涉及人类决策的人工智能系统应被设计为遵循公平性、透明度和隐私保护等社会价值观。
• 人工智能是一项颠覆性技术，不仅影响经济和就业，还将重塑社会与文化规范。
• 人工智能正成为每个人生活和职业工具箱中的组成部分。

符合伦理的人工智能：利益多样性与差异影响（5-A-1）

符合伦理的人工智能：践行伦理设计（5-A-3）

• 学习目标：为分类或预测模型创建模型卡。
• 基本理解：模型卡通过说明模型用途、训练数据、准确性和局限性来支持透明度。
• 活动：学生可创建分类器并为其编写模型卡。
• 资源：
  • Google模型卡页面: https://modelcards.withgoogle.com/about
  • Code.org ：AI and Machine Learning Module on ModelCards
  • Code.org：AI Lab Machine Learning Tool