人工智能的五大理念——6-8年级

1. 感知（中学指南）

侦测：生物（1-A-1）

侦测：计算机传感器（1-A-2）

2. 表征与推理（中学指南）

核心观点

• 表征是数据结构；推理方法是算法（人工智能运用计算机科学的工具：数据结构与算法）
• 表征支持推理；推理方法作用于表征（表征和推理是相互依存的）
  
• 知识表征的两种主要类型是符号表征和数值表征（使用符号表征进行推理是通过逻辑推理规则来实现的，而使用数值表征进行推理则会利用诸如神经网络之类的复杂数学函数）
  
• “知晓” 某事物意味着具备对其进行表示以及运用其进行推理的能力（书籍和视频能够呈现知识，但它们并不 “知晓” 事物，因为它们无法利用这些知识）
  
• 如果智能体采用一种并非简单的 “感知 - 思考 - 行动” 循环机制来朝着实现自身目标取得进展，那么它们就会被视作是智能的（要被认定为智能的，在 “感知”“思考（推理）” 或 “行动” 这些组成部分中，至少有一个部分必须需要复杂的计算方法或强大的计算能力。车库门开启装置并非智能体，因为它们的感知、推理和行动过程都非常简单）

表征：抽象（2-A-1）

• 学习目标：展示如何用通俗语言描述来呈现一个游戏棋盘（例如，井字棋、蛇梯棋、大富翁、国际象棋）。
• 基本理解：一个游戏棋盘的关键信息在于组成棋盘的方格集合、这些方格之间的相互关系以及棋子的位置。
• 详细说明：游戏程序是基于棋盘的抽象表示来运行的。一个国际象棋程序知晓全部 64 个方格的横行和纵列，但它不会呈现出实体棋盘的属性，比如棋盘的尺寸或者制作棋盘的材料。

表征：符号表征（2-A-2）

• 学习目标：展示将诸如游戏棋盘、路线图或思维导图等结构转化为带标签的图，并解释其组成部分的作用。
• 基本理解：图的节点表示事物，边（链接）表示这些事物之间的关系。标签提供了关于节点和边所代表内容的额外信息。
• 示例：在游戏《蛇梯棋》（最初叫《蛇与梯子》）中，棋盘上的方格在图中表示为节点。表示相邻方格的节点由 “后继” 边连接。其对应的方格可通过滑梯或梯子到达的节点则由 “滑梯” 或 “梯子” 边连接。在路线图中，城市是节点，道路是边。这些边可能会标有道路名称或里程数值。思维导图是一种人们使用的非正式知识图谱，而非供计算机使用。

表征：数据结构（2-A-3）

• 学习目标：描述图的组成部分以及各部分之间的关系。
• 基本理解：图是由带标签的边连接起来的带标签节点的集合。每条边都有一个源节点和一个目标节点；每个节点都有一组入边和一组出边。树是图的一种特殊情况。
• 详细说明：人工智能中的图可用于表示多种事物，例如路线图（其中城市作为节点，道路作为边）、迷宫以及知识图谱等。知识图谱能够表征人、地点和事物，以及它们之间的关系。思维导图大多属于树结构，但也可能存在多条通往同一节点的路径，此时该思维导图就构成了图。每个节点代表一个概念，边可以用概念之间的关系进行标注，也可以不标注。

表征：特征向量（2-A-4）

• 学习目标：解释词嵌入（即特征向量）是如何将单词表示为数字序列的。
• 基本理解：词嵌入是神经自然语言处理的关键组成部分，应用于包括机器翻译（例如谷歌翻译）和文本生成系统（如双向编码器表征变换器（BERT）、生成式预训练 Transformer 3（GPT3）等）。
• 详细说明：每个单词都是高维特征空间中的一个点，其组织方式使得在特征空间中，语义相近的单词彼此靠近。可查看这个 Word2Vec（词向量）演示示例。

• 学习目标：展示计算机如何通过绘制搜索树来解决迷宫问题、在地图上找到路线，或者在知识图谱中对概念进行推理。
• 基本理解：计算机使用图搜索算法来解决迷宫问题、寻找驾车路线，以及在知识图谱中对概念进行推理，这些算法会构建搜索树。
• 详细说明：图搜索问题的搜索空间是指从图中指定的起始节点出发的所有路径的集合。用于解决迷宫问题的操作是将节点向北、向南、向东或向西移动一格。在更一般的图搜索情况中，这些操作是通过在路径末端添加一个新节点来扩展路径。合法的移动是添加一个在图中可通过直接边到达的节点。合法状态是指那些通过一系列合法移动能够到达的状态。
• 示例：为了确定袋鼠是否属于哺乳动物，我们在知识图谱中搜索从 “袋鼠” 节点到 “哺乳动物” 节点的路径，这条路径由 “属于” 边组成。快速入门文章。
  

搜索：组合搜索（2-B-2）

• 学习目标：对使用广度优先搜索解决图搜索问题的过程进行建模，以绘制出搜索树。
• 基本理解：广度优先搜索可用于解决涉及对图进行推理的问题。
• 详细说明：在广度优先搜索中，搜索树当前层级的所有节点会被逐一展开，以生成下一层级的节点。然后，对新生成的下一层级节点进行展开，如此循环这个过程，直至达到目标。给定一个表示朋友关系的图，判断两个人是否有共同的朋友就是一个图搜索问题。另一个图搜索问题是确定两个人之间的间隔度数，就如同 “凯文・贝肯的六度分隔理论” 那样。

推理：推理问题的类型（2-C-1）

• 学习目标：将问题归类为分类问题、预测问题、组合搜索问题或序列决策问题。
• 基本理解：预测问题与分类问题类似，不同之处在于预测问题估计的是一个连续值，比如身高或每日温度。序列决策问题会针对任何给定状态选择下一步行动，以便使总体奖励最大化。
• 详细说明：序列决策问题在要点三（Big Idea 3）中有所涉及；可使用强化学习来解决这些问题。
• 示范：垃圾邮件与非垃圾邮件（分类问题）、明天的最高气温（预测问题）、解决像 “狼、羊和卷心菜” 这样的谜题（组合搜索问题），以及玩像《超级马里奥》这样的电子游戏（序列决策问题）。
  

推理：推理算法（2-C-2）

• 学习目标：比较几种可用于解决特定类型推理问题的算法。
• 基本理解：推理算法的选择取决于输入数据的特征以及需要做出的决策类型。
• 详细说明：对于区分狗和猫的分类问题，如果我们只有原始图像，就不能使用决策树，因为这将需要数量庞大到难以想象的节点；我们必须使用神经网络，因为它能够高效地执行特征提取。但如果我们已经拥有根据诸如口鼻长度和耳朵形状等特征对动物的描述，那么就可以使用决策树。
• 一般来说，分类问题可以使用决策树、最近邻算法或神经网络来解决。预测问题可以使用线性回归或神经网络来解决。组合搜索可以利用几种不同的算法来生成搜索树。序列决策问题可以使用 Q 表或神经网络来选择最佳行动。
  

3. 机器学习（中学指南）

核心观点

• 机器学习使计算机能够在无需人们对特定行为进行显式编程的情况下掌握这些行为。（“机器学习” 的定义）
• 学习新行为源于学习算法对推理模型（如决策树或神经网络）的内部表示所做出的改变。（机器学习算法的工作原理）
• 当推理模型能够产生多种行为时，需要大量的训练数据来缩小学习算法的选择范围。（训练数据的作用）
• 由机器学习算法构建的推理模型可应用于新数据，以解决问题或做出决策。（学习阶段与应用阶段）

学习的本质：人类学习与机器学习对比（3-A-1）

• 学习目标：对比人类学习的独特特征与机器学习系统的运行方式。
• 基本理解：人类通过观察、接受教导、提问、实验、实践以及与过往经验建立联系来学习。计算机则通过将专门的算法应用于大量的训练数据，或者通过成千上万甚至数百万次的试错经验，来解决定义范围较窄的问题。
• 详细说明：人类是灵活的学习者，会运用多种学习策略。计算机使用专门的算法，这些算法需要大量的数据或多次的尝试，并且只能解决定义范围较窄的问题。虽然人类可以通过显式编程来构建推理器，但对于复杂的问题，让机器学习算法来完成这项工作通常更为便捷。

• 学习目标：对无监督学习如何在无标签数据中发现模式进行建模。
• 基本理解：当我们事先不知道存在哪些类别时，无监督学习就会很有用。它通过将附近的点归为簇来发现数据中的模式（或类别）。一旦找到了一组簇，新的点就可以根据其与簇边界的距离来进行分类。
• 详细说明：这可以通过在平面上使用点，并通过勾勒（例如，围绕每个簇绘制一个椭圆）的方式直观地构建簇边界来以图形化方式实现。

学习的本质：训练模型（3-A-3）

• 学习目标：在表格型数据集上使用机器学习来训练和评估一个分类或预测模型。
• 基本理解：计算机能够通过检查特征值来学习对实例进行分类或预测数值。如果对于新输入数据的处理结果不尽如人意，可能就需要进行额外的训练以提高准确性。
• 详细说明：在一个表格型数据集中，每个训练示例都是表格中的一行数据，并由一组特征值来描述；这些特征就是表格的列。分类是将每个示例归入一组离散的类别中的某一个（例如，猫或狗）；预测则输出一个连续的值，比如根据一个人的年龄来预测其身高。所使用的学习算法很可能是决策树学习算法，而不是神经网络。
• 活动：像 “机器学习助力儿童（MachineLearningForKids）” 和 “eCraft2Learn” 这样的网站都包含决策树学习的相关内容。学习算法会确定哪些是相关特征，以及对于每个类别而言，这些特征应该具有什么样的值。

学习的本质：构建推理器与使用推理器（3-A-4）

• 学习目标：解释训练推理模型和使用推理模型之间的区别。
• 基本理解：机器学习算法利用带标签的训练数据来构建用于分类或预测的推理模型。在训练过程中，推理模型基于训练输入数据运行，学习算法则对模型进行调整，使其输出结果更接近标签。一旦训练完成，该推理模型就可以应用于新的数据，以解决问题或做出决策。以这种方式使用已训练好的推理模型并不会对其进行改变；只有学习算法才能对模型进行修改。

学习的本质：调整内部表征（3-A-5）

• 学习目标：比较决策树学习算法和神经网络学习算法的工作原理。
• 基本理解：在决策树学习中，每一步都会添加一个新节点，该节点会对单个特征值进行测试。在神经网络学习中，每一步都会对网络中的每个权重进行微小调整。
• 详细说明：决策树的内部表示包括节点、每个节点所检查的特征以及该特征所比较的值。神经网络的内部表示则是权重。决策树学习算法会为其创建的每个新节点尝试找到最具信息量的特征进行检查。改变训练数据可能会导致下一步选择不同的特征进行检查。对于神经网络而言，改变训练数据会使算法在尝试减少误差信号时对权重进行不同的调整。

学习的本质：从经验中学习（3-A-6）

• 学习目标：解释监督学习和强化学习之间的区别。
• 基本理解：监督学习会告知智能体对于每个输入应该产生怎样的输出；而强化学习仅在智能体选择要采取的行动时，告知其表现得如何。
• 详细说明：在监督学习中，“教师” 会为每个训练示例指明正确的输出，这样学习算法就能知道自己错在哪里。在强化学习中，强化信号表明模型的表现情况，但不会告诉学习算法模型为了取得更好的表现本应选择怎样的行动。这一点必须通过试错来发现，所以可能需要进行成千上万次的尝试才能达到专业水平的表现。例如，在玩电子游戏时，强化信号可以是获得的分数。由于计算机是从自身的经验中学习，强化学习能够找到那些没有 “教师” 告知其最佳行动的问题的解决方案。

神经网络：神经网络的结构（3-B-1）

• 学习目标：展示神经网络的结构，并描述其各个部分如何构成一组用于计算输出的函数。
• 基本理解：神经网络由单元层（输入层、隐藏层和输出层）组成，相邻层的单元之间存在带权重的连接。每个单元计算其带权重输入的总和。它将该总和通过一个传递函数，以产生一个数值输出。
• 详细说明：神经网络以一种复杂的方式将输入模式映射到输出模式。每个神经元计算一个函数，而整个网络计算一个复杂的函数，这个函数可以被看作是一个变化非常复杂的数学函数。

神经网络：权重调整（3-B-2）

• 学习目标：演示如何使用一种学习规则来调整单层神经网络中的权重。
• 基本理解：在训练过程中，根据网络输出中的误差来调整权重，这样当再次输入相同内容时，出现误差的可能性就会降低。
• 详细说明：训练可以使用二进制单元以及一种用于调整权重的简单学习规则（例如 “这条狗会咬我吗？” 练习中的感知机学习规则）来完成。

数据集：特征集（3-C-1）

• 学习目标：创建一个用于训练决策树分类器或预测器的数据集，并探究不同的特征编码对决策树产生的影响。
• 基本理解：要纳入的特征的选择，以及针对这些特征所使用的最佳编码方式，取决于我们试图解决的特定推理问题。
• 详细说明：在决策树的每个节点处，学习算法都会尝试选取一个在将剩余实例划分为不同类别时最有帮助的特征。那些与任何类别都没有强相关性的特征将不会被选中。
• 资源：《儿童机器学习》（MachineLearningForKids）会绘制决策树，以便学生能够检查它，并查看在每个节点处引用了哪个特征。
  

数据集：大型数据集（3-C-2）

• 学习目标：阐述如何对图像中的对象进行分割和标记，以便构建用于对象识别的训练集。
• 基本理解：机器学习要想取得良好效果，需要大量的数据。对数据进行标记通常需要专业人员的参与，而这可能会耗费大量人力。
• 详细说明：可以给学生提供一组图像，并要求他们在图像中的每个人、每只狗或每个交通标志周围绘制一个边界框，然后对对象进行恰当的标记。作为后续任务，可以要求学生估算构建一个包含数千个示例的标记数据集所需的时间。

数据集：偏差（3-C-3）

• 学习目标：解释训练数据的选择是如何影响分类器的行为的，以及如果训练集没有得到恰当的平衡，偏差是如何被引入的。
• 基本理解：如果要求模型对与训练数据不相似的输入进行分类，或者如果训练数据包含了我们不希望分类器依赖的不相关的关联关系，那么就可能会产生偏差。
• 详细说明：一个仅在白人面孔上训练的分类器，在处理黑人或亚洲人面孔时表现会很差。一个在贷款申请数据集上训练的分类器（在该数据集中，大多数被拒绝的申请人都住在普莱森特维尔镇）可能会判定，永远不向住在普莱森特维尔镇的任何人发放贷款。

4. 人机交互（中学指南）

核心观点

• 计算机能够使用自然语言来传达事实性信息，但在理解诸如隐喻、意象、幽默和讽刺等非字面意义的表达方式时却存在困难（语言是构成人类特性的一个重要部分。隐喻、意象和幽默是人类文化的一部分，然而，我们缺乏关于人们如何理解这些内容的精确且详细的理论，也不清楚计算机应该如何处理它们）
• 计算机能够识别情感，但无法体验情感。对于情感的恰当回应必须由人类进行编程设定（人工智能系统运用算法来识别人类的情感。然而，当机器对我们的痛苦表示同情时，它并没有一颗会为我们而感到疼痛的心）
• 当前的人工智能系统是专为处理定义明确的问题而设计的专用推理器。类似人类的灵活推理能力，即所谓的 “通用人工智能” 或 “强人工智能”，目前尚未实现（我们尚不清楚何时能够构建出能够模仿甚至超越人类推理能力的通用人工智能系统）
• 当前的人工智能系统缺乏意识和自我意识。一台具有自我意识的计算机需要对自身的存在和思想进行表征，并且需要存储其过往经历的记忆（意识是对自身存在的认知，也就是对自身身体和所处环境的察觉。自我意识则是认识到自己是一个有意识、能思考并且具备对自身思想进行推理能力的存在。有关这些观点的简要讨论可参见 Jabr (2012)的相关内容）

自然语言：语言结构（4-A-1）

• 学习目标：借助解析器程序展示句子的句法结构，以此证明计算机对语法的掌握程度，并解释各节点的含义。
• 基本理解：解析树是一种呈现句子句法结构的方式，能展示词与词之间的关系。计算机可利用句法树来分析和生成句子。
• 详细说明：
  • 句子的语法结构是理解其含义的关键。例如，若任务是回答问题，那么我们需要理解问题的含义才能进行恰当的查询。若任务是让机器人执行某项操作，机器人必须明白所提出的请求。
  • 解析器会生成句法树，其中非终结符节点代表诸如名词短语（NP）、动词短语（VP）和介词短语（PP）等语法类别。
    
  • “把杯子放在茶碟上” 与 “把茶碟放在杯子上” 这两个句子就体现了句法的重要性。这两个句子包含相同的单词，但单词之间的句法关系不同。这就是为什么改变词序会改变句子的含义。此外，“cup” 既可以是名词，也可以是动词，但在这个语境中，句法表明它在这里用作名词。
    
• 参考资源：伯克利神经解析器既能进行词性（POS）标注，也能生成解析树。这些标注源自宾州树库项目

自然语言：语言歧义性（4-A-2）

• 学习目标：通过给出包含介词短语可以有两种附着位置的句子，说明计算机理解句子为何具有挑战性，并展示有时如何基于语义来解决这种歧义。
• 基本理解：语言常常存在歧义，但如果某些可能的语义不合理，就可以将其排除。在利用上下文和世界知识进行这类判断方面，计算机目前还不如人类。
• 详细说明：“约翰用望远镜看到了那个男人” 这句话存在歧义，因为不清楚是谁拿着望远镜。但 “约翰看到了拿着小提琴的男人” 这句话则没有歧义。附着歧义是句法歧义的一个例子，因为其解析树不同：“用望远镜” 既可以附着在 “约翰” 上，也可以附着在 “那个男人” 上。语义知识（含义）可以帮助人类选择最合理的解析方式。将此与 3 - 5 节中讨论的指称歧义进行比较。
• 活动：创建有歧义的句子，并通过伯克利神经解析器进行处理，查看它是否能将介词短语正确地附着到相应的词上。

自然语言：文本推理（4-A-3）

• 学习目标：举例说明如何利用词嵌入来推断单词的含义。
• 基本理解：词嵌入将含义相近的单词表示为语义特征空间中相邻的点，使我们能够通过算术运算来推断单词的含义。
• 详细解释：推断单词含义的一个例子是离群值检测，例如，在 “早餐”“午餐”“香蕉”“晚餐” 这个列表中，哪个单词与其他单词不匹配？单词之间的相似度可以用特征空间中的距离来衡量；离群值与其他单词的距离会更远。另一个推断含义的例子是类比补全，例如，“男人之于国王如同女人之于女王”。这可以通过计算特征向量 “国王” - “男人” + “女人”，并找出与结果最接近的单词来解决。词嵌入真正的优势在于，它们被用作 Transformer 网络的输入，Transformer 网络可以对文本执行更为复杂的推理操作。

• 活动 ：

自然语言：应用（4-A-4）

• 学习目标：描述计算机能够执行的一些自然语言处理（NLP）任务，并解释这些任务是如何运作的。
• 基本理解：自然语言处理（NLP）任务包括文本摘要、文本生成、情感分析、问答系统、机器翻译以及对话交互。

常识推理（4-B-1）

• 学习目标：解释计算机要解决一个简单的物理推理问题所需具备的知识。
• 基本理解：计算机能够运用简单的物理推理规则来对物理现象进行推理，这些规则将我们对诸如质量、体积、力和运动等概念的直观理解形式化。目前，计算机在这方面还不太擅长。
• 详细说明：简单的物理学包括对守恒定律的认识。将一大容器的水倒入一个较小的容器中会导致水溢出，这是因为小容器的容积较小，而水的总量并没有改变。到六至八年级时，学生应该已经掌握了守恒定律；可查看这篇关于皮亚杰守恒任务的文章。简单的物理学还包括用于对力进行推理的推理规则，例如 “当一个重的物体撞击一个轻的物体时，轻的物体会移动”。
• 活动：提出一个需要运用简单物理学知识才能解决的推理问题，并说明所需要的是哪些知识

情感理解（4-C-1）

• 学习目标：描述计算机如何利用不同类型的线索来识别人类的情绪状态。
• 基本理解：计算机可以通过观察面部表情、眼神、手势、肢体语言、语音语调以及用词选择来识别人类的情绪状态。
• 详细说明：例如，肢体语言能够显示出一个人是否投入、怀有敌意、感到焦虑或者觉得无聊。肢体语言包含诸多因素，比如一个人双臂的摆放方式、双脚的位置、身体是前倾还是后仰，以及头部的倾斜角度等。计算机能够从网络摄像头拍摄的图像中提取这些姿势信息。

• 学习目标：定义意识的标准，并根据这些标准评估人工智能系统或虚构的人工智能角色。
• 基本理解：意识的本质是一个尚未解决的问题，但两个重要的标准似乎是自我意识和个人经历。
• 详细说明：关于意识的问题：（1）自我意识（或 “对意识的意识”）是必要的吗；（2）个人经历（对过去经历的记忆）是必要的吗；（3）心理语言是必要的吗；（4）意识有不同的层次，还是要么有要么无；（5）动物表现出什么样的意识。
• 活动：研究关于动物是否能有意识，以及动物意识与人类意识有何不同的讨论。如果意识存在一个等级量表，你认为计算机在这个量表上有可能达到或超过人类吗？
  

5. 社会影响（中学指南）

核心观点

• 开发人工智能应用涉及技术和伦理双重设计决策。
• 人工智能应用涉及多方利益相关者，他们可能持有不同的价值观，并可能因设计者的选择受到不同影响。
• 涉及人类决策的人工智能系统应被设计为遵循公平性、透明度和隐私保护等社会价值观。
• 人工智能是一项颠覆性技术，不仅影响经济和就业，还将重塑社会与文化规范。
• 人工智能正成为每个人生活和职业工具箱中的组成部分。

符合伦理的人工智能：利益多样性与差异影响（5-A-1）

符合伦理的人工智能：践行伦理设计（5-A-3）

• 学习目标：评估人工智能系统设计者能够了解利益相关者的价值观，并将这些价值观融入设计过程的方法。
• 基本理解：人工智能系统需要与其旨在服务的群体的规范和价值观保持一致。人工智能系统的开发者需要明白，价值观会因文化的不同而有所差异，并确保这些价值观能够为他们所开发的产品的设计提供指引。
• 活动：选择一个人工智能系统，通过列出利益相关者并列举他们的价值观来构建一个伦理矩阵。然后评估该系统与利益相关者之间的契合度。
• 资源：麻省理工学院人工智能伦理教育课程（MIT AI Ethics Education Curriculum）