< 上一个 | 内容 | 下一个 >

《中国人工智能系列白皮书 人工智能原理》编写组


李昂生

杨博

彭攀

冯启龙

陈薇

金弟

祁琦

姚鹏晖

陈雪

王子贺





前言

人工智能技术的发展与成功应用已经成为 21 世纪科技领域最大的新现象。然而,科学地理解人工智能原理已经超出了现有科学体系的范畴。显然,人工智能是人类科学技术发展的必然结果,人工智能科学也将是人类科学进步与发展必然实现的目标。

破解人工智能的科学和技术障碍是人类科学技术发展绕不开也跨不过的重大前沿课题,并且已经凸显为人类 21 世纪首先需要突破的问题。

人工智能的科学与技术突破需要新的科学思想;人工智能本身是一个多学科交叉融合的科学现象,人工智能必然与若干主要的学科实质相关;人工智能技术开始于 20 世纪中叶,已经经历了几个重

要的发展阶段,推动人工智能作为一个重大挑战走到 21 世纪的科学前沿。

本白皮书顺应并体现人工智能的上述现状,由人工智能基础专委会负责组织。

具体编写组织如下:

北京航空航天大学、中关村国家实验室李昂生教授撰写了《人工智能总论》,分析了人工智能的重大科学问题,和其它学科的边界,论述了人工智能原理的总体框架和主要构成部分。

吉林大学杨博教授撰写了《符号主义人工智能》以总结基于逻辑推理的人工智能的成就、问题与未来展望。

中国科学技术大学彭攀教授和陈雪博士撰写了《大数据算法与可信计算理论》以总结基于计算的智能研究成果,分析计算与智能这两个概念的实质、关系与边界。

中南大学冯启龙教授撰写了《难解问题的智能算法》,以总结在困难问题智能算法求解方面的成就,分析困难问题的实质,展望智能算法在困难问题求解方向的前景。


中国科学院计算技术研究所陈薇研究员撰写了《神经网络的数学原理》以总结深度神经网络学习理论方向的成就、问题和未来展望。

天津大学金弟教授撰写了《神经网络的计算原理》以总结神经网络作为计算模型方向的成就、问题和未来展望。

中国人民大学祁琦教授和王子贺博士撰写《人工智能的博弈理论》以总结智能的博弈途径研究的成就、问题和未来展望。

南京大学姚鹏晖教授撰写了《量子人工智能》以总结基于量子物理的人工智能方向研究的成就、问题和未来展望。

李昂生教授撰写了白皮书的其余章节,包括《信息定律与信息模型》,《信息演算理论》,《(观察)学习的数学理论》,《自我意识的数学理论》,《博弈/谋算理论》,《人工智能信息模型》,这些内容是李昂生创建的《信息世界的数学原理》中的主要科学思想和基本科学原理的简单介绍;在《信息时代的科学双引擎和信息时代重大科学问题》一章,李昂生提出了信息时代的几个重大科学问题。

本白皮书的内容包括了:

智能作为一个科学概念的模型、原理与方法;智能与推理、计算、通信、博弈等科学概念的实质关系与边界界定;智能与数据、数学、物理、生物的实质关系与边界界定;智能技术的工程原理与方法等。

这些内容构成了本白皮书人工智能原理的五大部分:第一部分 人工智能总论

由李昂生教授的《人工智能总论》构成。第二部分 逻辑推理人工智能和计算智能

由杨博教授的《符号主义人工智能》,彭攀教授和陈雪博士的《大数据算法与可信计算理论》和冯启龙教授的《难解问题的智能算法》等三章构成。


第三部分 神经网络人工智能和生物人工智能

由陈薇研究员的《神经网络的数学原理》和金弟教授的

《神经网络的计算原理》两章构成。第四部分 数学人工智能和物理人工智能

由祁琦教授和王子贺博士的《人工智能的博弈理论》和姚鹏晖教授的《量子人工智能》两章构成。

第五部分 信息主义人工智能:层谱抽象认知模型人工智能 由李昂生教授的《信息定律与信息模型》,《信息演算理论》,《(观察)学习的数学理论》,《自我意识的数学理

论》,《博弈/谋算理论》,《人工智能信息模型》,和《信息时代的科学双引擎和信息时代重大科学问题》等章构成。

白皮书的第一部分分析了人工智能的根本科学问题,揭示了人工智能科学是人类科学技术发展的必然结果,分析了人工智能科学是现有科学体系所不足于支撑的重大科学问题;第二、第三和第四部分主要是基于分而治之这一物理世界分析方法科学体系的人工智能原理;第五部分是李昂生创建的层谱抽象认知模型这一信息世界科学范式的数学原理及基于这个新科学原理的人工智能原理。

本白皮书第五部分揭示了信息是建立智能科学的钥匙;揭示了层谱抽象是人认知世界、感知认知自我的模型与方法;揭示了信息世界的层谱抽象认知模型、原理与方法;揭示了层谱抽象认知模型与分而治之分析方法结合是建立人工智能科学的总方法,这一总方法恰好就是 2500 多年以前,孙子兵法的核心科学思想:谋算,谋就是层谱抽象,算就是分而治之;揭示并建立了人工智能的数学实质

与基本科学原理;提出人工智能的智能论断 (Intelligence

Thesis):智能=信息;揭示了层谱抽象认知模型与分而治之分析方法构成了信息时代的科学双引擎。

目 录

目 录 5

第一部分 1

人工智能总论 1

1 章 人工智能总论 2

1.1 人工智能的科学思想起源 2

1.2 人工智能的数理逻辑原理 5

1.3 人工智能的计算原理 7

1.4 图灵对机器智能的研究 9

1.5 人工智能研究的兴起 11

1.6 符号主义人工智能 11

1.7 连接主义人工智能 12

1.8 行为主义人工智能 14

1.9 人工智能的数学、物理挑战 15

1.10 人工智能的重大科学挑战 15

1.10.1 数学、物理对象的可分性 15

1.10.2 信息世界对象的不可分性 16

1.10.3 信息世界对象的可定义性问题 17

1.10.4 人学习的基本问题 17

1.10.5 自我意识的基本问题 18

1.10.6 博弈/谋算的基本科学问题 18

1.10.7 本节小结 19

1.11 信息科学重大挑战性问题 19

1.11.1 经典信息论 19

1.11.2 生成策略 21

1.11.3 解码策略 23

1.11.4 信息的模型 24

1.11.5 信息基本定律 25

1.11.6 信息科学是什么? 25

1.11.7 信息的数学理论是什么? 26

1.12 信息科学原理 26

1.13 本章小结 27

第二部分 29

逻辑推理人工智能与计算人工智能 29

2 章 符号主义人工智能 30

2.1 命题知识表示与推理 30

2.1.1 命题逻辑 31

2.1.2 命题推理问题 33

2.1.3 命题可满足性求解方法 34

2.1.4 模型计数 35

2.1.5 知识编译 37

2.2 自动定理证明 38

2.2.1 自动定理证明的起源、发展与现状 38

2.2.2 Herbrand 定理 41

2.2.3 合一与匹配 43

2.2.4 归结原理 44

2.2.5 归结原理的改进策略 46

2.2.6 等词推理 48

2.2.7 几何定理证明和数学机械化 50

2.2.8 定理证明器竞赛和著名定理证明器 51

2.3 约束可满足性求解 52

2.4 基于模型的诊断 56

2.4.1 MBD 问题 57

2.4.2 国内外总体研究现状 58

2.5 神经符号系统 59

2.5.1 神经符号系统的背景 59

2.5.2 神经符号系统研究现状 61

2.5.3 神经符号系统的挑战及未来研究方向 64

3 章 大数据算法与可信计算理论 67

3.1 大数据算法计算模型 67

3.1.1 亚线性时间算法 68

3.1.2 亚线性空间算法 69

3.1.3 动态图算法 70

3.1.4 大规模并行计算 70

3.1.5 数据降维 71

3.2 满足可信需求的算法 71

3.2.1 鲁棒性 71

3.2.2 公平公正 73

3.2.3 隐私保护 73

4 章 难解问题的智能算法 75

4.1 难解问题图学习方法求解 78

4.1.1 路径规划问题 81

4.1.2 最大割问题 84

4.1.3 作业调度问题 85

4.1.4 其他难解问题 86

4.2 难解问题强化学习求解 87

4.2.1 基于无模型的强化学习方法 88

4.2.2 基于有模型的强化学习方法 92

4.3 总结与展望 94

第三部分 98

神经网络人工智能与生物人工智能 98

5 章 神经网络的数学原理 99

5.1 神经网络的背景及意义 99

5.1.1 神经网络的发展历史 99

5.1.2 神经网络对人工智能发展的作用 100

5.1.3 神经网络给人工智能带来的挑战 101

5.2 神经网络的数学原理的内涵 102

5.2.1 研究意义 102

5.2.2 分析视角 103

5.2.3 基本框架 104

5.2.4 研究趋势 106

5.3 神经网络的传统理论 106

5.3.1 表达能力 107

5.3.2 泛化能力 107

5.3.3 优化能力 107

5.4 前沿发展 108

5.4.1 对自适应优化器的分析 108

5.4.2 基于神经网络结构的优化分析 108

5.4.3 优化器的隐式正则分析 108

5.4.4 神经网络的精确泛化估计 109

5.4.5 表示所需参数量下界 109

5.5 未来展望 109

5.5.1 设计适用不同场景的安全性度量 109

5.5.2 构建以安全为中心的神经网络理论 110

5.5.3 发展可信可控的神经网络模型 110

6 章 神经网络的计算原理 111

6.1 经典神经网络的计算原理 112

6.1.1 表示学习 112

6.1.2 前馈神经网络 116

6.1.3 神经网络训练 119

6.2 面向序列数据的神经网络 123

6.2.1 循环神经网络RNN 124

6.2.2 转换器 Transformer 127

6.2.3 时序卷积神经网络 TCN 132

6.3 图神经网络 134

6.3.1 图表示学习 135

6.3.2 图神经网络的基础原理 137

6.3.3 图神经网络前沿 139

第四部分 158

数学人工智能与物理人工智能 158

7 章 人工智能的博弈理论 159

7.1 均衡计算 160

7.1.1 纳什均衡 160

7.1.2 纳什均衡的存在性 162

7.1.3 纳什均衡的计算 165

7.1.4 纳什均衡的计算复杂性 170

7.2 人工智能中的合作博弈 174

7.2.1 合作博弈 175

7.2.2 合作博弈的表示和算法 180

7.2.3 合作博弈在多智能体系统中的应用 182

7.2.4 结论 184

7.3 公平分配 184

7.3.1 引言 185

7.3.2 模型定义 186

7.3.3 公平性 187

7.3.4 可分割物品的公平分配 191

7.3.5 不可分物品的公平分配 193

7.3.6 其他研究 195

7.4 适当评分规则(Proper Scoring Rule196

7.4.1 适当评分规则的起源 198

7.4.2 适当评分规则种类 198

7.4.3 适当评分规则的应用 204

7.4.4 总结 206

7.5 社会选择与投票 206

7.5.1 经典投票规则 207

7.5.2 社会选择中的经典结论 211

7.5.3 总结 214

7.6 重复拍卖 215

7.6.1 动态定价问题 215

7.6.2 上下文动态定价问题 218

7.6.3 重复拍卖中的均衡分析问题 221

7.6.4 总结 222

7.7 小结 222

8 章 量子人工智能 224

8.1 概述 224

8.2 量子学习方法介绍 224

8.2.1 HHL 算法 224

8.2.2 量子奇异值变换 228

8.3 量子吉布斯采样 231

8.2.4 变分量子电路 234

8.3 量子学习应用场景 240

8.3.1 传统机器学习问题的量子化 240

8.3.2 量子无监督学习 247

8.3.3 量子有监督学习 253

8.3.4 量子强化学习 259

8.3.5 量子层析 266

8.3.6 其它量子学习算法 267

第五部分 272

信息主义人工智能: 272

层谱抽象认知模型人工智能 272

9 章 信息定律与信息模型 273

9.1 信息科学的研究对象 273

9.2 物理世界对象基本定律(Fundamental Law of Physical Objects

.........................................................................................................273

9.3 信息性质/知识的定义 274

9.4 现实世界对象的物理性质与信息性质 275

9.5 策略 276

9.6 信息的模型 277

9.7 学习的数学实质 278

9.8 知识是信息在某一个模型下的解释 279

9.9 抽象 279

9.10 层谱抽象 281

9.11 科学范式定律 283

9.12 个体定律 284

9.13 信息定律 285

9.14 运动定律 287

9.15 竞争定律 287

9.16 认知模型定律 288

9.17 观察定律 289

9.18 知识表示定律 290

9.19 知识定律 291

9.20 规律的定义 292

9.21 创造策略 292

9.22 学习的可解释性原理 293

9.23 自我意识定律 293

9.24 系统定律 293

9.25 本章总结 294

10 章 信息演算理论 296

10.1 信息系统的数学表示 296

10.2 一维结构熵 299

10.3 信息系统的编码树 299

10.4 在一个层谱抽象策略下的结构熵 300

10.5 信息系统的结构熵 301

10.6 结构熵极小化原理 302

10.7 解码信息 303

10.8 层谱抽象策略的压缩信息 304

10.9 压缩/解码原理 304

10.10 层谱抽象解码原理 305

10.11 层谱抽象可定义性 306

10.12 层谱抽象 307

10.13 基于结构熵的推理演算 308

10.14 基于解码信息的推理 310

10.15 推理的数学理论 311

10.16 信息生成原理 312

10.17 解码信息原理 313

10.18 本章总结 314

11 章 (观察)学习的数学理论 316

11.1 先验认知模型 317

11.2 观察的数学实质 317

11.3 学习的数学定义 319

11.4 人的先验分析方法 320

11.5 学习的主体与客体 321

11.6 学习的目的、目标 321

11.7 知识的定义 321

11.8 规律的定义 322

11.9 学习过程表示:层谱抽象 322

11.11 学习的数学模型 324

11.11 创造策略的理解与实现 326

11.12 局部观察学习 328

11.13 全局观察学习 330

11.14 学习模型中的生成策略与生成原理 331

11.15 学习模型中的解码策略与解码原理 331

11.16 知识树 331

11.17 知识的一致性准则 332

11.18 知识的度量 333

11.19 知识演算推理 334

11.20 学习的极限 337

11.21 学习的数学理论总结 338

12 章 自我意识的数学理论 341

12.1 自我意识体的先验感知模型 343

12.2 自我意识体的可定义性 345

12.3 自我意识体五维认知 347

12.4 自我意识的数学实质 349

12.5 生命定律 350

12.6 自我意识体的基本性质 352

12.7 自我意识论断 353

12.8 领土/领地意识 353

12.9 自我意识学习 354

12.10 自我意识体的层谱抽象认知 355

12.11 自我意识体的认知熵 356

12.12 自我意识体的认知信息 357

12.13 自我意识体的内结构熵 358

12.14 自我意识体的外结构熵 358

12.15 自我意识体的外解码信息 359

12.16 自我意识体的层谱抽象感知 359

12.17 自我意识理论总结 361

13 章 博弈/谋算理论 363

13.1 博弈的基本定义 363

13.2 竞争定律 365

13.3 现实世界博弈的可能结局 366

13.4 博弈的系统原理 368

13.5 现实世界博弈的基本规律 369

13.6 孙子模型 369

13.7 孙子兵法的核心科学思想:谋算 372

13.8 博弈中的学习 375

13.9 博弈中的自我意识学习 378

13.10 力量的系统生成原理 379

13.11 威胁度量 380

13.12 必胜策略原理 382

13.13 博弈策略的信息科学原理 383

13.14 博弈策略的数理原理 384

13.15 博弈设计原理 385

13.16 博弈的收益原理 386

13.17 博弈系统中玩家的定义 388

13.18 博弈中学习与自我意识学习的正确性与可解释性 389

13.19 博弈结局的层谱抽象定义 391

13.20 博弈获胜的主客观一致性准则 394

13.21 博弈中的谋算策略 396

13.22 博弈/谋算理论总结 398

14 章 人工智能的信息模型 399

14.1 智能的定义(非形式化) 399

14.2 人类智能模型 400

14.3 人类智能的信息科学原理 402

14.4 人工智能的科学原理 402

14.5 人工智能模型 403

14.6 智能的数学定义:智能论题 404

15 章 信息时代科学双引擎与信息时代重大科学问题 406

15.1 数学中的三个基本问题 407

15.2 物理中的两个基本问题 408

15.3 生命科学的三个基本问题 409

15.4 信息时代的科学双引擎 410

参考文献 412

1 符号主义人工智能:第 2 章参考文献 412

2 难解问题的智能算法:第 4 章参考文献 433

3 神经网络的计算原理:第 6 章参考文献 448

4 人工智能的博弈理论:第 7 章参考文献 459

7.1 节参考文献 459

7.2 节参考文献 460

7.3 节参考文献 464

7.4 节参考文献 467

7.5 节参考文献 468

7.6 节参考文献 470

5 量子人工智能:第 8 章参考文献 472

6 人工智能的信息科学原理:第 1 章、第9-15 章参考文献 491