【考纲内容】

算法时间复杂度和空间复杂度的分析与计算

【知识框架】

第1章  绪论 - 图1

1.1 数据结构的基本概念

1.1.1 基本概念和术语

  • 数据
    • 数据是信息的载体,是描述客观事物属性的数、字符及所有能输入到计算机中并被计算机程序识别和处理的符号的集合。数据是计算机程序加工的原料。
  • 数据元素
    • 数据元素是数据的基本单位,通常作为一个整体进行考虑和处理。一个数据元素可由若干数据项组成,数据项是构成数据元素的不可分割的最小单位。
  • 数据对象
    • 数据对象是具有相同性质的数据元素的集合,是数据的一个子集。
  • 数据类型
    • 数据类型是一个值的集合和定义在此集合上的一组操作的总称。
      • 原子类型:其值不可再分的数据类型。
      • 结构类型:其值可以再分解为若干成分(分量)的数据类型。
      • 抽象数据类型:抽象数据组织及与之相关的操作。
  • 数据结构
    • 数据结构是相互之间存在一种或多种特定关系的数据元素的集合。在任何问题中,数据元素都不是孤立存在的,它们之间存在某种关系,这种数据元素相互之间的关系称为结构(Structure)。数据结构包含三方面的内容:逻辑结构、存储结构和数据的运算。
    • 数据的逻辑结构和存储结构是密不可分的两个方面,一个算法的设计取决于所选定的逻辑结构,而算法的实现依赖于所采用的存储结构。

      1.1.2 数据结构三要素

  1. 数据的逻辑结构

逻辑结构是指数据元素之间的逻辑关系,即从逻辑关系上描述数据。它与数据的存储无关,是独立于计算机的。数据的逻辑结构分为线性结构和非线性结构,线性表是典型的线性结构;集合、树、图是典型的非线性结构。数据的逻辑结构分类如下图所示
第1章  绪论 - 图2
集合:结构中的数据元素之间除”同属一个集合“外,别无其他关系
线性结构:结构中的数据元素之间只存在一对一的关系
树形结构:结构中的数据元素之间存在一对多的关系
图状结构或网状结构:结构中的数据元素之间存在多对多的关系
第1章  绪论 - 图3

  1. 数据的存储结构

存储结构是指数据结构在计算机中的表示(又称映像),也称物理结构。它包括数据元素的表示和关系的表示。数据的存储结构是用计算机语言实现的逻辑结构,它依赖于计算机语言。数据的存储结构主要有顺序存储、链式存储、索引存储和散列存储。
1)顺序存储
把逻辑上相邻的元素存储在物理位置也相邻的存储单元中,元素之间的关系由存储单元的邻接关系来体现。其优点是可以实现随机存取,每个元素占用最少的存储空间;缺点是只能使用相邻的一整块存储单元,因此可能产生较多的外部碎片。
2)链式存储
不要求逻辑上相邻的元素在物理位置上也相邻,借助知识元素存储地址的指针来表示元素之间的逻辑关系。其优点是不会出现碎片现象,能充分利用所有存储单元;缺点是每个元素因存储指针而占用额外的存储空间,且只能实现顺序存取。
3)索引存储
在存储元素信息的同时,还建立附加的索引表。索引表中的每项称为索引项,索引项的一般形式是(关键字,地址)。其优点是检索速度快;缺点是附加的索引表额外占用存储空间。另外,增加和删除数据时也要修改索引表,因而会花费较多的时间。
4)散列存储
根据元素的关键字直接计算出该元素的存储地址,又称哈希(Hash)存储。其优点是检索、增加和删除结点的操作都很快;缺点是若散列函数不好,则可能出现元素存储单元的冲突,而解决冲突会增加时间和空间开销。

  1. 数据的运算

施加在数据上的运算包括运算的定义和实现。运算的定义是针对逻辑结构的,指出运算的功能;运算的实现是针对存储结构的,指出运算的具体操作步骤。

1.2 算法和算法评价

1.2.1 算法的基本概念

算法(Algorithm)是对特定问题求解步骤的一种描述,它是指令的有限序列,其中的每条指令表示一个或多个操作。此外,一个算法还具有下列5个重要特性:

  1. 有穷性:一个算法必须总在执行有穷步之后结束,且每一步都可在有穷时间内完成。
  2. 确定性:算法中每条指令必须有确切的含义,对于相同的输入只能得出相同的输出。
  3. 可行性:算法中描述的操作都可以通过已经实现的基本运算执行有限次来实现。
  4. 输入:一个算法有零个或多个输入,这些输入取自于某个特定对象的集合。
  5. 输出:一个算法有一个或多个输出,这些输出是与输入有着某种特定关系的量。

通常,设计一个”好“的算法应考虑达到以下目标:

  1. 1. **正确性**:算法应能够正确地解决求解问题。
  2. 1. **可读性**:算法应具有良好的可读性,以帮助人们理解。
  3. 1. **健壮性**:输入非法数据时,算法能适当地做出反应或进行处理,而不会产生莫名其妙的输出结果。
  4. 1. **效率与低存储量需求**:效率是指算法执行的时间,存储量需求是指算法执行过程中所需要的最大存储空间,这两者都与问题的规模有关。

1.2.2 算法效率的度量

算法效率的度量是通过时间复杂度和空间复杂度来描述的。

  1. 时间复杂度

一个语句的频度是指该语句在算法中被重复执行的次数。算法中所有语句的频度之和记为第1章  绪论 - 图4,它是该算法问题规模第1章  绪论 - 图5的函数,时间复杂度主要分析第1章  绪论 - 图6的数量级。算法中基本运算(最深层循环内的语句)的频度与第1章  绪论 - 图7同数量级,因此通常采用算法中基本运算的频度第1章  绪论 - 图8来分析算法的时间复杂度。因此,算法的时间复杂度记为T(n) = O(f(n))
第1章  绪论 - 图9
式中,第1章  绪论 - 图10的含义是第1章  绪论 - 图11的数量级,其严格的数学定义是:若第1章  绪论 - 图12第1章  绪论 - 图13是定义在正整数集合上的两个函数,则存在正常数第1章  绪论 - 图14第1章  绪论 - 图15,使得当第1章  绪论 - 图16时,都满足第1章  绪论 - 图17
算法的时间复杂度不仅依赖于问题的规模第1章  绪论 - 图18,也取决于待输入数据的性质(如输入数据元素的初始状态)。例如,在数组第1章  绪论 - 图19中,查找给定值第1章  绪论 - 图20的算法大致如下:

  1. i = n-1;
  2. while (i>=0 && (A[i]!=k))
  3. i--;
  4. return i;

该算法中语句 3(基本运算)的频度不仅与问题规模第1章  绪论 - 图21有关,而且与输入实例中第1章  绪论 - 图22中的各元素的取值及第1章  绪论 - 图23的取值有关:

  1. 第1章  绪论 - 图24中没有与第1章  绪论 - 图25相等的元素,则语句3的频度第1章  绪论 - 图26
  2. 第1章  绪论 - 图27的最后一个元素等于第1章  绪论 - 图28,则语句3的频度第1章  绪论 - 图29是常数第1章  绪论 - 图30

最坏时间复杂度:指在最坏情况下,算法的时间复杂度。
平均时间复杂度:指所有可能输入实例在等概率出现的情况下,算法的期望运行时间。
最好时间复杂度:指在最好情况下,算法的时间复杂度。
一般宗师考虑在最坏情况下的时间复杂度,以保证算法的运行时间不会比它更长。
在分析一个程序的时间复杂性时,有以下两条规则:

  1. 加法规则

第1章  绪论 - 图31

  1. 乘法规则

第1章  绪论 - 图32
常见的渐近时间复杂度为
第1章  绪论 - 图33

  1. 空间复杂度

算法的空间复杂度第1章  绪论 - 图34定义为该算法所耗费的存储空间,它是问题规模第1章  绪论 - 图35的函数。记为
第1章  绪论 - 图36
一个程序在执行时除需要存储空间来存放本身所用的指令、常数、变量和输入数据外,还需要一些对数据进行操作的工作单元和存储一些为实现计算所需信息的辅助空间。若输入数据所占空间只取决于问题本身,和算法无关,则只需分析除输入和程序之外的额外空间。
算法原地工作是指算法所需的辅助空间为常量,即第1章  绪论 - 图37