一、排序的定义
对一序列对象根据某个关键字进行排序。
二、术语说明
- 稳定:如果a原本在b前面,而a=b,排序之后a仍然在b的前面;
- 不稳定:如果a原本在b的前面,而a=b,排序之后a可能会出现在b的后面;
- 内排序:所有排序操作都在内存中完成;
- 外排序:由于数据太大,因此把数据放在磁盘中,而排序通过磁盘和内存的数据传输才能进行;
- 时间复杂度: 一个算法执行所耗费的时间。
- 空间复杂度:运行完一个程序所需内存的大小。
三、算法总结图
图片名词解释:
- n: 数据规模
- k: “桶”的个数
- In-place: 占用常数内存,不占用额外内存
- Out-place: 占用额外内存
四、算法比较
比较排序
- 常见的快速排序、归并排序、堆排序、冒泡排序等属于比较排序。在排序的最终结果里,元素之间的次序依赖于它们之间的比较。每个数都必须和其他数进行比较,才能确定自己的位置。
- 在冒泡排序之类的排序中,问题规模为n,又因为需要比较n次,所以平均时间复杂度为O(n²)。在归并排序、快速排序之类的排序中,问题规模通过分治法消减为logN次,所以时间复杂度平均O(nlogn)。
- 比较排序的优势是,适用于各种规模的数据,也不在乎数据的分布,都能进行排序。可以说,比较排序适用于一切需要排序的情况。
非比较排序
- 计数排序、基数排序、桶排序则属于非比较排序。非比较排序是通过确定每个元素之前,应该有多少个元素来排序。针对数组arr,计算arr[i]之前有多少个元素,则唯一确定了arr[i]在排序后数组中的位置。
- 非比较排序只要确定每个元素之前的已有的元素个数即可,所有一次遍历即可解决。算法时间复杂度O(n)。
- 非比较排序时间复杂度底,但由于非比较排序需要占用空间来确定唯一位置。所以对数据规模和数据分布有一定的要求。
五、具体算法详解
1.冒泡排序(Bubble Sort)
冒泡排序是一种简单的排序算法。它重复地走访过要排序的数列,一次比较两个元素,如果它们的顺序错误就把它们交换过来。走访数列的工作是重复地进行直到没有再需要交换,也就是说该数列已经排序完成。这个算法的名字由来是因为越小的元素会经由交换慢慢“浮”到数列的顶端。
1.1 算法描述
- 比较相邻的元素。如果第一个比第二个大,就交换它们两个;
- 对每一对相邻元素作同样的工作,从开始第一对到结尾的最后一对,这样在最后的元素应该会是最大的数;
- 针对所有的元素重复以上的步骤,除了最后一个;
- 重复步骤1~3,直到排序完成。
1.2 动图演示
1.3 代码实现
/**
* 冒泡排序
* @param array
*/
public static void bubbleSort(int[] array) {
if (array.length==0){
return;
}
for (int i = 0; i < array.length - 1; i++) { //最多交换length-1次
for (int j = 0; j < array.length-1-i; j++) { //后i个元素已经排好序,-1防止 j+1 越界访问
if (array[j]>array[j+1]){
int temp = array[j];
array[j] =array[j+1];
array[j+1] =temp;
}
}
}
}
1.4 算法分析
最佳情况:T(n) = O(n) 最差情况:T(n) = O(n2) 平均情况:T(n) = O(n2)
2.选择排序(Selection Sort)
表现最稳定的排序算法之一,因为无论什么数据进去都是O(n2)的时间复杂度,所以用到它的时候,数据规模越小越好。理论上讲,选择排序可能也是平时排序一般人想到的最多的排序方法了吧。
选择排序(Selection-sort)是一种简单直观的排序算法。它的工作原理:首先在未排序序列中找到最小(大)元素,存放到排序序列的起始位置,然后,再从剩余未排序元素中继续寻找最小(大)元素,然后放到已排序序列的末尾。以此类推,直到所有元素均排序完毕。
2.1 算法描述
n个记录的直接选择排序可经过n-1趟直接选择排序得到有序结果。具体算法描述如下:
- 初始状态:无序区为R[1..n],有序区为空;
- 第i趟排序(i=1,2,3…n-1)开始时,当前有序区和无序区分别为R[1..i-1]和R(i..n)。该趟排序从当前无序区中-选出关键字最小的记录 R[k],将它与无序区的第1个记录R交换,使R[1..i]和R[i+1..n)分别变为记录个数增加1个的新有序区和记录个数减少1个的新无序区;
- n-1趟结束,数组有序化了。
2.2 动图演示
2.3 代码实现
/**
* 选择排序
* @param array
*/
public static void selectionSort(int[] array) {
if (array.length == 0)
return;
for (int i = 0; i < array.length-1; i++) { //选择未排序中最小的,放在索引=i处
int minIndex = i;
for (int j = i; j < array.length; j++) { //j在未排序数组中遍历,寻找最小索引
if (array[j]<array[minIndex]){
minIndex=j;
}
}
//交换
int temp = array[minIndex];
array[minIndex] = array[i];
array[i] = temp ;
}
}
2.4 算法分析
最佳情况:T(n) = O(n2) 最差情况:T(n) = O(n2) 平均情况:T(n) = O(n2)
3.插入排序(Insertion Sort)
插入排序(Insertion-Sort)的算法描述是一种简单直观的排序算法。它的工作原理是通过构建有序序列,对于未排序数据,在已排序序列中从后向前扫描,找到相应位置并插入。插入排序在实现上,通常采用in-place排序(即只需用到O(1)的额外空间的排序),因而在从后向前扫描过程中,需要反复把已排序元素逐步向后挪位,为最新元素提供插入空间。
3.1 算法描述
一般来说,插入排序都采用in-place在数组上实现。具体算法描述如下:
- 从第一个元素开始,该元素可以认为已经被排序;
- 取出下一个元素,在已经排序的元素序列中从后向前扫描;
- 如果该元素(已排序)大于新元素,将该元素移到下一位置;
- 重复步骤3,直到找到已排序的元素小于或者等于新元素的位置;
- 将新元素插入到该位置后;
- 重复步骤2~5。
3.2 动图演示
3.2 代码实现
/**
* 插入排序
* @param array
*/
public static void insertionSort(int[] array) {
if (array.length==0){
return;
}
int current;
for (int i = 0; i < array.length - 1; i++){
current = array[i+1]; //从第二个数开始向前插入
int insertIndex = i;
while (insertIndex >= 0 && array[insertIndex]>current){
array[insertIndex+1] = array[insertIndex];
insertIndex--;
}
array[insertIndex+1] = current;
}
}
4.希尔排序(Shell Sort)
希尔排序是希尔(Donald Shell)于1959年提出的一种排序算法。希尔排序也是一种插入排序,它是简单插入排序经过改进之后的一个更高效的版本,也称为缩小增量排序,同时该算法是冲破O(n2)的第一批算法之一。它与插入排序的不同之处在于,它会优先比较距离较远的元素。希尔排序又叫缩小增量排序。
希尔排序是把数按一定的增量分组,对每组使用直接插入排序算法排序;随着增量逐渐减少,每组包含的数字越来越多,当增量减至1时,整个文件恰被分成一组,算法便终止。
4.1 算法描述
我们来看下希尔排序的基本步骤,在此我们选择增量gap=length/2,缩小增量继续以gap = gap/2的方式,这种增量选择我们可以用一个序列来表示,{n/2,(n/2)/2…1},称为增量序列。希尔排序的增量序列的选择与证明是个数学难题,我们选择的这个增量序列是比较常用的,也是希尔建议的增量,称为希尔增量,但其实这个增量序列不是最优的。此处我们做示例使用希尔增量。
先将整个待排序的记录序列分割成为若干子序列分别进行直接插入排序,具体算法描述:
- 选择一个增量序列t1,t2,…,tk,其中ti>tj,tk=1;
- 按增量序列个数k,对序列进行k 趟排序;
- 每趟排序,根据对应的增量ti,将待排序列分割成若干长度为m 的子序列,分别对各子表进行直接插入排序。仅增量因子为1 时,整个序列作为一个表来处理,表长度即为整个序列的长度。
4.2 过程演示
4.3 代码实现
/**
* 希尔排序
* 按增量将整个序列划分为子序列,每个子序列有序
* @param array
*/
public static void shellSort(int[] array) {
if (array.length==0){
return;
}
int gap = array.length/2 ;
while (gap > 0){ //为了使每个子序列有序,对每个子序列进行直接插入排序
for (int i = gap; i < array.length; i++) { //插入排序:从每个子序列的第二个数开始 向前插入
int temp = array[i] ;
int preIndex = i -gap;
while(preIndex >= 0 && array[preIndex] > temp){
array[preIndex + gap] = array[preIndex];
preIndex -= gap;
}
array[preIndex + gap] = temp;
}
gap /= 2;
}
}
4.4 算法分析
最佳情况:T(n) = O(nlog2 n) 最坏情况:T(n) = O(nlog2 n) 平均情况:T(n) =O(nlog2n)
5.归并排序(Merge Sort)
和选择排序一样,归并排序的性能不受输入数据的影响,但表现比选择排序好的多,因为始终都是O(n log n)的时间复杂度。代价是需要额外的内存空间。
归并排序是建立在归并操作上的一种有效的排序算法。该算法是采用分治法(Divide and Conquer)的一个非常典型的应用。归并排序是一种稳定的排序方法。将已有序的子序列合并,得到完全有序的序列;即先使每个子序列有序,再使子序列段间有序。若将两个有序表合并成一个有序表,称为2-路归并。
5.1 算法描述
- 把长度为n的输入序列分成两个长度为n/2的子序列;
- 对这两个子序列分别采用归并排序;
- 将两个排序好的子序列合并成一个最终的排序序列。
5.2 动图演示
5.3 代码实现
/**
* 归并排序
* 传入一个数组,
* 长度为1,有序了返回
* 长度大于1,分两半,分别对齐进行归并排序,在合并两个数组
* @param array
*/
public static int[] mergeSort(int[] array){
if (array.length==1) return array;
int mid = array.length/2;
// 递归mergeSort copyOfRange:左开右闭
int[] left = Arrays.copyOfRange(array,0,mid);
int[] right = Arrays.copyOfRange(array,mid,array.length);
return merge(mergeSort(left),mergeSort(right));
}
/**
* 归并排序组件——将两段排序好的数组结合成一个排序数组
* @param left
* @param right
* @return
*/
public static int[] merge(int[] left, int[] right) {
int[] result = new int[left.length + right.length];
int i=0,j=0,index=0;
while (index < result.length && i<left.length && j<right.length){
if (left[i] > right[j]){
result[index++] = right[j++];
}else {
result[index++] = left[i++];
}
}
while (i<left.length){
result[index++] = left[i++];
}
while (j<right.length){
result[index++] = right[j++];
}
return result;
}
5. 4 算法分析
最佳情况:T(n) = O(n) 最差情况:T(n) = O(nlogn) 平均情况:T(n) = O(nlogn)
6.快速排序(Quick Sort)
快速排序的基本思想:通过一趟排序将待排记录分隔成独立的两部分,其中一部分记录的数字均比另一部分的关键字小,则可分别对这两部分记录继续进行排序,以达到整个序列有序。
6.1 算法描述
快速排序使用分治法来把一个串(list)分为两个子串(sub-lists)。具体算法描述如下:
- 从数列中挑出一个元素,称为 “基准”(pivot);
- 重新排序数列,所有元素比基准值小的摆放在基准前面,所有元素比基准值大的摆在基准的后面(相同的数可以到任一边)。在此轮排序之后,该基准就处于数列的中间位置。这个称为分区(partition)操作;
- 递归地(recursive)把小于基准值元素的子数列和大于基准值元素的子数列排序。
6.2 动图演示
6.3 代码实现
/**
* 快速排序 : 对数组array中的 start - end 区间进行快速排序
* @param array
*/
public static void quickSort(int[] array,int start,int end) {
//递归出口
if(array.length < 2 || start<0 || end >=array.length || start>=end) return;
// 以第一个数为基准点 , 对 start+1 - end 进行分区
int pivotIndex = start;
//双指针法
int smallIndex = start + 1;
for (int i = start + 1; i <= end; i++) {
if (array[i] <= array[pivotIndex]){
swap(array,i,smallIndex++);
}
}
//交换 基准点和中点数的位置
swap(array,pivotIndex,--smallIndex);
//快排子区间
quickSort(array,start,smallIndex-1);
quickSort(array,smallIndex+1,end);
}
/**
* 交换数组中两个数的位置
* @param array
* @param i
* @param j
*/
public static void swap(int[] array,int i, int j){
int temp = array[i];
array[i] = array[j];
array[j] = temp;
}
6.4 算法分析
最佳情况:T(n) = O(nlogn) 最差情况:T(n) = O(n2) 平均情况:T(n) = O(nlogn)
7.堆排序(Heap Sort)
堆排序(Heap sort)是指利用堆这种数据结构所设计的一种排序算法。堆积是一个近似完全二叉树的结构,并同时满足堆积的性质:即子结点的值总是小于(或者大于)它的父节点。
7.1 算法描述
- 将初始待排序序列(R1,R2….Rn)构建成大顶堆,此堆为初始的无序区;
- 将堆顶元素R[1]与最后一个元素R[n]交换,此时得到新的无序区(R1,R2,……Rn-1)和新的有序区(Rn),且满足R[1,2…n-1]<=R[n];
- 由于交换后新的堆顶R[1]可能违反堆的性质,因此需要对当前无序区(R1,R2,……Rn-1)调整为新堆,然后再次将R[1]与无序区最后一个元素交换,得到新的无序区(R1,R2….Rn-2)和新的有序区(Rn-1,Rn)。不断重复此过程直到有序区的元素个数为n-1,则整个排序过程完成。
7.2 动图演示
7.3 代码实现
/**
* 堆排序
* @param array
*/
public static void heapSort(int[] array) {
if (array.length==0){
return;
}
//建立初始堆
for (int i = array.length/2 -1; i >= 0; i--) { //遍历从第一个非叶子节点开始,向前遍历调整
adjustHeap(array,i,array.length);
}
//由后向前,交换排序
for (int j = array.length - 1; j > 0; j--) {
//先交换
swap(array,0,j);
//在调整堆
adjustHeap(array,0,j);
}
}
/**
* 调整当前节点current到合适位置
* @param array 待排序堆
* @param length 堆节点数量
* @param current 当前待排序节点
*/
public static void adjustHeap(int[] array,int current, int length){
//先取出当前头节点元素current
int temp = array[current];
// temp每次与两个子节点中比较大的那个比较,若比它小则交换位置
for (int k = 2*current + 1; k < length; k=2*k + 1) { // 每次刚进入循环,current指向待排序节点,k指向其左孩子节点
if(k+1<length && array[k+1]>array[k]){ //k指向两个子节点中较大的那个
k++;
}
if(array[k]>temp){//子节点大于父节点,将子节点赋值给父节点
array[current] = array[k]; //如果子节点大于父节点,将子节点值赋给父节点,不必每次都真的交换
current=k;
}else{ //两个子节点都比当前节点小,说明位置已经找到
break;
}
}
array[current] = temp;
}
//交换数组中两个元素
public static void swap(int[] arr, int i, int j) {
int temp = arr[i];
arr[i] = arr[j];
arr[j] = temp;
}
7.4 算法分析
最佳情况:T(n) = O(nlogn) 最差情况:T(n) = O(nlogn) 平均情况:T(n) = O(nlogn)
8.计数排序(Counting Sort)
计数排序的核心在于将输入的数据值转化为键存储在额外开辟的数组空间中。作为一种线性时间复杂度的排序,计数排序要求输入的数据必须是有确定范围的整数。
计数排序(Counting sort)是一种稳定的排序算法。计数排序使用一个额外的数组C,其中第i个元素是待排序数组A中值等于i的元素的个数。然后根据数组C来将A中的元素排到正确的位置。它只能对整数进行排序。
8.1 算法描述
- 找出待排序的数组中最大和最小的元素;
- 统计数组中每个值为i的元素出现的次数,存入数组C的第i项;
- 对所有的计数累加(从C中的第一个元素开始,每一项和前一项相加);
- 反向填充目标数组:将每个元素i放在新数组的第C(i)项,每放一个元素就将C(i)减去1。
8.2 动图演示
8.3 代码实现
/**
* 计数排序
* 序号为i的桶中 存的是数组中值为 i+min 的数量
* @param array
* @return
*/
public static int[] CountingSort(int[] array) {
if (array.length == 0) return array;
int min = array[0], max = array[0];
for (int i = 1; i < array.length; i++) {
if (array[i] > max)
max = array[i];
if (array[i] < min)
min = array[i];
}
int[] bucket = new int[max - min + 1];
for (int i = 0; i < array.length; i++) { //按值入桶
bucket[array[i]-min]++;
}
int index = 0, i = 0;
while (index < array.length) {
if (bucket[i] != 0) { //桶中数量不为0,赋值
array[index] = i + min;
bucket[i]--;
index++;
} else{
i++;
}
}
return array;
}
8.4 算法分析
当输入的元素是n 个0到k之间的整数时,它的运行时间是 O(n +k)。计数排序不是比较排序,排序的速度快于任何比较排序算法。由于用来计数的数组C的长度取决于待排序数组中数据的范围(等于待排序数组的最大值与最小值的差加上1),这使得计数排序对于数据范围很大的数组,需要大量时间和内存。
最佳情况:T(n) = O(n+k) 最差情况:T(n) = O(n+k) 平均情况:T(n) = O(n+k)
9.桶排序(Bucket Sort)
桶排序是计数排序的升级版。它利用了函数的映射关系,高效与否的关键就在于这个映射函数的确定。
桶排序 (Bucket sort)的工作的原理:假设输入数据服从均匀分布,将数据分到有限数量的桶里,每个桶再分别排序(有可能再使用别的排序算法或是以递归方式继续使用桶排序进行排序号)
9.1 算法描述
- 人为设置一个BucketSize,作为每个桶所能放置多少个不同数值(例如当BucketSize==5时,该桶可以存放{1,2,3,4,5}这几种数字,但是容量不限,即可以存放100个3);
- 遍历输入数据,并且把数据一个一个放到对应的桶里去;
- 对每个不是空的桶进行排序,可以使用其它排序方法,也可以递归使用桶排序;
- 从不是空的桶里把排好序的数据拼接起来。
9.2 图片演示
/**
* 桶排序 (计数排序实际上就是 bucketSize为1的桶排序)
* @param list
* @param bucketSize 每个桶容纳的数值范围
*/
public static ArrayList<Integer> bucketSort(ArrayList<Integer> list,int bucketSize) {
if (list.size()<2){
return list;
}
int min = list.get(0);
int max = list.get(0);
for (int i = 0; i < list.size(); i++) {
max = max>list.get(i) ? max : list.get(i);
min = min<list.get(i) ? min : list.get(i);
}
// 需要的桶数量 bucketCount
int range = max-min+1 ;
int bucketCount = range / bucketSize;
if (range%bucketSize!=0)bucketCount++;
// 创建桶列表,每个列表元素中存放一个桶ArrayList<Integer>
ArrayList<ArrayList<Integer>> bucketList = new ArrayList<>(bucketCount);
for (int i = 0; i < bucketCount; i++) {
bucketList.add(new ArrayList<>());
}
// 放元素入桶
for (int i = 0; i < list.size(); i++) {
int whichBucket = (list.get(i) - min + 1) / bucketSize;
if ((list.get(i) - min + 1) % bucketSize == 0) whichBucket--;
bucketList.get(whichBucket).add(list.get(i));
}
// 对每个桶内进行排序:先进行桶排序保证整体有序,再进行局部排序。可以使用其他排序方法,此处仍使用桶排序
// 对每个桶进行排序,每次减少桶size
ArrayList<Integer> resultList = new ArrayList<>();
for (int i = 0; i < bucketCount; i++) { //对每个桶进行处理
if (bucketSize==1){ //桶里只存一个数值 : 把所有桶合并为一个桶,返回
for (int j = 0; j < bucketList.get(i).size(); j++) {
resultList.add(bucketList.get(i).get(j));
}
}else { //桶里有多个值 递归通过桶排序返回排序后的list : temp 把每个排序后的list 合并并返回
ArrayList<Integer> temp = bucketSort(bucketList.get(i), bucketSize/2);
for (int j = 0; j < temp.size(); j++) {
resultList.add(temp.get(j));
}
}
}
return resultList;
}
9.4 算法分析
桶排序最好情况下使用线性时间O(n),桶排序的时间复杂度,取决与对各个桶之间数据进行排序的时间复杂度,因为其它部分的时间复杂度都为O(n)。很显然,桶划分的越小,各个桶之间的数据越少,排序所用的时间也会越少。但相应的空间消耗就会增大。
最佳情况:T(n) = O(n+k) 最差情况:T(n) = O(n+k) 平均情况:T(n) = O(n2)
10.基数排序(Radix Sort)
基数排序也是非比较的排序算法,对每一位进行排序,从最低位开始排序,复杂度为O(kn),n为数组长度,k为数组中的数的最大的位数;
基数排序是按照低位先排序,然后收集;再按照高位排序,然后再收集;依次类推,直到最高位。有时候有些属性是有优先级顺序的,先按低优先级排序,再按高优先级排序。最后的次序就是高优先级高的在前,高优先级相同的低优先级高的在前。基数排序基于分别排序,分别收集,所以是稳定的。
10.1 算法描述
取得数组中的最大数,并取得位数;
arr为原始数组,从最低位开始取每个位组成radix数组;
对radix进行计数排序(利用计数排序适用于小范围数的特点);
10.2 动图演示
10.3 代码实现
/**
基数排序
**/
public static void RadixSort(int[] array) {
if (array.length<2){
return;
}
int max = array[0];
for (int i = 0; i < array.length; i++) {
max = max > array[i]? max : array[i];
}
int digit = 0; //最大数的位数
while (max!=0){
max /= 10 ;
digit++;
}
// 进行digit次收集放回
int mod = 10;
ArrayList<ArrayList<Integer>> bucketList = new ArrayList<>(); //桶列表10个 存放取模后的余数
for (int i = 0; i < 10; i++) {
bucketList.add(new ArrayList<>());
}
//digit次收集放回
for (int i = 0; i < digit; i++) {
for (int j = 0; j < array.length; j++) { //遍历数组放入对应桶中
bucketList.get((array[j]%mod)*10/mod).add(array[j]);
}
//遍历所有桶 , 再放回
int index = 0;
for (int j = 0; j < 10; j++) {
for (int k = 0; k < bucketList.get(j).size(); k++) {
array[index++] = bucketList.get(j).get(k);
}
//清空桶以供下次排序使用
bucketList.get(j).clear();
}
mod *= 10;
}
}
10.4 算法分析
最佳情况:T(n) = O(n k) 最差情况:T(n) = O(n k) 平均情况:T(n) = O(n * k)
比较: 基数排序 vs 计数排序 vs 桶排序
这三种排序算法都利用了桶的概念,但对桶的使用方法上有明显差异:
- 基数排序:根据键值的每位数字来分配桶
- 计数排序:每个桶只存储单一键值
- 桶排序:每个桶存储一定范围的数值