第 7 章 排序算法

7.1 排序算法的介绍

排序也称排序算法(Sort Algorithm)， 排序是将一组数据， 依指定的顺序进行排列的过程。

7.2 排序的分类：

1. 内部排序:

   指将需要处理的所有数据都加载到内部存储器(内存)中进行排序。

2. 外部排序法：

   数据量过大， 无法全部加载到内存中， 需要借助外部存储(文件等)进行排序。

常见的排序算法分类

7.3 算法的时间复杂度

7.3.1度量一个程序(算法)执行时间的两种方法

1. 事后统计的方法

   这种方法可行, 但是有两个问题： 一是要想对设计的算法的运行性能进行评测， 需要实际运行该程序； 二是所得时间的统计量依赖于计算机的硬件、 软件等环境因素, 这种方式， 要在同一台计算机的相同状态下运行， 才能比较那个算法速度更快。

2. 事前估算的方法

   通过分析某个算法的时间复杂度来判断哪个算法更优.

7.3.3时间复杂度

1. 一般情况下， 算法中的基本操作语句的重复执行次数是问题规模 n 的某个函数， 用 T(n)表示， 若有某个辅助函数 f(n)， 使得当 n 趋近于无穷大时， T(n) / f(n) 的极限值为不等于零的常数， 则称 f(n)是 T(n)的同数量级函数。记作 T(n)=Ｏ(f(n))， 称Ｏ(f(n)) 为算法的渐进时间复杂度， 简称时间复杂度。
2. T(n) 不同， 但时间复杂度可能相同。 如： T(n)=n2+7n+6 与 T(n)=3n2+2n+2 它们的 T(n) 不同， 但时间复杂度相同， 都为 O(n2)。
3. 计算时间复杂度的方法：
   • 用常数 1 代替运行时间中的所有加法常数 T(n)=n2+7n+6 => T(n)=n2+7n+1
   • 修改后的运行次数函数中， 只保留最高阶项 T(n)=n2+7n+1 => T(n) = n2
   • 去除最高阶项的系数 T(n) = n2 => T(n) = n2 => O(n2)

7.3.4常见的时间复杂度

1. 常数阶 O(1)
2. 对数阶 O(log2n)
3. 线性阶 O(n)
4. 线性对数阶 O(nlog2n)
5. 平方阶 O(n^2)
6. 立方阶 O(n^3)
7. k 次方阶 O(n^k)
8. 指数阶 O(2^n)

7.3.5平均时间复杂度和最坏时间复杂度

1. 平均时间复杂度是指所有可能的输入实例均以等概率出现的情况下， 该算法的运行时间。
2. 最坏情况下的时间复杂度称最坏时间复杂度。 一般讨论的时间复杂度均是最坏情况下的时间复杂度。 这样做的原因是： 最坏情况下的时间复杂度是算法在任何输入实例上运行时间的界限， 这就保证了算法的运行时间不会
   比最坏情况更长。
3. 平均时间复杂度和最坏时间复杂度是否一致， 和算法有关(如图:)。

7.4 算法的空间复杂度简介

1. 类似于时间复杂度的讨论， 一个算法的空间复杂度(Space Complexity)定义为该算法所耗费的存储空间， 它也是问题规模 n 的函数。
2. 空间复杂度(Space Complexity)是对一个算法在运行过程中临时占用存储空间大小的量度。 有的算法需要占用的临时工作单元数与解决问题的规模 n 有关， 它随着 n 的增大而增大， 当 n 较大时， 将占用较多的存储单元， 例如快速排序和归并排序算法, 基数排序就属于这种情况
3. 在做算法分析时， 主要讨论的是时间复杂度。 从用户使用体验上看， 更看重的程序执行的速度。 一些缓存产品 (redis, memcache) 和算法(基数排序)本质就是用空间换时间.

7.5 冒泡排序

7.5.1基本介绍

冒泡排序（Bubble Sorting） 的基本思想是： 通过对待排序序列从前向后（从下标较小的元素开始） ,依次比较相邻元素的值， 若发现逆序则交换， 使值较大的元素逐渐从前移向后部， 就象水底下的气泡一样逐渐向上冒。

优化：因为排序的过程中， 各元素不断接近自己的位置， 如果一趟比较下来没有进行过交换， 就说明序列有序， 因此要在排序过程中设置一个标志 flag 判断元素是否进行过交换。 从而减少不必要的比较。 (这里说的优化， 可以在冒泡排序写好后， 再进行)

对冒泡排序的理解：

以 n 个值的数组从小到大排序为例，冒泡排序就是从前向后每两个进行比较，如果逆序，则进行位置交换。其结果就是第一次从前到后全部比较后，最大值到达最后的位置；第二次完整比较后，第二大值到达倒数第二的位置，依次类推，完整比较的次数为 n-1 次。

        public static void bubbleSort(int[] arr) {
    int temp;
    for (int i = 0; i < arr.length - 1; i++) {
        for (int j = 0; j < arr.length - 1; j++) {
            if (arr[j] > arr[j + 1]) {
                temp = arr[j];
                arr[j] = arr[j + 1];
                arr[j + 1] = temp;
            }
        }
    }
}

    

优化一：

第一次比较需要进行从前到后的完整比较，第二次只需要比较前 n-1 个数字，第三次只需要比较前 n-2 个，依次类推

        public static void bubbleSort(int[] arr) {
    int temp;
    for (int i = 0; i < arr.length - 1; i++) {
        for (int j = 0; j < arr.length - 1 -i; j++) {
            if (arr[j] > arr[j + 1]) {
                temp = arr[j];
                arr[j] = arr[j + 1];
                arr[j + 1] = temp;
            }
        }
    }
}

    

优化二：

当一次从前到后比较完成后，发现没有进行一次交换时，此时数组已经完全有序，可以提前结束

        public static void bubbleSort(int[] arr) {
    boolean flag = true;
    int temp;
    for (int i = 0; i < arr.length - 1; i++) {
        for (int j = 0; j < arr.length - 1 - i; j++) {
            if (arr[j] > arr[j + 1]) {
                flag = false;
                temp = arr[j];
                arr[j] = arr[j + 1];
                arr[j + 1] = temp;
            }
        }
        if (flag) {
            break;
        } else {
            flag = true;
        }
    }
}

    

测试冒泡排序

随机 80000 个数字进行排序，数字范围在 [0, 800000)

        未优化：15677 ms
优化一：12984 ms
优化二：12423 ms

    

7.6 选择排序

7.6.1 基本介绍

选择式排序也属于内部排序法， 是从欲排序的数据中， 按指定的规则选出某一元素， 再依规定交换位置后达到排序的目的。

7.6.2 选择排序思想

选择排序（select sorting） 也是一种简单的排序方法。 它的基本思想是： 第一次从 arr[0]~arr[n-1]中选取最小值，与 arr[0] 交换， 第二次从 arr[1]~arr[n-1]中选取最小值， 与 arr[1]交换， 第三次从 arr[2]~arr[n-1]中选取最小值， 与 arr[2] 交换， …， 第 i 次从 arr[i-1]~arr[n-1]中选取最小值， 与 arr[i-1]交换， …, 第 n-1 次从 arr[n-2]~arr[n-1]中选取最小值，与 arr[n-2]交换， 总共通过 n-1 次， 得到一个按排序码从小到大排列的有序序列。

7.6.3 选择排序思路分析图

7.6.4 代码实现

        private static void selectSort(int[] arr) {
    
    for (int i = 0; i < arr.length - 1; i++) {
        int min = arr[i];
        int minIndex = i;

        for (int j = i + 1; j < arr.length; j++) {
            if (min > arr[j]) {
                min = arr[j];
                minIndex = j;
            }
        }

        // 如果本来就是最小的，不需要交换
        if (minIndex != i) {
            // 进行交换
            arr[minIndex] = arr[i];
            arr[i] = min;
        }
    }
}

    

测试：

80000 个随机值的数组排序用时 3141 ms

7.7 插入排序

7.7.1 插入排序法介绍

插入式排序属于内部排序法， 是对于欲排序的元素以插入的方式找寻该元素的适当位置， 以达到排序的目的。

7.7.2 插入排序法思想

插入排序（Insertion Sorting） 的基本思想是： 把 n 个待排序的元素看成为一个有序表和一个无序表， 开始时有序表中只包含一个元素， 无序表中包含有 n-1 个元素， 排序过程中每次从无序表中取出第一个元素， 把它的排序码依次与有序表元素的排序码进行比较， 将它插入到有序表中的适当位置， 使之成为新的有序表。

7.7.3 插入排序思路图

7.7.3 代码实现

        private static void insertSort(int[] arr) {
    for (int i = 1; i < arr.length; i++) {
        // 待插入值
        int insertVal = arr[i];
        // 表示从哪一位开始向前进行比较
        int insertIndex = i - 1;

        while (insertIndex >= 0 && insertVal < arr[insertIndex]) {
            // 如果待插入值小于比较值，则比较值向后移一位
            arr[insertIndex + 1] = arr[insertIndex];
            insertIndex--;
        }

        // 判断是否已在正确的位置上
        if (insertIndex + 1 != i) {
            // 将待插入值插入数组
            arr[insertIndex + 1] = insertVal;
        }
        // System.out.println("第" + i + "轮排序后，结果为：" + Arrays.toString(arr));
    }
}

    

测试：

80000 个随机值的数组排序用时 716 ms

7.8 希尔排序

7.8.1简单插入排序存在的问题

我们看简单的插入排序可能存在的问题.

数组 arr = {2,3,4,5,6,1} 这时需要插入的数 1(最小), 这样的过程是：

        {2,3,4,5,6,6}
{2,3,4,5,5,6}
{2,3,4,4,5,6}
{2,3,3,4,5,6}
{2,2,3,4,5,6}
{1,2,3,4,5,6}

    

结论: 当需要插入的数是较小的数时， 后移的次数明显增多， 对效率有影响.

7.8.2 希尔排序法介绍

希尔排序是希尔（Donald Shell） 于 1959 年提出的一种排序算法。 希尔排序也是一种插入排序， 它是简单插入排序经过改进之后的一个更高效的版本， 也称为缩小增量排序。

7.8.3 希尔排序法基本思想

希尔排序是把记录按下标的一定增量分组， 对每组使用直接插入排序算法排序； 随着增量逐渐减少， 每组包含的关键词越来越多， 当增量减至 1 时， 整个文件恰被分成一组， 算法便终止

7.8.4 希尔排序法的示意图

7.8.5 希尔排序法代码实现

交换法

        private static void shellSort(int[] arr) {
    int temp;
    int count = 0;
    for (int gap = arr.length / 2; gap > 0; gap /= 2) {
        for (int i = gap; i < arr.length; i++) {
            // 遍历各组中所有的元素(共5组，每组有2个元素), 步长5
            for (int j = i - gap; j >= 0; j -= gap) {
                if (arr[j] > arr[j + gap]) {
                    temp = arr[j];
                    arr[j] = arr[j + gap];
                    arr[j + gap] = temp;
                }
            }
        }
        // System.out.println("第" + (++count) + "轮后，结果为：" + Arrays.toString(arr));
    }
}

    

测试：

80000 个随机值的数组排序用时 6772 ms

移动法

        private static void shellSort2(int[] arr) {
    // 增量gap, 并逐步的缩小增量
    for (int gap = arr.length / 2; gap > 0; gap /= 2) {
        // 从第gap个元素，逐个对其所在的组进行直接插入排序
        for (int i = gap; i < arr.length; i++) {
            int j = i;
            int temp = arr[i];
            if (temp < arr[j - gap]) {
                while (j - gap >= 0 && temp < arr[j - gap]) {
                    //移动
                    arr[j] = arr[j - gap];
                    j -= gap;
                }
                
                //当退出while后，就给temp找到插入的位置
                arr[j] = temp;
            }
        }
    }
}

    

测试：

80000 个随机值的数组排序用时 20 ms

7.9 快速排序

7.9.1 快速排序法介绍

快速排序（Quicksort） 是对冒泡排序的一种改进。 基本思想是： 通过一趟排序将要排序的数据分割成独立的两部分， 其中一部分的所有数据都比另外一部分的所有数据都要小， 然后再按此方法对这两部分数据分别进行快速排序， 整个排序过程可以递归进行， 以此达到整个数据变成有序序列

7.9.2 快速排序法示意图

7.9.3 代码实现

        public class QuickSort {
    public static void main(String[] args) {
        int[] arr = new int[]{20, -1, 3, 9, 10};
        quickSort(arr, 0, arr.length - 1);
        System.out.println(Arrays.toString(arr));
    }

    private static void quickSort(int[] arr, int left, int right) {
        // 定义左右游标
        int l = left;
        int r = right;

        // 中轴值
        int pivot = arr[(left + right) / 2];

        // System.out.println("排序前：" + Arrays.toString(arr));
        // System.out.println("left=" + left + " right=" + right + " 中轴值为：" + pivot);
        int temp;

        // while 循环的目的是让比 pivot 值小放到左边，比 pivot 值大放到右边
        while (l < r) {
            // 在中轴左边找到一个大于中轴值的索引
            while (arr[l] < pivot) {
                l++;
            }

            // 在中轴右边找到一个小于中轴值的索引
            while (arr[r] > pivot) {
                r--;
            }

            // 左右索引相等的情况下，说明都到达中轴，无需继续循环
            if (l >= r) {
                break;
            }

            // 左右进行交换
            temp = arr[l];
            arr[l] = arr[r];
            arr[r] = temp;

            // 不断向中轴逼近
            if (arr[l] == pivot) {
                r--;
            }
            if (arr[r] == pivot) {
                l++;
            }
        }

        // System.out.println("while 后：" + Arrays.toString(arr));

        // 如果 l == r, 必须l++, r--, 否则为出现栈溢出
        // 并不一定每次 while 结束后，都会左右游标重合
        if (l == r) {
            l++;
            r--;
        }

        //向左递归
        if (r > left) {
            quickSort(arr, left, r);
        }
        //向右递归
        if (l < right) {
            quickSort(arr, l, right);
        }
    }
}

    

7.10 归并排序

7.10.1 归并排序介绍

归并排序（MERGE-SORT） 是利用归并的思想实现的排序方法， 该算法采用经典的分治（divide-and-conquer）策略（分治法将问题分(divide)成一些小的问题然后递归求解， 而治(conquer)的阶段则将分的阶段得到的各答案"修补"在一起， 即分而治之)。

7.10.2 归并排序思想示意图 1-基本思想

7.10.3 归并排序思想示意图 2-合并相邻有序子序列

再来看看治阶段， 我们需要将两个已经有序的子序列合并成一个有序序列， 比如上图中的最后一次合并， 要将[4,5,7,8]和[1,2,3,6]两个已经有序的子序列， 合并为最终序列[1,2,3,4,5,6,7,8]， 来看下实现步骤

7.10.4 代码实现

        public class MergeSort {
    public static void main(String[] args) {
        int arr[] = {8, 4, 5, 7, 1, 3, 6, 2};

        int temp[] = new int[arr.length]; //归并排序需要一个额外空间
        mergeSort(arr, 0, arr.length - 1, temp);
        System.out.println("归并排序后=" + Arrays.toString(arr));
    }

    //分+合方法
    public static void mergeSort(int[] arr, int left, int right, int[] temp) {
        if (left < right) {
            int mid = (left + right) / 2; //中间索引
            System.out.println(111);
            //向左递归进行分解
            mergeSort(arr, left, mid, temp);
            System.out.println(222);
            //向右递归进行分解
            mergeSort(arr, mid + 1, right, temp);
            System.out.println(333);
            //合并
            merge(arr, left, mid, right, temp);
        }
    }

    //合并的方法

    /**
     * @param arr   排序的原始数组
     * @param left  左边有序序列的初始索引
     * @param mid   中间索引
     * @param right 右边索引
     * @param temp  做中转的数组
     */
    public static void merge(int[] arr, int left, int mid, int right, int[] temp) {

        System.out.println("left=" + left + ",right=" + right);

        int i = left; // 初始化i, 左边有序序列的初始索引
        int j = mid + 1; //初始化j, 右边有序序列的初始索引
        int t = 0; // 指向temp数组的当前索引

        //(一)
        //先把左右两边(有序)的数据按照规则填充到temp数组
        //直到左右两边的有序序列，有一边处理完毕为止
        while (i <= mid && j <= right) {//继续
            //如果左边的有序序列的当前元素，小于等于右边有序序列的当前元素
            //即将左边的当前元素，填充到 temp数组
            //然后 t++, i++
            if (arr[i] <= arr[j]) {
                temp[t] = arr[i];
                t += 1;
                i += 1;
            } else { //反之,将右边有序序列的当前元素，填充到temp数组
                temp[t] = arr[j];
                t += 1;
                j += 1;
            }
        }

        //(二)
        //把有剩余数据的一边的数据依次全部填充到temp
        while (i <= mid) { //左边的有序序列还有剩余的元素，就全部填充到temp
            temp[t] = arr[i];
            t += 1;
            i += 1;
        }

        while (j <= right) { //右边的有序序列还有剩余的元素，就全部填充到temp
            temp[t] = arr[j];
            t += 1;
            j += 1;
        }


        //(三)
        //将temp数组的元素拷贝到arr
        //注意，并不是每次都拷贝所有
        t = 0;
        int tempLeft = left; //
        //第一次合并 tempLeft = 0 , right = 1 //  tempLeft = 2  right = 3 // tL=0 ri=3
        //最后一次 tempLeft = 0  right = 7
        while (tempLeft <= right) {
            arr[tempLeft] = temp[t];
            t += 1;
            tempLeft += 1;
        }

    }
}

    

7.11 基数排序

7.11.1 基数排序(桶排序)介绍:

1. 基数排序（radix sort） 属于“分配式排序” （distribution sort） ， 又称“桶子法” （bucket sort） 或 bin sort， 顾
   名思义， 它是通过键值的各个位的值， 将要排序的元素分配至某些“桶” 中， 达到排序的作用
2. 基数排序法是属于稳定性的排序， 基数排序法的是效率高的稳定性排序法
3. 基数排序(Radix Sort)是桶排序的扩展
4. 基数排序是 1887 年赫尔曼· 何乐礼发明的。 它是这样实现的： 将整数按位数切割成不同的数字， 然后按每个位数分别比较

7.11.2 基数排序基本思想

将所有待比较数值统一为同样的数位长度， 数位较短的数前面补零。 然后， 从最低位开始， 依次进行一次排序。这样从最低位排序一直到最高位排序完成以后, 数列就变成一个有序序列。

7.11.3 基数排序示例

将数组 {53, 3, 542, 748, 14, 214} 使用基数排序, 进行升序排序。

• 第1轮排序后：542、53、3、14、214、748
• 第2轮排序后：3、14、214、542、748、53
• 第3轮排序后：3、14、53、214、542、748

7.11.4 基数排序代码实现

        public class RadixSort {
    public static void main(String[] args) {
        int arr[] = {53, 3, 542, 748, 14, 214};
        radixSort(arr);
        System.out.println("基数排序后 " + Arrays.toString(arr));
    }

    public static void radixSort(int[] arr) {
        //根据前面的推导过程，我们可以得到最终的基数排序代码

        //1. 得到数组中最大的数的位数
        int max = arr[0]; //假设第一数就是最大数
        for (int i = 1; i < arr.length; i++) {
            if (arr[i] > max) {
                max = arr[i];
            }
        }
        //得到最大数是几位数
        int maxLength = (max + "").length();


        //定义一个二维数组，表示10个桶, 每个桶就是一个一维数组
        //说明
        //1. 二维数组包含10个一维数组
        //2. 为了防止在放入数的时候，数据溢出，则每个一维数组(桶)，大小定为arr.length
        //3. 明确，基数排序是使用空间换时间的经典算法
        int[][] bucket = new int[10][arr.length];

        //为了记录每个桶中，实际存放了多少个数据,我们定义一个一维数组来记录各个桶的每次放入的数据个数
        //可以这样理解
        //比如：bucketElementCounts[0] , 记录的就是  bucket[0] 桶的放入数据个数
        int[] bucketElementCounts = new int[10];


        //这里我们使用循环处理
        for (int i = 0, n = 1; i < maxLength; i++, n *= 10) {
            
            //(针对每个元素的对应位进行排序处理)， 第一次是个位，第二次是十位，第三次是百位..
            for (int j = 0; j < arr.length; j++) {
                //取出每个元素的对应位的值
                int digitOfElement = arr[j] / n % 10;
                //放入到对应的桶中
                bucket[digitOfElement][bucketElementCounts[digitOfElement]] = arr[j];
                bucketElementCounts[digitOfElement]++;
            }
            
            //按照这个桶的顺序(一维数组的下标依次取出数据，放入原来数组)
            int index = 0;
            //遍历每一桶，并将桶中是数据，放入到原数组
            for (int k = 0; k < bucketElementCounts.length; k++) {
                //如果桶中，有数据，我们才放入到原数组
                if (bucketElementCounts[k] != 0) {
                    //循环该桶即第k个桶(即第k个一维数组), 放入
                    for (int l = 0; l < bucketElementCounts[k]; l++) {
                        //取出元素放入到arr
                        arr[index++] = bucket[k][l];
                    }
                }
                //第i+1轮处理后，需要将每个 bucketElementCounts[k] = 0 ！！！！
                bucketElementCounts[k] = 0;
            }
            //System.out.println("第"+(i+1)+"轮，对个位的排序处理 arr =" + Arrays.toString(arr));

        }
    }
}

    

7.11.5 基数排序的说明:

1. 基数排序是对传统桶排序的扩展， 速度很快.
2. 基数排序是经典的空间换时间的方式， 占用内存很大, 当对海量数据排序时， 容易造成 OutOfMemoryError 。
3. 基数排序是稳定的。 [注:假定在待排序的记录序列中， 存在多个具有相同的关键字的记录， 若经过排序， 这些记录的相对次序保持不变， 即在原序列中， r[i]=r[j]， 且 r[i]在 r[j]之前， 而在排序后的序列中， r[i]仍在 r[j]之前，则称这种排序算法是稳定的； 否则称为不稳定的]
4. 有负数的数组， 我们不用基数排序来进行排序

7.11.6 拓展

• 桶排序
• 计数排序

7.12 常用排序算法总结和对比

7.12.1 一张排序算法的比较图

7.12.2 相关术语解释：

1. 稳定： 如果 a 原本在 b 前面， 而 a=b， 排序之后 a 仍然在 b 的前面；
2. 不稳定： 如果 a 原本在 b 的前面， 而 a=b， 排序之后 a 可能会出现在 b 的后面；
3. 内排序： 所有排序操作都在内存中完成；
4. 外排序： 由于数据太大， 因此把数据放在磁盘中， 而排序通过磁盘和内存的数据传输才能进行；
5. 时间复杂度： 一个算法执行所耗费的时间。
6. 空间复杂度： 运行完一个程序所需内存的大小。
7. n: 数据规模
8. k: “桶” 的个数
9. In-place: 不占用额外内存
10. Out-place: 占用额外内存

原文：https://www.cnblogs.com/huangwenjie/p/13660736.html