0、排序算法說明
0.1 排序的意義
對一序列對象根據某個關鍵字進行排序
0.2 術語說明
- 穩定：如果a原本在b前面，而a=b，排序之后a仍然在b的前面；
- 不穩定：如果a原本在b的前面，而a=b，排序之后a可能會出現在b的后面；
- 內排序：所有排序操作都在內存中完成；
- 外排序：由於數據太大，因此把數據放在磁盤中，而排序通過磁盤和內存的數據傳輸才能進行；
- 時間復雜度： 一個算法執行所耗費的時間。
- 空間復雜度：運行完一個程序所需內存的大小。
0.3 算法總結
圖片名詞解釋：
- n: 數據規模
- k: “桶”的個數
- In-place: 占用常數內存，不占用額外內存
- Out-place: 占用額外內存
0.5 算法分類
0.6 比較和非比較的區別
常見的快速排序、歸並排序、堆排序、冒泡排序等屬於比較排序。在排序的最終結果里，元素之間的次序依賴於它們之間的比較。每個數都必須和其他數進行比較，才能確定自己的位置。
在冒泡排序之類的排序中，問題規模為n，又因為需要比較n次，所以平均時間復雜度為O(n²)。在歸並排序、快速排序之類的排序中，問題規模通過分治法消減為logN次，所以時間復雜度平均O(nlogn)。
比較排序的優勢是，適用於各種規模的數據，也不在乎數據的分布，都能進行排序。可以說，比較排序適用於一切需要排序的情況。
計數排序、基數排序、桶排序則屬於非比較排序。非比較排序是通過確定每個元素之前，應該有多少個元素來排序。針對數組arr，計算arr[i]之前有多少個元素，則唯一確定了arr[i]在排序后數組中的位置。
非比較排序只要確定每個元素之前的已有的元素個數即可，所有一次遍歷即可解決。算法時間復雜度O(n)。
非比較排序時間復雜度底，但由於非比較排序需要占用空間來確定唯一位置。所以對數據規模和數據分布有一定的要求。
1、冒泡排序（Bubble Sort）
冒泡排序是一種簡單的排序算法。它重復地走訪過要排序的數列，一次比較兩個元素，如果它們的順序錯誤就把它們交換過來。走訪數列的工作是重復地進行直到沒有再需要交換，也就是說該數列已經排序完成。這個算法的名字由來是因為越小的元素會經由交換慢慢“浮”到數列的頂端。
1.1 算法描述
- 比較相鄰的元素。如果第一個比第二個大，就交換它們兩個；
- 對每一對相鄰元素作同樣的工作，從開始第一對到結尾的最后一對，這樣在最后的元素應該會是最大的數；
- 針對所有的元素重復以上的步驟，除了最后一個；
- 重復步驟1~3，直到排序完成。
1.2 動圖演示
1.3 代碼實現
/** * 冒泡排序 */ public static int[] bubbleSort(int[] array){ if (array.length == 0) return array; for (int i = 0; i < array.length; i++){ for (int j = 0; j < array.length - 1 - i; j++){ if (array[j+1] < array[j]){ int temp = array[j+1]; array[j+1] = array[j]; array[j] = temp; } } } return array; }
1.4 算法分析
最佳情況：T(n) = O(n)
最差情況：T(n) = O(n2)
平均情況：T(n) = O(n2)
2、選擇排序（Selection Sort）
表現最穩定的排序算法之一，因為無論什么數據進去都是O(n2)的時間復雜度，所以用到它的時候，數據規模越小越好。唯一的好處可能就是不占用額外的內存空間了吧。理論上講，選擇排序可能也是平時排序一般人想到的最多的排序方法了吧。
選擇排序(Selection-sort)是一種簡單直觀的排序算法。它的工作原理：首先在未排序序列中找到最小（大）元素，存放到排序序列的起始位置，然后，再從剩余未排序元素中繼續尋找最小（大）元素，然后放到已排序序列的末尾。以此類推，直到所有元素均排序完畢。
2.1 算法描述
n個記錄的直接選擇排序可經過n-1趟直接選擇排序得到有序結果。具體算法描述如下：
- 初始狀態：無序區為R[1..n]，有序區為空；
- 第i趟排序(i=1,2,3…n-1)開始時，當前有序區和無序區分別為R[1..i-1]和R(i..n）。該趟排序從當前無序區中-選出關鍵字最小的記錄 R[k]，將它與無序區的第1個記錄R交換，使R[1..i]和R[i+1..n)分別變為記錄個數增加1個的新有序區和記錄個數減少1個的新無序區；
- n-1趟結束，數組有序化了。
2.2 動圖演示
2.3 代碼實現
/** * 選擇排序 */ public static int[] selectionSort(int[] array){ if (array.length == 0) return array; for (int i = 0; i < array.length; i++){ int minIndex = i; for (int j = i; j < array.length; j++){ if (array[j] < array[minIndex]) //找到最小的數 minIndex = j; //將最小數的索引保存 } int temp = array[minIndex]; array[minIndex] = array[i]; array[i] = temp; } return array; }
2.4 算法分析
最佳情況：T(n) = O(n2)
最差情況：T(n) = O(n2)
平均情況：T(n) = O(n2)
3、插入排序（Insertion Sort）
插入排序（Insertion-Sort）的算法描述是一種簡單直觀的排序算法。它的工作原理是通過構建有序序列，對於未排序數據，在已排序序列中從后向前掃描，找到相應位置並插入。插入排序在實現上，通常采用in-place排序（即只需用到O(1)的額外空間的排序），因而在從后向前掃描過程中，需要反復把已排序元素逐步向后挪位，為最新元素提供插入空間。
3.1 算法描述
一般來說，插入排序都采用in-place在數組上實現。具體算法描述如下：
- 從第一個元素開始，該元素可以認為已經被排序；
- 取出下一個元素，在已經排序的元素序列中從后向前掃描；
- 如果該元素（已排序）大於新元素，將該元素移到下一位置；
- 重復步驟3，直到找到已排序的元素小於或者等於新元素的位置；
- 將新元素插入到該位置后；
- 重復步驟2~5。
3.2 動圖演示
3.2 代碼實現
/** * 插入排序 */ public static int[] insertionSort(int[] array){ if (array.length == 0) return array; int current; for (int i = 0; i < array.length - 1; i++){ current = array[i+1]; int preIndex = i; while (preIndex >= 0 && current < array[preIndex]){ array[preIndex + 1] = array[preIndex]; preIndex--; } array[preIndex + 1] = current; } return array; }
3.4算法分析
最佳情況：T(n) = O(n)
最差情況：T(n) = O(n2)
平均情況：T(n) = O(n2)
4、希爾排序（Shell Sort）
希爾排序是希爾（Donald Shell）於1959年提出的一種排序算法。希爾排序也是一種插入排序，它是簡單插入排序經過改進之后的一個更高效的版本，也稱為縮小增量排序，同時該算法是沖破O(n2）的第一批算法之一。它與插入排序的不同之處在於，它會優先比較距離較遠的元素。希爾排序又叫縮小增量排序。
4.1 算法描述
我們來看下希爾排序的基本步驟，在此我們選擇增量gap=length/2，縮小增量繼續以gap = gap/2的方式，這種增量選擇我們可以用一個序列來表示，{n/2,(n/2)/2...1}，稱為增量序列。希爾排序的增量序列的選擇與證明是個數學難題，我們選擇的這個增量序列是比較常用的，也是希爾建議的增量，稱為希爾增量，但其實這個增量序列不是最優的。此處我們做示例使用希爾增量。
先將整個待排序的記錄序列分割成為若干子序列分別進行直接插入排序，具體算法描述：
- 選擇一個增量序列t1，t2，…，tk，其中ti>tj，tk=1；
- 按增量序列個數k，對序列進行k 趟排序；
- 每趟排序，根據對應的增量ti，將待排序列分割成若干長度為m 的子序列，分別對各子表進行直接插入排序。僅增量因子為1 時，整個序列作為一個表來處理，表長度即為整個序列的長度。
4.2 過程演示
4.3 代碼實現
/** * 希爾排序 */ public static int[] ShellSort(int[] array){ int len = array.length; int temp, gap = len / 2; while (gap > 0){ for (int i = gap; i < len; i++){ temp = array[i]; int preIndex = i - gap; while (preIndex >= 0 && array[preIndex] > temp){ array[preIndex + gap] = array[preIndex]; preIndex -= gap; } array[preIndex + gap] = temp; } gap /= 2; } return array; }
4.4 算法分析
最佳情況：T(n) = O(nlog2 n)
最壞情況：T(n) = O(nlog2 n)
平均情況：T(n) =O(nlog2n)
5、歸並排序（Merge Sort）
和選擇排序一樣，歸並排序的性能不受輸入數據的影響，但表現比選擇排序好的多，因為始終都是O(n log n）的時間復雜度。代價是需要額外的內存空間。
歸並排序是建立在歸並操作上的一種有效的排序算法。該算法是采用分治法（Divide and Conquer）的一個非常典型的應用。歸並排序是一種穩定的排序方法。將已有序的子序列合並，得到完全有序的序列；即先使每個子序列有序，再使子序列段間有序。若將兩個有序表合並成一個有序表，稱為2-路歸並。
5.1 算法描述
- 把長度為n的輸入序列分成兩個長度為n/2的子序列；
- 對這兩個子序列分別采用歸並排序；
- 將兩個排序好的子序列合並成一個最終的排序序列。
5.2 動圖演示
5.3 代碼實現
/** * 歸並排序 */ public static int[] MergeSort(int[] array){ if (array.length < 2) return array; int mid = array.length / 2; int[] left = Arrays.copyOfRange(array, 0, mid); int[] right = Arrays.copyOfRange(array, mid, array.length); return merge(MergeSort(left), MergeSort(right)); } /** * 歸並排序——將兩段排序好的數組結合成一個排序數組 */ public static int[] merge(int[] left, int[] right){ int[] result = new int[left.length + right.length]; for (int index = 0, i = 0, j = 0; index < result.length; index++){ if (i >= left.left) result[index] = right[j++]; else if (j >= right.length) result[index] = left[i++]; else if (left[i] > right[j]) result[index] = right[j++]; else result[index] = left[i++]; } return result; }
5.4 算法分析
最佳情況：T(n) = O(n)
最差情況：T(n) = O(nlogn)
平均情況：T(n) = O(nlogn)
6、快速排序（Quick Sort）
快速排序的基本思想：通過一趟排序將待排記錄分隔成獨立的兩部分，其中一部分記錄的關鍵字均比另一部分的關鍵字小，則可分別對這兩部分記錄繼續進行排序，以達到整個序列有序。
6.1 算法描述
快速排序使用分治法來把一個串（list）分為兩個子串（sub-lists）。具體算法描述如下：
- 從數列中挑出一個元素，稱為 “基准”（pivot）；
- 重新排序數列，所有元素比基准值小的擺放在基准前面，所有元素比基准值大的擺在基准的后面（相同的數可以到任一邊）。在這個分區退出之后，該基准就處於數列的中間位置。這個稱為分區（partition）操作；
- 遞歸地（recursive）把小於基准值元素的子數列和大於基准值元素的子數列排序。
6.2 動圖演示
6.3 代碼實現
/** * 快速排序 */ public static int getIndex(int[] arr, int low, int high){ //基准數據 int temp = arr[low]; while (low < high){ //當隊尾的元素大於等於基准數據時,向前挪動high指針 while (low < high && arr[high] >= temp){ high --; } // 如果隊尾元素小於tmp了,需要將其賦值給low arr[low] = arr[high]; // 當隊首元素小於等於tmp時,向前挪動low指針 while (low <high && arr[low] <= temp){ low ++; } //當隊首元素大於tmp時,需要將其賦值給high arr[high] = arr[low]; } // 跳出循環時low和high相等,此時的low或high就是tmp的正確索引位置 // 由原理部分可以很清楚的知道low位置的值並不是tmp,所以需要將tmp賦值給arr[low] arr[low] = temp; return low; //返回temp的正確位置 } public static void quickSort(int[] arr, int low, int high){ if (low <high){ //找尋基准數據的正確索引 int index = getIndex(arr, low, high); // 進行迭代對index之前和之后的數組進行相同的操作使整個數組變成有序 quickSort(arr, 0, index - 1); quickSort(arr, index + 1, high); } }
6.4 算法分析
最佳情況：T(n) = O(nlogn)
最差情況：T(n) = O(n2)
平均情況：T(n) = O(nlogn)
7、堆排序（Heap Sort）
堆排序（Heapsort）是指利用堆這種數據結構所設計的一種排序算法。堆即是一個近似完全二叉樹的結構，並同時滿足堆積的性質：即子結點的鍵值或索引總是小於（或者大於）它的父節點。
7.1 算法描述
- 將初始待排序關鍵字序列(R1,R2….Rn)構建成大頂堆，此堆為初始的無序區；
- 將堆頂元素R[1]與最后一個元素R[n]交換，此時得到新的無序區(R1,R2,……Rn-1)和新的有序區(Rn),且滿足R[1,2…n-1]<=R[n]；
- 由於交換后新的堆頂R[1]可能違反堆的性質，因此需要對當前無序區(R1,R2,……Rn-1)調整為新堆，然后再次將R[1]與無序區最后一個元素交換，得到新的無序區(R1,R2….Rn-2)和新的有序區(Rn-1,Rn)。不斷重復此過程直到有序區的元素個數為n-1，則整個排序過程完成。
7.2 動圖演示
7.3 代碼實現
//聲明全局變量，用於記錄數組array的長度； static int len; /** * 堆排序算法 * * @param array * @return */ public static int[] HeapSort(int[] array) { len = array.length; if (len < 1) return array; //1.構建一個最大堆 buildMaxHeap(array); //2.循環將堆首位（最大值）與末位交換，然后在重新調整最大堆 while (len > 0) { swap(array, 0, len - 1); len--; adjustHeap(array, 0); } return array; } /** * 建立最大堆 * * @param array */ public static void buildMaxHeap(int[] array) { //從最后一個非葉子節點開始向上構造最大堆 for (int i = (len/2 - 1); i >= 0; i--) { //感謝 @讓我發會呆 網友的提醒，此處應該為 i = (len/2 - 1) adjustHeap(array, i); } } /** * 調整使之成為最大堆 * * @param array * @param i */ public static void adjustHeap(int[] array, int i) { int maxIndex = i; //如果有左子樹，且左子樹大於父節點，則將最大指針指向左子樹 if (i * 2 < len && array[i * 2] > array[maxIndex]) maxIndex = i * 2; //如果有右子樹，且右子樹大於父節點，則將最大指針指向右子樹 if (i * 2 + 1 < len && array[i * 2 + 1] > array[maxIndex]) maxIndex = i * 2 + 1; //如果父節點不是最大值，則將父節點與最大值交換，並且遞歸調整與父節點交換的位置。 if (maxIndex != i) { swap(array, maxIndex, i); adjustHeap(array, maxIndex); } }
7.4 算法分析
最佳情況：T(n) = O(nlogn)
最差情況：T(n) = O(nlogn)
平均情況：T(n) = O(nlogn)
8、計數排序（Counting Sort）
計數排序的核心在於將輸入的數據值轉化為鍵存儲在額外開辟的數組空間中。 作為一種線性時間復雜度的排序，計數排序要求輸入的數據必須是有確定范圍的整數。
計數排序(Counting sort)是一種穩定的排序算法。計數排序使用一個額外的數組C，其中第i個元素是待排序數組A中值等於i的元素的個數。然后根據數組C來將A中的元素排到正確的位置。它只能對整數進行排序。
8.1 算法描述
-
花O(n)的時間掃描一下整個序列 A，獲取最小值 min 和最大值 max
-
開辟一塊新的空間創建新的數組 B，長度為 ( max - min + 1)
-
數組 B 中 index 的元素記錄的值是 A 中某元素出現的次數
-
最后輸出目標整數序列，具體的邏輯是遍歷數組 B，輸出相應元素以及對應的個數
8.2 動圖演示
8.3 代碼實現
/** * 計數排序 */ public static int[] CountingSort(int[] array) { if (array.length == 0) return array; int bias, min = array[0], max = array[0]; for (int i = 1; i < array.length; i++) { if (array[i] > max) max = array[i]; if (array[i] < min) min = array[i]; } bias = 0 - min; int[] bucket = new int[max - min + 1]; Arrays.fill(bucket, 0); for (int i = 0; i < array.length; i++) { bucket[array[i] + bias]++; } int index = 0, i = 0; while (index < array.length) { if (bucket[i] != 0) { array[index] = i - bias; bucket[i]--; index++; } else i++; } return array; }
8.4 算法分析
當輸入的元素是n 個0到k之間的整數時，它的運行時間是 O(n + k)。計數排序不是比較排序，排序的速度快於任何比較排序算法。由於用來計數的數組C的長度取決於待排序數組中數據的范圍（等於待排序數組的最大值與最小值的差加上1），這使得計數排序對於數據范圍很大的數組，需要大量時間和內存。
最佳情況：T(n) = O(n+k)
最差情況：T(n) = O(n+k)
平均情況：T(n) = O(n+k)
9、桶排序（Bucket Sort）
桶排序是計數排序的升級版。它利用了函數的映射關系，高效與否的關鍵就在於這個映射函數的確定。
桶排序 (Bucket sort)的工作的原理：假設輸入數據服從均勻分布，將數據分到有限數量的桶里，每個桶再分別排序（有可能再使用別的排序算法或是以遞歸方式繼續使用桶排序進行排
9.1 算法描述
- 人為設置一個BucketSize，作為每個桶所能放置多少個不同數值（例如當BucketSize==5時，該桶可以存放｛1,2,3,4,5｝這幾種數字，但是容量不限，即可以存放100個3）；
- 遍歷輸入數據，並且把數據一個一個放到對應的桶里去；
- 對每個不是空的桶進行排序，可以使用其它排序方法，也可以遞歸使用桶排序；
- 從不是空的桶里把排好序的數據拼接起來。
9.2 圖片演示
9.3 代碼實現
/** * 桶排序 */ public static ArrayList<Integer> BucketSort(ArrayList<Integer> array, int bucketSize) { if (array == null || array.size() < 2) return array; int max = array.get(0), min = array.get(0); // 找到最大值最小值 for (int i = 0; i < array.size(); i++) { if (array.get(i) > max) max = array.get(i); if (array.get(i) < min) min = array.get(i); } int bucketCount = (max - min) / bucketSize + 1; ArrayList<ArrayList<Integer>> bucketArr = new ArrayList<>(bucketCount); ArrayList<Integer> resultArr = new ArrayList<>(); for (int i = 0; i < bucketCount; i++) { bucketArr.add(new ArrayList<Integer>()); } for (int i = 0; i < array.size(); i++) { bucketArr.get((array.get(i) - min) / bucketSize).add(array.get(i)); } for (int i = 0; i < bucketCount; i++) { if (bucketSize == 1) { // 如果帶排序數組中有重復數字時 感謝 @見風任然是風 朋友指出錯誤 for (int j = 0; j < bucketArr.get(i).size(); j++) resultArr.add(bucketArr.get(i).get(j)); } else { if (bucketCount == 1) bucketSize--; ArrayList<Integer> temp = BucketSort(bucketArr.get(i), bucketSize); for (int j = 0; j < temp.size(); j++) resultArr.add(temp.get(j)); } } return resultArr; }
9.4 算法分析
桶排序最好情況下使用線性時間O(n)，桶排序的時間復雜度，取決與對各個桶之間數據進行排序的時間復雜度，因為其它部分的時間復雜度都為O(n)。很顯然，桶划分的越小，各個桶之間的數據越少，排序所用的時間也會越少。但相應的空間消耗就會增大。
最佳情況：T(n) = O(n+k)
最差情況：T(n) = O(n+k)
平均情況：T(n) = O(n2)
10、基數排序（Radix Sort）
基數排序也是非比較的排序算法，對每一位進行排序，從最低位開始排序，復雜度為O(kn),為數組長度，k為數組中的數的最大的位數；
基數排序是按照低位先排序，然后收集；再按照高位排序，然后再收集；依次類推，直到最高位。有時候有些屬性是有優先級順序的，先按低優先級排序，再按高優先級排序。最后的次序就是高優先級高的在前，高優先級相同的低優先級高的在前。基數排序基於分別排序，分別收集，所以是穩定的。
10.1 算法描述
- 取得數組中的最大數，並取得位數；
- arr為原始數組，從最低位開始取每個位組成radix數組；
- 對radix進行計數排序（利用計數排序適用於小范圍數的特點）；
10.2 動圖演示
10.3 代碼實現
/** * 基數排序 */ public static int[] RadixSort(int[] array) { if (array == null || array.length < 2) return array; // 1.先算出最大數的位數； int max = array[0]; for (int i = 1; i < array.length; i++) { max = Math.max(max, array[i]); } int maxDigit = 0; while (max != 0) { max /= 10; maxDigit++; } int mod = 10, div = 1; ArrayList<ArrayList<Integer>> bucketList = new ArrayList<ArrayList<Integer>>(); for (int i = 0; i < 10; i++) bucketList.add(new ArrayList<Integer>()); for (int i = 0; i < maxDigit; i++, mod *= 10, div *= 10) { for (int j = 0; j < array.length; j++) { int num = (array[j] % mod) / div; bucketList.get(num).add(array[j]); } int index = 0; for (int j = 0; j < bucketList.size(); j++) { for (int k = 0; k < bucketList.get(j).size(); k++) array[index++] = bucketList.get(j).get(k); bucketList.get(j).clear(); } } return array; }
10.4 算法分析
最佳情況：T(n) = O(n * k)
最差情況：T(n) = O(n * k)
平均情況：T(n) = O(n * k)
基數排序有兩種方法：
MSD 從高位開始進行排序 LSD 從低位開始進行排序
基數排序 vs 計數排序 vs 桶排序
這三種排序算法都利用了桶的概念，但對桶的使用方法上有明顯差異：
- 基數排序：根據鍵值的每位數字來分配桶
- 計數排序：每個桶只存儲單一鍵值
- 桶排序：每個桶存儲一定范圍的數值