矩陣求逆運算有多種算法:
- 伴隨矩陣的思想,分別算出其伴隨矩陣和行列式,再算出逆矩陣;
- LU分解法(若選主元即為LUP分解法: Ax = b ==> PAx = Pb ==>LUx = Pb ==> Ly = Pb ==> Ux = y ,每步重新選主元),它有兩種不同的實現;
- A-1=(LU)-1=U-1L-1,將A分解為LU后,對L和U分別求逆,再相乘;
- 通過解線程方程組Ax=b的方式求逆矩陣。b分別取單位陣的各個列向量,所得到的解向量x就是逆矩陣的各個列向量,拼成逆矩陣即可。
下面是這兩種方法的c++代碼實現,所有代碼均利用常規數據集驗證過。
文內程序旨在實現求逆運算核心思想,某些異常檢測的功能就未實現(如矩陣維數檢測、矩陣奇異等)。
注意:文中A陣均為方陣。
伴隨矩陣法C++程序:
1 #include <iostream> 2 #include <ctime> //用於產生隨機數據的種子 3 4 #define N 3 //測試矩陣維數定義 5 6 //按第一行展開計算|A| 7 double getA(double arcs[N][N],int n) 8 { 9 if(n==1) 10 { 11 return arcs[0][0]; 12 } 13 double ans = 0; 14 double temp[N][N]={0.0}; 15 int i,j,k; 16 for(i=0;i<n;i++) 17 { 18 for(j=0;j<n-1;j++) 19 { 20 for(k=0;k<n-1;k++) 21 { 22 temp[j][k] = arcs[j+1][(k>=i)?k+1:k]; 23 24 } 25 } 26 double t = getA(temp,n-1); 27 if(i%2==0) 28 { 29 ans += arcs[0][i]*t; 30 } 31 else 32 { 33 ans -= arcs[0][i]*t; 34 } 35 } 36 return ans; 37 } 38 39 //計算每一行每一列的每個元素所對應的余子式,組成A* 40 void getAStart(double arcs[N][N],int n,double ans[N][N]) 41 { 42 if(n==1) 43 { 44 ans[0][0] = 1; 45 return; 46 } 47 int i,j,k,t; 48 double temp[N][N]; 49 for(i=0;i<n;i++) 50 { 51 for(j=0;j<n;j++) 52 { 53 for(k=0;k<n-1;k++) 54 { 55 for(t=0;t<n-1;t++) 56 { 57 temp[k][t] = arcs[k>=i?k+1:k][t>=j?t+1:t]; 58 } 59 } 60 61 62 ans[j][i] = getA(temp,n-1); //此處順便進行了轉置 63 if((i+j)%2 == 1) 64 { 65 ans[j][i] = - ans[j][i]; 66 } 67 } 68 } 69 } 70 71 //得到給定矩陣src的逆矩陣保存到des中。 72 bool GetMatrixInverse(double src[N][N],int n,double des[N][N]) 73 { 74 double flag=getA(src,n); 75 double t[N][N]; 76 if(0==flag) 77 { 78 cout<< "原矩陣行列式為0,無法求逆。請重新運行" <<endl; 79 return false;//如果算出矩陣的行列式為0,則不往下進行 80 } 81 else 82 { 83 getAStart(src,n,t); 84 for(int i=0;i<n;i++) 85 { 86 for(int j=0;j<n;j++) 87 { 88 des[i][j]=t[i][j]/flag; 89 } 90 91 } 92 } 93 94 return true; 95 } 96 97 int main() 98 { 99 bool flag;//標志位,如果行列式為0,則結束程序 100 int row =N; 101 int col=N; 102 double matrix_before[N][N]{};//{1,2,3,4,5,6,7,8,9}; 103 104 //隨機數據,可替換 105 srand((unsigned)time(0)); 106 for(int i=0; i<N ;i++) 107 { 108 for(int j=0; j<N;j++) 109 { 110 matrix_before[i][j]=rand()%100 *0.01; 111 } 112 } 113 114 cout<<"原矩陣:"<<endl; 115 116 for(int i=0; i<N ;i++) 117 { 118 for(int j=0; j<N;j++) 119 { 120 //cout << matrix_before[i][j] <<" "; 121 cout << *(*(matrix_before+i)+j)<<" "; 122 } 123 cout<<endl; 124 } 125 126 127 double matrix_after[N][N]{}; 128 flag=GetMatrixInverse(matrix_before,N,matrix_after); 129 if(false==flag) 130 return 0; 131 132 133 cout<<"逆矩陣:"<<endl; 134 135 for(int i=0; i<row ;i++) 136 { 137 for(int j=0; j<col;j++) 138 { 139 cout <<matrix_after[i][j] <<" "; 140 //cout << *(*(matrix_after+i)+j)<<" "; 141 } 142 cout<<endl; 143 } 144 145 GetMatrixInverse(matrix_after,N,matrix_before); 146 147 cout<<"反算的原矩陣:"<<endl;//為了驗證程序的精度 148 149 for(int i=0; i<N ;i++) 150 { 151 for(int j=0; j<N;j++) 152 { 153 //cout << matrix_before[i][j] <<" "; 154 cout << *(*(matrix_before+i)+j)<<" "; 155 } 156 cout<<endl; 157 } 158 159 160 return 0; 161 }
LU分解法C++程序:
1 #include <iostream> 2 #include <cmath> 3 #include <ctime> 4 5 #define N 300 6 7 //矩陣乘法 8 double * mul(double A[N*N],double B[N*N]) 9 { 10 double *C=new double[N*N]{}; 11 for(int i=0;i<N;i++) 12 { 13 for(int j=0;j<N;j++) 14 { 15 for(int k=0;k<N;k++) 16 { 17 C[i*N+j] += A[i*N+k]*B[k*N+j]; 18 } 19 } 20 } 21 22 //若絕對值小於10^-10,則置為0(這是我自己定的) 23 for(int i=0;i<N*N;i++) 24 { 25 if(abs(C[i])<pow(10,-10)) 26 { 27 C[i]=0; 28 } 29 } 30 31 return C; 32 } 33 34 //LUP分解 35 void LUP_Descomposition(double A[N*N],double L[N*N],double U[N*N],int P[N]) 36 { 37 int row=0; 38 for(int i=0;i<N;i++) 39 { 40 P[i]=i; 41 } 42 for(int i=0;i<N-1;i++) 43 { 44 double p=0.0d; 45 for(int j=i;j<N;j++) 46 { 47 if(abs(A[j*N+i])>p) 48 { 49 p=abs(A[j*N+i]); 50 row=j; 51 } 52 } 53 if(0==p) 54 { 55 cout<< "矩陣奇異,無法計算逆" <<endl; 56 return ; 57 } 58 59 //交換P[i]和P[row] 60 int tmp=P[i]; 61 P[i]=P[row]; 62 P[row]=tmp; 63 64 double tmp2=0.0d; 65 for(int j=0;j<N;j++) 66 { 67 //交換A[i][j]和 A[row][j] 68 tmp2=A[i*N+j]; 69 A[i*N+j]=A[row*N+j]; 70 A[row*N+j]=tmp2; 71 } 72 73 //以下同LU分解 74 double u=A[i*N+i],l=0.0d; 75 for(int j=i+1;j<N;j++) 76 { 77 l=A[j*N+i]/u; 78 A[j*N+i]=l; 79 for(int k=i+1;k<N;k++) 80 { 81 A[j*N+k]=A[j*N+k]-A[i*N+k]*l; 82 } 83 } 84 85 } 86 87 //構造L和U 88 for(int i=0;i<N;i++) 89 { 90 for(int j=0;j<=i;j++) 91 { 92 if(i!=j) 93 { 94 L[i*N+j]=A[i*N+j]; 95 } 96 else 97 { 98 L[i*N+j]=1; 99 } 100 } 101 for(int k=i;k<N;k++) 102 { 103 U[i*N+k]=A[i*N+k]; 104 } 105 } 106 107 } 108 109 //LUP求解方程 110 double * LUP_Solve(double L[N*N],double U[N*N],int P[N],double b[N]) 111 { 112 double *x=new double[N](); 113 double *y=new double[N](); 114 115 //正向替換 116 for(int i = 0;i < N;i++) 117 { 118 y[i] = b[P[i]]; 119 for(int j = 0;j < i;j++) 120 { 121 y[i] = y[i] - L[i*N+j]*y[j]; 122 } 123 } 124 //反向替換 125 for(int i = N-1;i >= 0; i--) 126 { 127 x[i]=y[i]; 128 for(int j = N-1;j > i;j--) 129 { 130 x[i] = x[i] - U[i*N+j]*x[j]; 131 } 132 x[i] /= U[i*N+i]; 133 } 134 return x; 135 } 136 137 /*****************矩陣原地轉置BEGIN********************/ 138 139 /* 后繼 */ 140 int getNext(int i, int m, int n) 141 { 142 return (i%n)*m + i/n; 143 } 144 145 /* 前驅 */ 146 int getPre(int i, int m, int n) 147 { 148 return (i%m)*n + i/m; 149 } 150 151 /* 處理以下標i為起點的環 */ 152 void movedata(double *mtx, int i, int m, int n) 153 { 154 double temp = mtx[i]; // 暫存 155 int cur = i; // 當前下標 156 int pre = getPre(cur, m, n); 157 while(pre != i) 158 { 159 mtx[cur] = mtx[pre]; 160 cur = pre; 161 pre = getPre(cur, m, n); 162 } 163 mtx[cur] = temp; 164 } 165 166 /* 轉置,即循環處理所有環 */ 167 void transpose(double *mtx, int m, int n) 168 { 169 for(int i=0; i<m*n; ++i) 170 { 171 int next = getNext(i, m, n); 172 while(next > i) // 若存在后繼小於i說明重復,就不進行下去了(只有不重復時進入while循環) 173 next = getNext(next, m, n); 174 if(next == i) // 處理當前環 175 movedata(mtx, i, m, n); 176 } 177 } 178 /*****************矩陣原地轉置END********************/ 179 180 //LUP求逆(將每列b求出的各列x進行組裝) 181 double * LUP_solve_inverse(double A[N*N]) 182 { 183 //創建矩陣A的副本,注意不能直接用A計算,因為LUP分解算法已將其改變 184 double *A_mirror = new double[N*N](); 185 double *inv_A=new double[N*N]();//最終的逆矩陣(還需要轉置) 186 double *inv_A_each=new double[N]();//矩陣逆的各列 187 //double *B =new double[N*N](); 188 double *b =new double[N]();//b陣為B陣的列矩陣分量 189 190 for(int i=0;i<N;i++) 191 { 192 double *L=new double[N*N](); 193 double *U=new double[N*N](); 194 int *P=new int[N](); 195 196 //構造單位陣的每一列 197 for(int i=0;i<N;i++) 198 { 199 b[i]=0; 200 } 201 b[i]=1; 202 203 //每次都需要重新將A復制一份 204 for(int i=0;i<N*N;i++) 205 { 206 A_mirror[i]=A[i]; 207 } 208 209 LUP_Descomposition(A_mirror,L,U,P); 210 211 inv_A_each=LUP_Solve (L,U,P,b); 212 memcpy(inv_A+i*N,inv_A_each,N*sizeof(double));//將各列拼接起來 213 } 214 transpose(inv_A,N,N);//由於現在根據每列b算出的x按行存儲,因此需轉置 215 216 return inv_A; 217 } 218 219 int main() 220 { 221 double *A = new double[N*N](); 222 223 srand((unsigned)time(0)); 224 for(int i=0; i<N ;i++) 225 { 226 for(int j=0; j<N;j++) 227 { 228 A[i*N+j]=rand()%100 *0.01; 229 } 230 } 231 232 233 double *E_test = new double[N*N](); 234 double *invOfA = new double[N*N](); 235 invOfA=LUP_solve_inverse(A); 236 237 E_test=mul(A,invOfA); //驗證精確度 238 239 cout<< "矩陣A:" <<endl; 240 for(int i=0;i<N;i++) 241 { 242 for(int j=0;j<N;j++) 243 { 244 cout<< A[i*N+j]<< " " ; 245 } 246 cout<<endl; 247 } 248 249 cout<< "inv_A:" <<endl; 250 for(int i=0;i<N;i++) 251 { 252 for(int j=0;j<N;j++) 253 { 254 cout<< invOfA[i*N+j]<< " " ; 255 } 256 cout<<endl; 257 } 258 259 cout<< "E_test:" <<endl; 260 for(int i=0;i<N;i++) 261 { 262 for(int j=0;j<N;j++) 263 { 264 cout<< E_test[i*N+j]<< " " ; 265 } 266 cout<<endl; 267 } 268 269 return 0; 270 }
兩種方法運行時間測試樣例(運行環境不同可能會有不同結果,我的主頻是2.6GHz,內存8g。時間單位:毫秒ms)
個人認為LU分解法的兩個1ms其實是不准確的(實際應遠小於1ms,有興趣可以試試看)。
三種方法的復雜度分析:
- 伴隨矩陣法:此法的時間復雜度主要來源於計算行列式,由於計算行列式的函數為遞歸形式,其復雜度為O(n2)[參見這里],而整體算法需要計算每個元素的代數余子式,時間復雜度直接擴大n2倍,變為O(n4)。而遞歸算法本身是需要占用棧空間的,因此需要注意:當矩陣的維數較大時,隨着遞歸深度的加大,臨時占用的空間將會越來越多,甚至可能會出現棧不夠用的情況(當然本次實現沒有遇到,因為此時的時間開銷實在令人難以忍受)!
- LU分解法:此法主要是分解過程耗時,求解三角矩陣的時間復雜度是O(n2),分解過程是O(n3),總體來說和高斯消元法差不多,但是避免了高斯消元法的主元素為0的過程。 為了節省空間,A=LU分解的元素存放在A的矩陣中(因為當用過了a[i][j]元素后,便不再用了,所以可以占用原矩陣A的空間)。但是有利就有弊,考慮如果是上千個元素的矩陣,引用傳參,這樣就改變原矩陣了,因此程序中使用A_mintor作為副本進行使用。另外,可以看出,當矩陣維數超過某值時,內存空間便不夠用了(具體是多少沒有試驗)。還需注意的一點是:程序中未對矩陣是否奇異進行檢查,如果矩陣奇異,就不應再進行下去了。
- LU分解法中,還可以先分別求出U和L的逆,再相乘,此法其實與常規LU分解法差不多。
其他:
文章中用到了矩陣的原地轉置算法,具體請參考第4篇文獻,這種方法降低了空間復雜度。
需要注意的問題:
本文介紹的方法new了一些指針,未釋放,會出現內存泄漏,使用前請釋放掉。
本文參考了以下幾篇文章:
- http://www.cnblogs.com/tianya2543/p/3999118.html
- http://blog.csdn.net/cumtwyc/article/details/49980063
- http://blog.csdn.net/xx_123_1_rj/article/details/39553809
- http://www.jb51.net/article/53715.htm