最優化理論與算法------阻尼牛頓法(附Matlab實現)

 

 

 

function[x,val,k]=dampnm(fun,gfun,Hess,x0)
%功能:用阻尼牛頓法求解無約束優化問題：minf（x）;
%輸入:x0是初始點,fun,gfun,Hess分別是目標函數和梯度Hess陣函數;
%輸出:x，va1分別是近似最優解和近似最優值,k是迭代次數;
maxk = 5000;
rho = 0.55;
sigma =0.4;
k = 0;
epsion = 1e-8;
while (k<maxk)
    gk=feval(gfun,x0);
    Gk=feval(Hess,x0);
    dk=-inv(Gk)*transpose(gk);
    if(norm(dk)<epsion)
        break;
    end
    m=0;
    mk=0;
    while(m<20)
        if(feval(fun,x0+rho^m*dk)<=feval(fun,x0)+sigma*rho^m*gk*dk)
            mk=m;
            break;
        end
        m=m+1;
    end
    x0=x0+rho^mk*dk;
    k=k+1;
end
x=x0;
val=feval(fun,x);

 

 

 

function y = fun(x)
%原函數
y = (1 - x(1))^2 + 100*(x(2)-x(1)^2)^2;

 

 

 

function g = gfun(x)
%求一階偏導函數
g = [-2+2*x(1)-400*x(1)*(x(2)-x(1)^2),200*(x(2)-x(1)^2)];

 

 

 

function He = Hess(x)
n = length(x);
He = zeros(n,n);
%求二階偏導函數
He = [2-400*(x(2)-3*x(1)^2),-400*x(1);-400*x(1),200];

 

 

注意修改原函數，一階偏導函數，二階偏導函數。