原文:conjugate gradient method (共轭梯度法)

转自:http: blog.csdn.net u article details 共轭梯度法 Conjugate Gradient 是介于最速下降法与牛顿法之间的一个方法,它仅需利用一阶导数信息,但克服了最速下降法收敛慢的缺点,又避免了牛顿法需要存储和计算Hesse矩阵并求逆的缺点,共轭梯度法不仅是解决大型线性方程组最有用的方法之一,也是解大型非线性最优化最有效的算法之一。 在各种优化算法中,共轭 ...

2015-06-17 13:12 0 3417 推荐指数:

查看详情

共轭梯度Conjugate Gradient,CG)算法

以下皆为从网络资料获取的感性认知 共轭定义 共轭在数学、物理、化学、地理等学科中都有出现。 本意:两头牛背上的架子称为轭,轭使两头牛同步行走。共轭即为按一定的规律相配的一对。通俗点说就是孪生。在数学中有共轭复数、共轭根式、共轭双曲线、共轭矩阵等。 求解目标 共轭梯度是数值 ...

Wed Jun 02 22:54:00 CST 2021 0 1112
共轭方向共轭梯度

(FR)共轭梯度是介于最速下降法和牛顿之间的一个方法,相比最速下降法收敛速度快,并且不需要像牛顿一样计算Hesse矩阵,只需计算一阶导数 共轭梯度共轭方向的一种,意思是搜索方向都互相共轭 共轭的定义如下: 共轭梯度是一种典型的共轭方向,它的搜索方向是负 ...

Mon Jun 11 22:45:00 CST 2018 0 3787
共轭梯度(Python实现)

共轭梯度(Python实现) 使用共轭梯度,分别使用Armijo准则和Wolfe准则来求步长 求解方程 \(f(x_1,x_2)=(x_1^2-2)^4+(x_1-2x_2)^2\)的极小值 运行结果 ...

Thu Dec 30 09:55:00 CST 2021 0 1602
FR共轭梯度 matlab

% FR共轭梯度 function sixge x0=[1,0]'; [x,val,k]=frcg('fun','gfun',x0) end function f=fun(x) f=100*(x(1)^2-x(2))^2+(x(1)-1)^2; end function g ...

Thu Jun 28 23:44:00 CST 2018 0 1506
梯度下降法-理解共轭梯度

共轭梯度关键是要找正交向量寻找方向,去不断逼近解。 其本质是最小二乘解的思想 最小二乘解 其中A系数矩阵是确定的,Ax是永远都取不到向量 b的,取得到那就是不用最小二乘解 我要求AX和b最小的距离,就是要求b在Ax上的投影,向量b-AX一定是要垂直于AX ...

Sun Mar 31 05:18:00 CST 2019 1 3478
共轭函数 Conjugate Function

前情提要:勒让德变换 定义 对于原函数\(f(x),x \in D\),其共轭函数为 \[f^*(y)=\sup_{x \in D}(<y,x>-f(x)) \] 其中注意\(<y,x>\) 对于标量:\(y \cdot x\) 对于向量:\(y ...

Mon Oct 25 04:57:00 CST 2021 0 1190
共轭先验(conjugate prior)

共轭是贝叶斯理论中的一个概念,一般共轭要说是一个先验分布与似然函数共轭; 那么就从贝叶斯理论中的先验概率,后验概率以及似然函数说起: 在概率论中有一个条件概率公式,有两个变量第一个是A,第二个是B ,A先发生,B后发生,B的发生与否是与A有关系的,那么我们要想根据B的发生 ...

Wed Jan 20 05:53:00 CST 2016 0 7675
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM