灵犀科技网站开发,做资格核查在哪个网站,免费的上色软件,洛阳便宜网站建设公司目标函数为n维二次型函数时，共轭方向法能够在n步迭代之后得到极小点。接下来会发现#xff0c;共轭方向法的中间迭代步骤具有一种很有意义的性质。选定x(0)作为迭代初始点#xff0c; d(0)为初始搜索方向#xff0c; 有#xff1a; x(1)x(0)−(g(0)Td(0)d(0)TQd(0))d(0)\… 目标函数为nn维二次型函数时，共轭方向法能够在nn步迭代之后得到极小点。接下来会发现共轭方向法的中间迭代步骤具有一种很有意义的性质。选定x(0)\boldsymbol{x}^{(0)}作为迭代初始点 d(0)\boldsymbol{d}^{(0)}为初始搜索方向 有
x(1)x(0)−(g(0)Td(0)d(0)TQd(0))d(0)\boldsymbol{x}^{(1)} = \boldsymbol{x}^{(0)} - \biggl( \frac{\boldsymbol{g}^{(0)T}\boldsymbol{d}^{(0)}}{\boldsymbol{d}^{(0)T}Q\boldsymbol{d}^{(0)}}\biggr)\boldsymbol{d}^{(0)}可以证明 g(1)Td(0)0\boldsymbol{g}^{(1)T}\boldsymbol{d}^{(0)}=0推导过程 g(1)Td(0)(Qx(1)−b)Td(0)x(0)TQd(0)−(g(0)Td(0)d(0)TQd(0))d(0)TQd(0)−bTd(0)g(0)Td(0)−g(0)Td(0)0\boldsymbol{g}^{(1)T}\boldsymbol{d}^{(0)} = (Q\boldsymbol{x}^{(1)}-\boldsymbol{b})^T\boldsymbol{d}^{(0)} \\=\boldsymbol{x}^{(0)T}Q\boldsymbol{d}^{(0)} - \biggl( \frac{\boldsymbol{g}^{(0)T}\boldsymbol{d}^{(0)}}{\boldsymbol{d}^{(0)T}Q\boldsymbol{d}^{(0)}}\biggr)\boldsymbol{d}^{(0)T}Q\boldsymbol{d}^{(0)}-\boldsymbol{b}^{T}\boldsymbol{d}^{(0)}\\
=\boldsymbol{g}^{(0)T}\boldsymbol{d}^{(0)}-\boldsymbol{g}^{(0)T}\boldsymbol{d}^{(0)}=0方程g(1)Td(0)0\boldsymbol{g}^{(1)T}\boldsymbol{d}^{(0)}=0表示步长为α0argminϕ0(α)\alpha_0=\arg min \phi_0(\alpha),其中 ϕ0(α)f(x(0)αd(0))\phi_0(\alpha)=f(\boldsymbol{x}^{(0)}+\alpha\boldsymbol{d}^{(0)}).推导过程如下 由链式法则可得 dϕ0dα(α)∇f(x(0)αd(0))Td(0)\frac{d\phi_0}{d\alpha}(\alpha)=\nabla f(\boldsymbol{x}^{(0)}+\alpha\boldsymbol{d}^{(0)})^T\boldsymbol{d}^{(0)}将αα0\alpha = \alpha_0带入得 dϕ0dα(α0)g(1)Td(0)0\frac{d\phi_0}{d\alpha}(\alpha_0) = \boldsymbol{g}^{(1)T}\boldsymbol{d}^{(0)} = 0由于ϕ0\phi_0是关于α\alpha的平方函数其中α2\alpha^2的系数为d(0)TQd(0)0\boldsymbol{d}^{(0)T}Q\boldsymbol{d}^{(0)} >0 说明ϕ0\phi_0存在唯一的极小点因此 α0argminϕ0(α)\alpha_0=\arg min \phi_0(\alpha)。 以此类推可以证明对于所有kk，都有：
g(k+1)Td(k)=0
\boldsymbol{g}^{(k+1)T}\boldsymbol{d}^{(k)} = 0即 α0argminf(x(k)αd(k))\alpha_0=\arg min f(\boldsymbol{x}^{(k)}+\alpha\boldsymbol{d}^{(k)})实际上还有更一般的结论如下引理所示 * 引理 *在共轭方向算法中 对于所有的k,0≤k≤n−1,0≤i≤kk, 0 \le k \le n-1, 0 \le i \le k 都有 : g(k1)Td(i)0\boldsymbol{g}^{(k+1)T}\boldsymbol{d}^{(i)} = 0
