那些网站建设的好,推荐做ppt照片的网站,wordpress怎么建栏目,国外做图片识别训练的网站文章目录 连续性是求导的前提条件通过求导发现 y 如何随 x 而变凸函数有一个全局最低点 机器学习所关心的问题之一捕捉函数的变化趋势#xff0c;也就是标签#xff08;y#xff09;是如何随着特征字段#xff08;x#xff09;而变化的#xff0c;这个变化趋势是通过求导… 文章目录 连续性是求导的前提条件通过求导发现 y 如何随 x 而变凸函数有一个全局最低点 机器学习所关心的问题之一捕捉函数的变化趋势也就是标签y是如何随着特征字段x而变化的这个变化趋势是通过求导和微分来实现的。
连续性是求导的前提条件
具有连续性的函数y值随x值的变化是连贯不间断的。 并不是所有函数都具有连续性像上面提到的阶跃函数从-1到1的跃迁明显就不具有连续性。
通过求导发现 y 如何随 x 而变
导数是定义在连续函数的基础之上的。想要对函数求导函数至少要有一段是连续的。
当A点和B点的距离越来越小两个点无限接近逼近极限的时候在即将重合而又未重合的一刹那割线就变成切线了如下图所示
而此时对切点求导所得的值就是切线的斜率。
当斜率为正的时候说明函数目前变化趋势是在上升。当斜率为负的时候说明函数目前变化趋势是在下降。当斜率为0的时候说明函数正处于全局或者局部的最低点趋势即将发生改变。
总结函数变化的趋势至少由两个点体现即当A趋近于B的时候求其变换的极限这就是导数。导数的值和它附近的一小段连续函数有关。如果没有那么一段连续的函数就无法计算其切线的斜率函数在该点也就是不可导的。
通过求导实现了以直代曲也发现了y值随x值而变化的方向。引申到机器学习领域通过导数就可以得到标签y随特征x而变化的方向。
导数是针对一个变量而言的变化趋向。而对于多元即多变量的函数他关于其中一个变量的导数为偏导数此时保持其他变量恒定。如果其中所有变量都允许变化则成为全导数。
凸函数有一个全局最低点
凸函数的定义比较抽象这里指通过函数徒刑从直观上去理解。首先函数形状必须是连续的而不是断续的。其次函数平滑只存在一个最低点整个函数呈现碗状。而非凸函数困难呈现各种形状有很多个底部机器学习里面叫作局部最低点。下图所示的函数f1就是一个凸函数而函数f2就不是一个凸函数。
图说凸函数的小球不管初始化位置放在哪里都可以沿着导数给出的方向滚到最低点而非凸函数中小球就可能卡在半路也就是局部最低点。在机器学习中无法到达全局最低点是很不理想的。
在连续函数图像上的局部或者全局最低点对函数求导导数值都为0。
正是因为只有凸函数能够确保降到全局最低点所以用在机器学习的梯度下降过程中。 学习机器学习的参考资料 1书籍 利用Python进行数据分析 西瓜书 百面机器学习 机器学习实战 阿里云天池大赛赛题解析(机器学习篇) 白话机器学习中的数学 零基础学机器学习 图解机器学习算法 …
2机构 光环大数据 开课吧 极客时间 七月在线 深度之眼 贪心学院 拉勾教育 博学谷 …
