公司企业网站模板,网络热词作文,医院网站建设滞后,动画网站模板线性回归问题属于机器学习-监督学习中的回归问题。
回归问题是通过已知的变量来预测或者解释另一个变量#xff0c;其输出是一个连续值。
线性是指使用线性模型去解决问题。 以房价预测为例。
问题是#xff1a;已有往年的卖房案例数据#xff0c;需要根据已知数据#…线性回归问题属于机器学习-监督学习中的回归问题。
回归问题是通过已知的变量来预测或者解释另一个变量其输出是一个连续值。
线性是指使用线性模型去解决问题。 以房价预测为例。
问题是已有往年的卖房案例数据需要根据已知数据预测现在这个案例的房子的价格。
我们最终要达到的目的是预测值尽量贴近实际值。
为了简化问题假设影响房价的三个因素面积、层数和房龄特征Feature那么可以将房价预测模型表述为 其中x1、x2、x3分别代表案例的面积、层数和房龄数据w1、w2、w3分别代表这三个因素影响房价的权重b表示当以上三个因素都为0时房子的价格f(x)表述该案例的房价预测值。第一个公式是向量的表述方式。
现在就得到了一个线性回归模型下一个问题就是要找到w和b的取值。
由于我们的目的是让预测值和实际值之间的差值尽量小那么为了衡量这种差值提出了cost function其表述为 cost function是关于wb的函数其中m代表的是训练样本的个数。此处用square error来表述差值然后进行平均化处理进而来表达整个训练样本上的差值情况。
根据我们的目的下一步要做的 为了解决这个问题此处使用了梯度下降算法直觉上理解就是为了找到最低点w和b的每一次变化都朝着让J减小的方向进行知道找到最小值该过程的数学表达式为 以上两个公式可以让w和b朝着让J减小的方向变化公式中的 α学习率表示w和b前进的步子大小
α越大前进的步子越大但是过大可能会导致发散无法到达最小点。
α越小前进的步子越小梯度下降的速度就会很慢。
所以选择一个合适的学习率是很重要的。
当到达最低点时J关于w和b的导数为0此时w和b不再变化也就是找到了合适的w和b的值。 以上是一个简化的线性回归模型解决问题的过程其中还存在很多问题
如何选择合适的学习率
如果特征之间的size相差较大要怎么处理Feature scaling
如何检测是否梯度下降算法收敛learning curve / ε
实际代码要如何实现
……
以上问题后续继续编写 参考
1、西瓜书
2、吴恩达老师的课程【官方中英】2025年公认最好的【吴恩达机器学习课程】附课件、代码及实战项目--人工智能/机器学习/深度学习_哔哩哔哩_bilibili
3、ds老师、Chat老师……
