网站后台管理密码忘了,定制版软件,wordpress打字烟花,建筑公司经营范围参考1#xff1a;线性回归 线性回归是一种统计技术用于对输出变量与一个或多个输入变量之间的关系进行建模 用外行人的话来说#xff0c;将其视为通过某些数据点拟合一条线#xff0c;如下所示 以便在未知数据上进行预测#xff0c;假设变量之间存在线性关系 点和线之间存在微小…1线性回归 线性回归是一种统计技术用于对输出变量与一个或多个输入变量之间的关系进行建模 用外行人的话来说将其视为通过某些数据点拟合一条线如下所示 以便在未知数据上进行预测假设变量之间存在线性关系 点和线之间存在微小的差异被称为残差 他们是数据点和预测线之间的差异 取每个残差并对他们进行平方得到平方误差残差越大正方形的面积就越大 如果我们将给定线的所有这些正方形的面积相加我们将得到平方误差的总和这就是我们的损失函数 我们将三分之一的数据并将其放入测试数据集中剩余的三分之二将成为训练数据集 然后使用训练数据集来拟合回归线 然后测试数据集将用于验证回归线 这样做是为了确保回归在之前未见过的数据上表现良好。
决策树
决策树为了达到目标根据一定条件进行选择的过程 常用语房地产、银行为了找到核心客户的学习方法 常被用于分类和回归 决策树由 根节点子节点、叶子节点 决策树的分类标准熵 表示一个系统内在的混乱程度熵代表是分支下样本种类的丰富性 样本种类越多越混乱熵值越大决策树的构造深度就是熵值的降低熵值降低越快代表决策树分类效率越高 决策树最大的优点是 天然的可解释性的数据自动处理 缺点就是 不会存在完美的决策树如果存在就是过拟合了 防止过拟合就是剪枝
剪枝有两种预剪枝和后剪枝 预剪枝是在训练开始前规定条件比如树达到某一深度就停止训练 后剪枝则是先找到树再根据一定条件如限制叶子节点的个数去掉一部分分支 随机森林
随机森林里面有很多决策树 随机森林是决策树的升级版 随机指的是树的生长过程 随机森林中的树也是各不相同 在构建决策树时我们也不会使用数据的全部特征而是随机选取部分特征进行训练 每棵树使用的样本特征各不相同训练的结果自然也各不相同 我们并不知道哪些是异常样本 也不知道哪些特征对分类结果影响更大随机的过程降低了两者对分类结果的影响 随机森林的输出结果由投票决定如果大部分决策认为测试数据是好苹果那我们就认为它是好苹果这很像人类的民主决策 推理过程和结论各不相同但当每个人都拥有投票权时往往能做出较优的决策因为树与树之间的独立它们可以同时训练不需要花太多时间。 随机的过程让它不容易拟合能处理特征较多的高维数据 也不需要做特征选择合理训练后准确性很高不知道使用什么分类方法时 先试一试随机森林准没错 在机器学习中随机森林属于集成学习也就是将多个模型组合起来解决问题 这些模型会独立、预测、在投票出结果准确性往往比单独的模型高很多
聚类
k-mean k 表示样本数把数据分为几类 将一群无标签数据按特征属性分为有标签属性 例如有一个很多水果但是很混乱我不知道有哪几种水果
