网站开发使用软件环境硬件环境,wordpress no.7,河南代做网站,网站建设怎么推广目录 前言1 题目介绍2 数据清洗3 数据可视化分析4 模型训练5 源码 前言
这是我在大三选修课的课程设计#xff0c;内容参考了Kaggle上高赞的代码#xff0c;有详细批注#xff0c;整体比较基础#xff0c;结构相对完整#xff0c;便于初学者学习。这个是一个回归问题内容参考了Kaggle上高赞的代码有详细批注整体比较基础结构相对完整便于初学者学习。这个是一个回归问题我的另外一篇博客《Kaggle分类问题Titanic——Machine Learning from Disaster》介绍了回归问题。除此之外我的《电商评论文本挖掘》也是我当年的课程设计也有详细的批注相比这个难度会稍微高些。
1 题目介绍
题目背景自1886年第一辆奔驰汽车问世以来梅赛德斯奔驰一直代表着重要的汽车创新。为确保每一款独特的汽车配置在上路之前的安全性和可靠性Daimler的工程师开发了一个强大的测试系统。但是如果没有强大的算法为如此多可能的特征组合计算他们的测试系统的速度这将是复杂且耗时的。而我们的任务是使用代表奔驰汽车功能的不同排列的数据集以预测通过测试所需的时间。这个时间将有助于更快的测试在不降低Daimler标准的情况下减少二氧化碳排放。
数据介绍数据匿名没有具体介绍共有378个变量分别为时间y以及其他相关特征。
2 数据清洗
1对数据进行概览。 2查看所有变量的种类。
3查看为object类的列 4查看是否有缺失值无 5查看int列可以看出大部分整数列的值都是0与1有些全为0的可以将他们删去。
3 数据可视化分析
1利用stripplot绘制X0与y的关系。 2利用boxplot绘制X2与y的关系。 3利用violinplot绘制X3与y的关系。 4利用barh绘制水平条形图展现01变量0与1的比重。 5利用heatmap查看每列0或1所对应的平均y值可以发现出现了很好的区分。 6利用regplot绘制ID列的线性回归图可以看出随着id的增大有个轻微下降的趋势。 7利用violinplot查看查看训练集与测试集ID的分布可以看出ID是随机的。 8根据xgboost得到重要的变量。 9根据随机森林得到重要的变量。
4 模型训练
使用PCA、ICA、tSVD等对数据进行降维。 使用TPOT自动选择机器学习模型和参数。搜索整个管道空间是特别耗时的在默认的TPOT参数下100 generations with 100 population sizeTPOT将在完成前评估1万个管道配置。网格搜索1万个超参数组合用于机器学习算法而且用10倍的交叉验证来评估这1万个模型这意味着大约有10万个模型在一个网格搜索的训练数据中被匹配和评估。这是一个非常耗时的过程即使对于像决策树这样的简单模型也是如此。
典型的TPOT运行将需要数小时到数天才能完成除非是一个小数据集但是可以中断运行并看到目前为止最好的结果。TPOT还提供warm_start参数可以从中断的地方重新启动之前运行的TPOT。
generations(default100)运行管道优化过程的迭代次数。一定是正数。一般来说值越大性能越好。
population_size(default100)在每一代遗传中保留的个体数(基因编程)。一定是正数。一般来说值越大性能越好。
verbosity(default0)0将不会打印任何东西1将打印很少的信息2打印更多的信息并提供一个进度条3打印所有内容并提供一个进度条。 导出TPOT选择好的模型与其参数。
5 源码
为了更好的观看效果我将源码放在了Github上如有帮助希望点个星星支持一下感谢。
