绍兴专业网站建设公司,网站seo设计,seo点击排名工具有用吗,合肥做网站汇站网从2022年开始#xff0c;以华为pangu weather为代表的气象大模型及fuxi、fengwu等相继涌现#xff0c;公开发表的文章里也展示了模型与ec预报性能的对比#xff0c;并且这些大模型也公开了相应的代码或模型#xff0c;便于人人都可测试使用#xff08;如何在本地部署大模型…从2022年开始以华为pangu weather为代表的气象大模型及fuxi、fengwu等相继涌现公开发表的文章里也展示了模型与ec预报性能的对比并且这些大模型也公开了相应的代码或模型便于人人都可测试使用如何在本地部署大模型可以参考如何在本地部署现有气象大模型_pip install ai-models-panguweather-CSDN博客
。
最近尝试对这些大模型尝试进行了相关研阅调研分析以下是个人的几点思考也欢迎各位老师专家批评指正也可以直接看第八条
首先气象大模型在运行效率上的优势比较明显哪怕穷人版GPU我用的20年titan rtx也仅需10多分钟即可实现未来10天全球25公里逐6小时不同等压层的rtuv预报。这与现在主流预报方式是不同的。
其次从预报性能来说各模型也都在文章里指出相较于ifs在mse、mae、rmse等方面的优势。因为模型本身在进行参数优化的时候都是以mse、mae、rmse作为loss所以只要这个问题是可学习的后面第八条我们讨论为什么可学习那么模型在mse、mae、rmse指标上是可以达到局部最优的。
第三我们从模型角度看无论是pangu、fuxi、fengwu都仍然是标准transform系列所以如果对于计算机视觉方向的研究人员来说模型方法的优势相对于CVPR、iccv等上面的文章吸引力反倒不足。
但是第四点不得不提的是气象输入数据确实庞大这在计算机视觉里的相关任务还是需要做很多研究工作。而且可以注意一点大模型里习惯称不同的气象要素为不同的模态。
第五其实对任意简单的深度学习模型任意跟视频预测相关的我们前期有相关实验发现模型性能也都可以但做不到长序列所以气象大模型非常让人眼前一亮的点就是它可以实现长时序预测。
所以第六点长序列预测这一点是很多相对简单的模型无法比拟的针对长序问题更多集中在在模型优化方式或损失函数上的工作。所以相对简单的模型能否实现长时序预测也是后续值得实验的一点。
第七要素局限性。
第八也是最想分享并希望各位老师专家批评指正的点就是这些大模型的上限在哪儿
我们可以从模型的训练过程来看现在大模型大都采用era5再分析资料训练当然有很多研究都在推动用本地化的再分析资料训练自己的大模型假定以era5为例那么模型本质上是学习了一个era5序列的变化规律这个描述应该没问题。
那这个规律是什么我们就不得不思考era5是怎么来的。简单来说era5可以视作用ifs用做背景场再通过资料同化对其订正不知道这种描述是否有问题所以大模型刻画的本质规律是否可以视作在ifs预报上加了资料同化的“扰动”
具体来说t1时刻的ERA5资料记作xt1可以在一定程度上视作将t时刻的IFS对t1时刻的预报做背景场记作yt1f(xt;w1)其中xt是t时刻的era5f表示IFS预报的函数表达w1是对应的参数再同化t1时刻的观测资料记作xt1g(yt1;w2)g表示同化的函数表达w2是对应的参数而得。当然同化可能会有其他的时间窗但道理都一样。
也就是说xt1g(f(xt;w1);w2)大模型也即是在拟合f和g。那么以再分析资料训练模型的上限是否就是f和g
所以我们看文章里大模型与IFS的对比会发现大模型在前期的优势不明显而后大模型的优势开始突出但应该还会有第三个阶段IFS与大模型差异不大。
