怎样管理一个俄语网站,附近搬家公司,昆明网站设计都需要设计什么,淘宝店铺 发布网站建设Bayesian Regression - Introduction (Part 1) — Pyro Tutorials 1.8.6 documentation 一、说明 我们很熟悉线性回归的问题#xff0c;然而#xff0c;一些问题看似不似线性问题#xff0c;但是#xff0c;用贝叶斯回归却可以解决。本文使用土地平整度和国家GDP的关系数据…Bayesian Regression - Introduction (Part 1) — Pyro Tutorials 1.8.6 documentation 一、说明 我们很熟悉线性回归的问题然而一些问题看似不似线性问题但是用贝叶斯回归却可以解决。本文使用土地平整度和国家GDP的关系数据集进行回归分析发现线性回归无法解决的问题从贝叶斯回归给出答案。
二、贝叶斯回归简介 回归是机器学习中最常见和基本的监督学习任务之一。假设我们有一个数据集形式的 线性回归的目标是将函数拟合到以下形式的数据 在这里w和b是可学习的参数并且代表观测噪声。具体来说w是一个权重矩阵并且b是一个偏置向量。 在本教程中我们将首先在 PyTorch 中实现线性回归并学习参数的点估计w和b。然后我们将了解如何使用 Pyro 实现贝叶斯回归将不确定性纳入我们的估计中。此外我们将学习如何使用 Pyro 的实用函数进行预测并使用TorchScript.
三、教程大纲 设置 数据集 线性回归 使用 PyTorch 优化器进行训练 回归拟合 使用 Pyro 的 SVI 进行贝叶斯回归 模型 使用自动指南 优化证据下限 模型评估 使用 TorchScript 为模型提供服务
四、基础设置
4.1 导入模块 让我们首先导入我们需要的模块。 [1]:%reset -s -f[2]:import os
from functools import partial
import torch
import numpy as np
import pandas as pd
import seaborn as sns
import matplotlib.pyplot as pltimport pyro
import pyro.distributions as dist# for CI testing
smoke_test (CI in os.environ)
assert pyro.__version__.startswith(1.8.6)
pyro.set_rng_seed(1)# Set matplotlib settings
%matplotlib inline
plt.style.use(default) 4.2 导入数据集 以下示例改编自[1]。我们想探讨一个国家的地形异质性通过地形崎岖指数数据集中的变量崎岖度衡量与其人均 GDP 之间的关系。特别是[2] 中的作者指出地形崎岖或恶劣的地理位置与非洲以外地区较差的经济表现有关但崎岖的地形对非洲国家的收入产生了相反的影响。让我们看一下数据并研究这种关系。我们将重点关注数据集中的三个特征 rugged量化地形坚固性指数 cont_africa指定国家是否在非洲 rgdppc_20002000年实际人均GDP 响应变量 GDP 高度偏态因此我们将对它进行对数变换。 [3]:DATA_URL https://d2hg8soec8ck9v.cloudfront.net/datasets/rugged_data.csv
data pd.read_csv(DATA_URL, encodingISO-8859-1)
df data[[cont_africa, rugged, rgdppc_2000]]
df df[np.isfinite(df.rgdppc_2000)]
df[rgdppc_2000] np.log(df[rgdppc_2000]) [4]: fig, ax plt.subplots(nrows1, ncols2, figsize(12, 6), shareyTrue)
african_nations df[df[cont_africa] 1]
non_african_nations df[df[cont_africa] 0]
sns.scatterplot(xnon_african_nations[rugged],ynon_african_nations[rgdppc_2000], axax[0])
ax[0].set(xlabelTerrain Ruggedness Index,ylabellog GDP (2000), titleNon African Nations)
sns.scatterplot(xafrican_nations[rugged],yafrican_nations[rgdppc_2000], axax[1])
ax[1].set(xlabelTerrain Ruggedness Index, ylabellog GDP (2000), titleAfrican Nations); 4.3 线性回归 我们希望根据数据集中的两个特征来预测一个国家的人均 GDP 对数 - 该国家是否位于非洲及其地形崎岖指数。我们将创建一个简单的类称为PyroModule和PyroModule[nn.Linear]的子类。与 PyTorch 非常相似但还支持Pyro 原语作为可以由 Pyro效果处理程序修改的属性请参阅下一节了解如何拥有作为原语的模块属性。一些一般注意事项torch.nn.LinearPyroModulenn.Modulepyro.sample PyTorch 模块中的可学习参数是 的实例nn.Parameter在本例中是该类的weight和bias参数nn.Linear。当在 a 中声明PyroModule为属性时它们会自动注册到 Pyro 的参数存储中。虽然该模型不需要我们在优化过程中约束这些参数的值但这也可以通过PyroModule使用 PyroParam语句轻松实现。 请注意虽然 的forward方法PyroModule[nn.Linear]继承自nn.Linear但它也可以很容易地被重写。例如在逻辑回归的情况下我们对线性预测器应用 sigmoid 变换。 [5]:from torch import nn
from pyro.nn import PyroModuleassert issubclass(PyroModule[nn.Linear], nn.Linear)
assert issubclass(PyroModule[nn.Linear], PyroModule) 4.3.1 使用 PyTorch 优化器进行训练 请注意除了rugged和两个特征cont_africa之外我们还在模型中包含了一个交互项它使我们能够分别模拟坚固性对非洲境内和境外国家 GDP 的影响。 我们使用均方误差MSE作为损失使用 Adam 作为模块的优化器torch.optim。我们想要优化模型的参数即网络的weight和bias参数它们对应于我们的回归系数和截距。 [6]:# Dataset: Add a feature to capture the interaction between cont_africa and rugged
df[cont_africa_x_rugged] df[cont_africa] * df[rugged]
data torch.tensor(df[[cont_africa, rugged, cont_africa_x_rugged, rgdppc_2000]].values,dtypetorch.float)
x_data, y_data data[:, :-1], data[:, -1]# Regression model
linear_reg_model PyroModule[nn.Linear](3, 1)# Define loss and optimize
loss_fn torch.nn.MSELoss(reductionsum)
optim torch.optim.Adam(linear_reg_model.parameters(), lr0.05)
num_iterations 1500 if not smoke_test else 2def train():# run the model forward on the datay_pred linear_reg_model(x_data).squeeze(-1)# calculate the mse lossloss loss_fn(y_pred, y_data)# initialize gradients to zerooptim.zero_grad()# backpropagateloss.backward()# take a gradient stepoptim.step()return lossfor j in range(num_iterations):loss train()if (j 1) % 50 0:print([iteration %04d] loss: %.4f % (j 1, loss.item()))# Inspect learned parameters
print(Learned parameters:)
for name, param in linear_reg_model.named_parameters():print(name, param.data.numpy())[迭代0050]损失3179.7852
[迭代0100]损失1616.1371
[迭代0150]损失1109.4117
[迭代0200]损失833.7545
[迭代0250]损失637.5822
[迭代0300]损失488.2652
[迭代0350]损失376.4650
[迭代0400]损失296.0483
[迭代0450]损失240.6140
[迭代0500]损失203.9386
[迭代0550]损失180.6171
[迭代0600]损失166.3493
[迭代0650]损失157.9457
[迭代0700]损失153.1786
[迭代0750]损失150.5735
[迭代0800]损失149.2020
[迭代0850]损失148.5065
[迭代0900]损失148.1668
[迭代0950]损失148.0070
[迭代1000]损失147.9347
[迭代1050]损失147.9032
[迭代1100]损失147.8900
[迭代1150]损失147.8847
[迭代1200]损失147.8827
[迭代1250]损失147.8819
[迭代1300]损失147.8817
[迭代1350]损失147.8816
[迭代1400]损失147.8815
[迭代1450]损失147.8815
[迭代1500]损失147.8815
学习到的参数
重量 [[-1.9478593 -0.20278624 0.39330274]]
偏见[9.22308]4.3.2 绘制回归拟合图 让我们分别针对非洲以外和非洲内部的国家绘制适合我们模型的回归。 [7]:fit df.copy()
fit[mean] linear_reg_model(x_data).detach().cpu().numpy()fig, ax plt.subplots(nrows1, ncols2, figsize(12, 6), shareyTrue)
african_nations fit[fit[cont_africa] 1]
non_african_nations fit[fit[cont_africa] 0]
fig.suptitle(Regression Fit, fontsize16)
ax[0].plot(non_african_nations[rugged], non_african_nations[rgdppc_2000], o)
ax[0].plot(non_african_nations[rugged], non_african_nations[mean], linewidth2)
ax[0].set(xlabelTerrain Ruggedness Index,ylabellog GDP (2000),titleNon African Nations)
ax[1].plot(african_nations[rugged], african_nations[rgdppc_2000], o)
ax[1].plot(african_nations[rugged], african_nations[mean], linewidth2)
ax[1].set(xlabelTerrain Ruggedness Index,ylabellog GDP (2000),titleAfrican Nations);我们注意到地形崎岖程度与非非洲国家的 GDP 呈反比关系但对非洲国家的 GDP 却有正向影响。然而目前尚不清楚这种趋势有多强劲。特别是我们想了解回归拟合如何因参数不确定性而变化。为了解决这个问题我们将构建一个简单的线性回归贝叶斯模型。贝叶斯建模为推理模型不确定性提供了一个系统框架。我们不仅要学习点估计还要学习与观察到的数据一致的参数分布。
4.4 使用 Pyro 随机变分推理 (SVI) 的贝叶斯回归
4.4.1 模型 为了使我们的线性回归贝叶斯模型成立我们需要对参数进行先验和。这些分布代表了我们对合理值的先前信念和在观察任何数据之前。 PyroModule与之前一样为线性回归创建贝叶斯模型非常直观。请注意以下事项 该BayesianRegression模块内部使用相同的PyroModule[nn.Linear]模块。但请注意我们用语句替换了该模块的theweight和 the 。这些语句允许我们对和参数进行先验而不是将它们视为固定的可学习参数。对于偏差分量我们设置了一个相当宽的先验因为它可能远高于 0。biasPyroSampleweightbias 该BayesianRegression.forward方法指定了生成过程。我们通过调用该模块来生成响应的平均值linear如您所见该模块从先前的参数中采样weight并bias返回平均响应的值。最后我们使用该语句obs的参数来以学习到的观察噪声pyro.sample来调节观察到的数据。该模型返回变量 给出的回归线 。y_datasigmamean [8]:from pyro.nn import PyroSampleclass BayesianRegression(PyroModule):def __init__(self, in_features, out_features):super().__init__()self.linear PyroModule[nn.Linear](in_features, out_features)self.linear.weight PyroSample(dist.Normal(0., 1.).expand([out_features, in_features]).to_event(2))self.linear.bias PyroSample(dist.Normal(0., 10.).expand([out_features]).to_event(1))def forward(self, x, yNone):sigma pyro.sample(sigma, dist.Uniform(0., 10.))mean self.linear(x).squeeze(-1)with pyro.plate(data, x.shape[0]):obs pyro.sample(obs, dist.Normal(mean, sigma), obsy)return mean4.4.2 使用自动指南 为了进行推理即学习未观察到的参数的后验分布我们将使用随机变分推理SVI。该指南确定一个分布族SVI旨在从该族中找到与真实后验具有最低 KL 散度的近似后验分布。 用户可以在 Pyro 中编写任意灵活的自定义指南但在本教程中我们将仅限于 Pyro 的自动指南库。在下一个教程中我们将探索如何手动编写指南。 首先我们将使用指南将AutoDiagonalNormal模型中未观察到的参数的分布建模为具有对角协方差的高斯分布即假设潜在变量之间不存在相关性这是一个很强的建模假设我们将在第 5 部分中看到二。在底层这定义了一个guide使用具有与模型中的Normal每个语句相对应的可学习参数的分布的分布。sample例如在我们的例子中该分布的大小应对应(5,)于每个项的 3 个回归系数并且截距项和sigma模型中各有 1 个分量。
Autoguide 还支持学习 MAP 估计AutoDelta或编写指南AutoGuideList有关更多信息请参阅文档。 [9]:from pyro.infer.autoguide import AutoDiagonalNormalmodel BayesianRegression(3, 1)
guide AutoDiagonalNormal(model)4.4.3 优化证据下限 我们将使用随机变分推理SVI有关 SVI 的介绍请参阅SVI 第 I 部分进行推理。就像在非贝叶斯线性回归模型中一样训练循环的每次迭代都将采取梯度步骤不同之处在于在本例中我们将使用证据下界 (ELBO) 目标而不是通过构建 MSE 损失Trace_ELBO我们传递给 的对象SVI。 [10]:from pyro.infer import SVI, Trace_ELBOadam pyro.optim.Adam({lr: 0.03})
svi SVI(model, guide, adam, lossTrace_ELBO())请注意我们使用AdamPyrooptim模块中的优化器而不是torch.optim之前的模块。这Adam是一个薄薄的包装torch.optim.Adam请参阅此处进行讨论。中的优化器pyro.optim用于优化和更新 Pyro 参数存储中的参数值。特别是您会注意到我们不需要将可学习的参数传递给优化器因为这是由指导代码确定的并且在类的幕后SVI自动发生。要采取 ELBO 梯度步骤我们只需调用 SVI 的步骤方法。我们传递给的 data 参数SVI.step将同时传递给model()和guide()。完整的训练循环如下 [11]:pyro.clear_param_store()
for j in range(num_iterations):# calculate the loss and take a gradient steploss svi.step(x_data, y_data)if j % 100 0:print([iteration %04d] loss: %.4f % (j 1, loss / len(data)))[迭代0001]损失6.2310
[迭代0101]损失3.5253
[迭代0201]损失3.2347
[迭代0301]损失3.0890
[迭代0401]损失2.6377
[迭代0501]损失2.0626
[迭代0601]损失1.4852
[迭代0701]损失1.4631
[迭代0801]损失1.4632
[迭代0901]损失1.4592
[迭代1001]损失1.4940
[迭代1101]损失1.4988
[迭代1201]损失1.4938
[迭代1301]损失1.4679
[迭代1401]损失1.4581我们可以通过从 Pyro 的参数存储中获取来检查优化的参数值。 [12]:guide.requires_grad_(False)for name, value in pyro.get_param_store().items():print(name, pyro.param(name))AutoDiagonalNormal.loc 参数包含
张量([-2.2371, -1.8097, -0.1691, 0.3791, 9.1823])
AutoDiagonalNormal.scale 张量([0.0551, 0.1142, 0.0387, 0.0769, 0.0702])AutoDiagonalNormal.scale正如您所看到的我们现在对学习参数进行了不确定性估计 ( )而不仅仅是点估计。请注意Autoguide 将潜在变量打包到单个张量中在本例中模型中采样的每个变量都有一个条目。正如我们之前所说loc和scale参数都有 size (5,)一个对应模型中的每个潜在变量。 为了更清楚地查看潜在参数的分布我们可以使用AutoDiagonalNormal.quantiles从自动引导中解压潜在样本的方法并自动将它们约束到站点的支持例如变量sigma必须位于。我们看到参数的中值非常接近我们从第一个模型获得的最大似然点估计。(0, 10) [13]:guide.quantiles([0.25, 0.5, 0.75])[13]:{西格玛[张量0.9328张量0.9647张量0.9976]线性.权重: [张量([[-1.8868,-0.1952,0.3272]]),张量([[-1.8097,-0.1691,0.3791]]),张量([[-1.7327,-0.1429,0.4309]])],线性.偏差[张量[9.1350]张量[9.1823]张量[9.2297]]}4.5 模型评估 为了评估我们的模型我们将生成一些预测样本并查看后验。为此我们将使用Predictive实用程序类。 我们从经过训练的模型中生成 800 个样本。在内部这是通过首先为 中未观察到的站点生成样本guide然后通过将站点调整为从 中采样的值来向前运行模型来完成的guide。请参阅模型服务部分以深入了解该类的Predictive工作原理。 请注意在 中我们指定了捕获回归线的模型的return_sites结果obs站点和返回值 。_RETURN此外我们还想捕获回归系数由 给出linear.weight以进行进一步分析。 其余代码仅用于绘制模型中两个变量的 90% CI。 [14]:from pyro.infer import Predictivedef summary(samples):site_stats {}for k, v in samples.items():site_stats[k] {mean: torch.mean(v, 0),std: torch.std(v, 0),5%: v.kthvalue(int(len(v) * 0.05), dim0)[0],95%: v.kthvalue(int(len(v) * 0.95), dim0)[0],}return site_statspredictive Predictive(model, guideguide, num_samples800,return_sites(linear.weight, obs, _RETURN))
samples predictive(x_data)
pred_summary summary(samples)[15]:mu pred_summary[_RETURN]
y pred_summary[obs]
predictions pd.DataFrame({cont_africa: x_data[:, 0],rugged: x_data[:, 1],mu_mean: mu[mean],mu_perc_5: mu[5%],mu_perc_95: mu[95%],y_mean: y[mean],y_perc_5: y[5%],y_perc_95: y[95%],true_gdp: y_data,
})[16]:fig, ax plt.subplots(nrows1, ncols2, figsize(12, 6), shareyTrue)
african_nations predictions[predictions[cont_africa] 1]
non_african_nations predictions[predictions[cont_africa] 0]
african_nations african_nations.sort_values(by[rugged])
non_african_nations non_african_nations.sort_values(by[rugged])
fig.suptitle(Regression line 90% CI, fontsize16)
ax[0].plot(non_african_nations[rugged],non_african_nations[mu_mean])
ax[0].fill_between(non_african_nations[rugged],non_african_nations[mu_perc_5],non_african_nations[mu_perc_95],alpha0.5)
ax[0].plot(non_african_nations[rugged],non_african_nations[true_gdp],o)
ax[0].set(xlabelTerrain Ruggedness Index,ylabellog GDP (2000),titleNon African Nations)
idx np.argsort(african_nations[rugged])
ax[1].plot(african_nations[rugged],african_nations[mu_mean])
ax[1].fill_between(african_nations[rugged],african_nations[mu_perc_5],african_nations[mu_perc_95],alpha0.5)
ax[1].plot(african_nations[rugged],african_nations[true_gdp],o)
ax[1].set(xlabelTerrain Ruggedness Index,ylabellog GDP (2000),titleAfrican Nations);上图显示了我们对回归线估计的不确定性以及均值附近的 90% CI。我们还可以看到大多数数据点实际上位于 90% CI 之外这是预料之中的因为我们没有绘制将受到影响的结果变量sigma接下来我们就这样做吧。 [17]:fig, ax plt.subplots(nrows1, ncols2, figsize(12, 6), shareyTrue)
fig.suptitle(Posterior predictive distribution with 90% CI, fontsize16)
ax[0].plot(non_african_nations[rugged],non_african_nations[y_mean])
ax[0].fill_between(non_african_nations[rugged],non_african_nations[y_perc_5],non_african_nations[y_perc_95],alpha0.5)
ax[0].plot(non_african_nations[rugged],non_african_nations[true_gdp],o)
ax[0].set(xlabelTerrain Ruggedness Index,ylabellog GDP (2000),titleNon African Nations)
idx np.argsort(african_nations[rugged])ax[1].plot(african_nations[rugged],african_nations[y_mean])
ax[1].fill_between(african_nations[rugged],african_nations[y_perc_5],african_nations[y_perc_95],alpha0.5)
ax[1].plot(african_nations[rugged],african_nations[true_gdp],o)
ax[1].set(xlabelTerrain Ruggedness Index,ylabellog GDP (2000),titleAfrican Nations);我们观察到我们的模型的结果和 90% CI 占我们在实践中观察到的大部分数据点。进行此类后验预测检查以查看我们的模型是否给出有效的预测通常是一个好主意。 最后让我们重新审视之前的问题即地形崎岖度与 GDP 之间的关系对于模型参数估计的任何不确定性有多稳健。为此我们绘制了考虑到非洲境内和境外国家地形崎岖程度的 GDP 对数斜率分布。如下所示非洲国家的概率质量主要集中在正区域其他国家反之亦然这进一步证实了最初的假设。 [18]:weight samples[linear.weight]
weight weight.reshape(weight.shape[0], 3)
gamma_within_africa weight[:, 1] weight[:, 2]
gamma_outside_africa weight[:, 1]
fig plt.figure(figsize(10, 6))
sns.distplot(gamma_within_africa, kde_kws{label: African nations},)
sns.distplot(gamma_outside_africa, kde_kws{label: Non-African nations})
fig.suptitle(Density of Slope : log(GDP) vs. Terrain Ruggedness);五、通过 TorchScript 进行模型服务 最后请注意model、guide和Predictive实用程序类都是torch.nn.Module实例并且可以序列化为TorchScript。 在这里我们展示了如何将 Pyro 模型作为torch.jit.ModuleScript提供服务它可以作为 C 程序单独运行而无需 Python 运行时。 为此我们将Predictive使用 Pyro 的效果处理库重写我们自己的简单版本的实用程序类。这使用 poutinetrace用于捕获运行模型/指南代码的执行跟踪。 poutinereplay将模型中的位点调节为从引导轨迹中采样的值。 [19]:from collections import defaultdict
from pyro import poutine
from pyro.poutine.util import prune_subsample_sites
import warningsclass Predict(torch.nn.Module):def __init__(self, model, guide):super().__init__()self.model modelself.guide guidedef forward(self, *args, **kwargs):samples {}guide_trace poutine.trace(self.guide).get_trace(*args, **kwargs)model_trace poutine.trace(poutine.replay(self.model, guide_trace)).get_trace(*args, **kwargs)for site in prune_subsample_sites(model_trace).stochastic_nodes:samples[site] model_trace.nodes[site][value]return tuple(v for _, v in sorted(samples.items()))predict_fn Predict(model, guide)
predict_module torch.jit.trace_module(predict_fn, {forward: (x_data,)}, check_traceFalse)我们使用torch.jit.trace_module来跟踪该模块的方法并使用torch.jit.saveforward保存它。可以使用 PyTorch 的 C API 加载此保存的模型或者使用 Python API如下所示。reg_predict.pttorch::jit::load(filename) [20]:torch.jit.save(predict_module, /tmp/reg_predict.pt)
pred_loaded torch.jit.load(/tmp/reg_predict.pt)
pred_loaded(x_data)[20]:(张量([9.2165]),张量([[-1.6612,-0.1498,0.4282]]),张量([ 7.5951, 8.2473, 9.3864, 9.2590, 9.0540, 9.3915, 8.6764, 9.3775,9.5473、9.6144、10.3521、8.5452、5.4008、8.4601、9.6219、9.7774、7.1958、7.2581、8.9159、9.0875、8.3730、8.7903、9.3167、8.8155、7.4433、9.9981、8.6909、9.2915、10.1376、7.7618、10.1916、7.4754、6.3473、7.7584、9.1307、6.0794、8.5641、7.8487、9.2828、9.0763、7.9250、10.9226、8.0005、10.1799、5.3611、8.1174、8.0585、8.5098、6.8656、8.6765、7.8925、9.5233、10.1269、10.2661、7.8883、8.9194、10.2866、7.0821、8.2370、8.3087、7.8408、8.4891、8.0107、7.6815、8.7497、9.3551、9.9687、10.4804、8.5176、7.1679、10.8805、7.4919、8.7088、9.2417、9.2360、9.7907、8.4934、7.8897、9.5338、9.6572、9.6604、9.9855、6.7415、8.1721、10.0646、10.0817、8.4503、9.2588、8.4489、7.7516、6.8496、9.2208、8.9852、10.6585、9.4218、9.1290、9.5631、9.7422、10.2814、7.2624、9.6727、8.9743、6.9666、9.5856、9.2518、8.4207、8.6988、9.1914、7.8161、9.8446、6.5528、8.5518、6.7168、7.0694、8.9211、8.5311、8.4545、10.8346、7.8768、9.2537、9.0776、9.4698、7.9611、9.2177、8.0880、8.5090、9.2262、8.9242、9.3966、7.5051、9.1014、8.9601、7.7225、8.7569、8.5847、8.8465、9.7494、8.8587、6.5624、6.9372、9.9806、10.1259、9.1864、7.5758、9.8258、8.6375、7.6954、8.9718、7.0985、8.6360、8.5951、8.9163、8.4661、8.4551、10.6844、7.5948、8.7568、9.5296、8.9530、7.1214、9.1401、8.4992、8.9115、10.9739、8.1593、10.1162、9.7072、7.8641、8.8606, 7.5935]),张量(0.9631))让我们通过从加载的模块生成样本并重新生成之前的绘图来检查我们的Predict模块是否确实正确序列化。 [21]:weight []
for _ in range(800):# index 1 corresponds to linear.weightweight.append(pred_loaded(x_data)[1])
weight torch.stack(weight).detach()
weight weight.reshape(weight.shape[0], 3)
gamma_within_africa weight[:, 1] weight[:, 2]
gamma_outside_africa weight[:, 1]
fig plt.figure(figsize(10, 6))
sns.distplot(gamma_within_africa, kde_kws{label: African nations},)
sns.distplot(gamma_outside_africa, kde_kws{label: Non-African nations})
fig.suptitle(Loaded TorchScript Module : log(GDP) vs. Terrain Ruggedness); 在下一节中我们将了解如何编写变分推理指南并将结果与通过 HMC 进行的推理进行比较。
参考资料 McElreath, D.统计反思第 7 章2016 年 Nunn, N. 和 Puga, D.坚固性非洲恶劣地理的祝福”经济与统计评论 94(1)2012 年 2 月
