PyMC3分层二项式模型-调整后的发散

时间:2019-01-31 19:51:31

标签: python bayesian pymc3

我正在尝试使用pyMC3为一些实验数据构建一个简单的贝叶斯层次模型。我有两个数据集,但是对于这两个数据集之一,采样器无法收敛,因此我无法找出解决方案。

设置如下:

  • 有两个实验条件(难以想象地称为A和B),在这两个条件之一中测试了两组个人(A组和B组)。
  • 每个人都可以进行尽可能多的试验,因此并非所有人都具有相同的试验次数
  • 每个试验都有二进制结果(1或0)。

每个受试者的表现数据将是1和0的字符串,我想根据观察到的数据估算每个人的潜在1s比率。

由于我对某些主题进行的试验很少,因此我决定使用分层贝叶斯模型(请参见this example)。 我决定使用的模型是受here所示模型的启发(也请参见下面的代码)。

现在,该模型可以很好地用于两个数据集(B)中的一个,但采样器不能针对另一个数据集收敛。我在线上看到一种可能的解决方案是切换到non centred model,但我不知道如何在此处实现。

下面是一个最小的工作示例和结果。


import numpy as np
import pymc3 as pm
import theano.tensor as tt
import matplotlib.pyplot as plt




def run():
    # Define data
    datasets_names = ['A', 'B']
    number_of_individuals =[22, 17] # per experimental condition

    # Number of trials and number of successes (1) of each individual
    n_trials_A = [21, 15,  6,  5, 10,  6,  4,  6,  5,  7, 14, 12, 15,  4,  4,  6,  6,  9,  7,  6, 11, 10]
    hits_A = [21, 14,  6,  0,  6,  6,  3,  6,  5,  6, 14,  9, 15,  4,  4,  5,  6,  8,  7,  4,  8, 10]

    n_trials_B = [5,  5, 33,  4, 13, 18, 24,  8,  8,  9,  9,  7, 14,  8, 15,  9, 11]
    hits_B = [2,  5, 26,  3,  7,  7, 13,  6,  1,  5,  4,  2,  7,  5,  9,  4,  1]

    datasets = [(number_of_individuals[0], n_trials_A, hits_A), (number_of_individuals[1], n_trials_B, hits_B)]

    # Model each dataset separately
    for i, (m, n, h) in enumerate(datasets):
        print('Modelling dataset: ', datasets_names[i])

        # pyMC3 model
        with pm.Model() as model:
            # The model is from: https://docs.pymc.io/notebooks/hierarchical_partial_pooling.html

            # Define hyperpriors
            phi = pm.Uniform('phi', lower=0.0, upper=1.0)

            kappa_log = pm.Exponential('kappa_log', lam=1.5)
            kappa = pm.Deterministic('kappa', tt.exp(kappa_log))

            # define second level of hierarchical model
            thetas = pm.Beta('thetas', alpha=phi*kappa, beta=(1.0-phi)*kappa, shape=m)

            # Likelihood
            y = pm.Binomial('y', n=n, p=thetas, observed=h)

            # Fit
            trace = pm.sample(6000, tune=2000, nuts_kwargs={'target_accept': 0.95}) 

        # Show traceplot
        pm.traceplot(trace)
    plt.show()




if __name__ == "__main__":
    run()

这是代码运行时打印到控制台的内容:


Modeeling dataset:  A
Auto-assigning NUTS sampler...
Initializing NUTS using jitter+adapt_diag...
Multiprocess sampling (4 chains in 4 jobs)
NUTS: [thetas, kappa_log, phi]
Sampling 4 chains: 100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 32000/32000 [00:52<00:00, 610.30draws/s]
There were 928 divergences after tuning. Increase `target_accept` or reparameterize.
There were 818 divergences after tuning. Increase `target_accept` or reparameterize.
There were 885 divergences after tuning. Increase `target_accept` or reparameterize.
There were 842 divergences after tuning. Increase `target_accept` or reparameterize.
The number of effective samples is smaller than 25% for some parameters.
Modeeling dataset:  B
Auto-assigning NUTS sampler...
Initializing NUTS using jitter+adapt_diag...
Multiprocess sampling (4 chains in 4 jobs)
NUTS: [thetas, kappa_log, phi]
Sampling 4 chains: 100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 32000/32000 [00:35<00:00, 899.07draws/s]


因此,数据集A的跟踪图显示没有收敛。

Traceplot for data set A

Traceplot for data set B

如果任何人都可以提供有关如何重新设置模型参数的提示,谢谢!!

0 个答案:

没有答案