Определение пользовательского дистрибутива PyMC

Question

Возможно, это глупый вопрос.

Я пытаюсь подстроить данные в очень странный PDF-файл с использованием оценки MCMC в PyMC. В этом примере я просто хочу выяснить, как соответствовать нормальному распределению, где я вручную вводим обычный PDF. Мой код:

data = []; 
for count in range(1000): data.append(random.gauss(-200,15)); 

mean = mc.Uniform('mean', lower=min(data), upper=max(data)) 
std_dev = mc.Uniform('std_dev', lower=0, upper=50) 

# @mc.potential 
# def density(x = data, mu = mean, sigma = std_dev): 
# return (1./(sigma*np.sqrt(2*np.pi))*np.exp(-((x-mu)**2/(2*sigma**2)))) 

mc.Normal('process', mu=mean, tau=1./std_dev**2, value=data, observed=True) 

model = mc.MCMC([mean,std_dev]) 
model.sample(iter=5000) 

print "!" 
print(model.stats()['mean']['mean']) 
print(model.stats()['std_dev']['mean']) 

примеров, которые я нашел все использовать что-то вроде mc.Normal или mc.Poisson или этажерок, но я хочу, чтобы соответствовать функциям закомментированного плотности.

Любая помощь будет оценена по достоинству.

Answer 1

Простой способ заключается в использовании стохастического декоратора:

import pymc as mc 
import numpy as np 

data = np.random.normal(-200,15,size=1000) 

mean = mc.Uniform('mean', lower=min(data), upper=max(data)) 
std_dev = mc.Uniform('std_dev', lower=0, upper=50) 

@mc.stochastic(observed=True) 
def custom_stochastic(value=data, mean=mean, std_dev=std_dev): 
    return np.sum(-np.log(std_dev) - 0.5*np.log(2) - 
        0.5*np.log(np.pi) - 
        (value-mean)**2/(2*(std_dev**2))) 


model = mc.MCMC([mean,std_dev,custom_stochastic]) 
model.sample(iter=5000) 

print "!" 
print(model.stats()['mean']['mean']) 
print(model.stats()['std_dev']['mean']) 

Обратите внимание, что моя custom_stochastic функция возвращает логарифмическое правдоподобие, а не вероятности, и что журнал правдоподобия для всей выборки.

Существует несколько других способов создания пользовательских стохастических узлов. Этот doc дает более подробную информацию, и этот gist содержит пример использования pymc.Stochastic для создания узла с оценкой плотности ядра.