0

次のシナリオで、softmax 選択関数の単一パラメーターのパラメーター推定を実行しようとしています。

各試行では、3 つのオプション値 (例: [1,2,3]) が与えられ、被験者はオプション (0、1、または 2) から選択を行います。softmax 関数は、温度パラメーター (ここでは 0 ～ 10 の範囲) に応じて、オプション値を選択確率 (3 つの確率のベクトル、合計すると 1) に変換します。

各試行での選択は、softmax から計算された試行選択確率を持つカテゴリ分布としてモデル化されることになっています。カテゴリカルの選択確率はオプション値に依存するため、試行ごとに異なることに注意してください。

これが私が思いついたものです：

# Generate data
nTrials = 60 # number of trials (value triplets and choices)
np.random.seed(42)
# generate nTrials triplets of values
values = np.random.choice([1,2,3,4,5], size=(nTrials, 3)) 

choices = values.argmax(axis=1) # choose highest value option
# add some random variation, so that *not* always the highest value option is chosen
errors = np.random.rand(nTrials)>0.8 # determine trials with non-optimal choice
# randomly determine new choices for these trials
choices[errors] = np.random.choice([0,1,2], size=sum(errors==True))

# Model specification & estimation
import pymc3 as pm
from theano import tensor as t
with pm.Model():

    # prior over theta
    theta = pm.Uniform('theta', lower=0, upper=10)

    # softmax implementation
    enumerator  = pm.exp(theta*values) 
    denominator = t.reshape(pm.sum(pm.exp(theta*values), axis=1), (nTrials, 1))
    ps = enumerator/denominator

    # Likelihood (sampling model for the data)
    for trial in range(nTrials):
        yobs = pm.Categorical('yobs{}'.format(trial), p=ps[trial], observed=choices[trial])

    # draw 500 samples from posterior
    trace = pm.sample(500, pm.Metropolis())

このコードは、50 などより大きい nTrials では失敗し、非常に長い警告/エラー メッセージが表示されます。

警告：

INFO (theano.gof.compilelock): Refreshing lock /Users/felixmolter/.theano/compiledir_Darwin-14.4.0-x86_64-i386-64bit-i386-2.7.8-64/lock_dir/lock
INFO:theano.gof.compilelock:Refreshing lock /Users/felixmolter/.theano/compiledir_Darwin-14.4.0-x86_64-i386-64bit-i386-2.7.8-64/lock_dir/lock
00001   #include <Python.h>
00002   #include <iostream>
00003   #include <math.h>
00004   #include <numpy/arrayobject.h>
00005   #include <numpy/arrayscalars.h>
00006   #include <vector>
00007   #include <algorithm>
00008   //////////////////////
00009   ////  Support Code
00010   //////////////////////
00011   
00012   
00013       namespace {
00014       struct __struct_compiled_op_65734e56ae54d89bdcf84e36893358e6 {
00015           PyObject* __ERROR;
00016   
00017           PyObject* storage_V3;
00018   PyObject* storage_V5;
00019   PyObject* storage_V7;
00020   PyObject* storage_V9;
00021   PyObject* storage_V11;
00022   PyObject* storage_V13;
[...]

エラー：

Exception: ('The following error happened while compiling the node', Elemwise{Composite{((Switch(LE(Abs((i0 + i1)), i2), log(i3), i4) + Switch(LE(Abs((i0 + i5)), i2), log(i6), i4) + Switch(LE(Abs((i0 + i7)), i2), log(i8), i4) + Switch(LE(Abs((i0 + i9)), i2), log(i10), i4) + Switch(LE(Abs((i0 + i11)), [...]

私は PyMC (および Theano) にかなり慣れていないので、私の実装は本当にぎこちなく、最適ではないと感じています。どんな助けやアドバイスも大歓迎です！

フェリックス

編集:コードをノートブックとしてアップロードし、警告とエラーメッセージを完全に表示しました: http://nbviewer.ipython.org/github/moltaire/softmaxPyMC/blob/master/softmax_stackoverflow.ipynb

4

1 に答える 1

0

今回の事例を再発見しました。フォローアップとして、現在、それを再現することはできません。それで直ったと思います。場合によってはこのエラーが発生する可能性がある関連の問題を修正しました。

g++ 4.5.1 で動作します。この問題が発生した場合は、Theano を開発版に更新してください。それでも解決しない場合は、より新しい g++ を使用してみてください。これは古い g++ バージョンに関連している可能性があります。

于 2015-11-16T16:50:10.457 に答える