2

ここにコードがあります

function [theta] = LR(D)
% D is the data having feature variables and class labels

% Now decompose D into X and C 
%Note that dimensions of X =  , C = 

C = D(:,1);
C = C';
size(C)
X = D(:,2:size(D,2));
size(X)
alpha = .00001;

theta_old = zeros(1,34);
theta_new = .001.*ones(1,34);
count = 1;
for count = 1:100000
    theta_old = theta_new;
    theta_new = theta_new + alpha*(C-sigmoid(X*theta_new')')*X;
    llr =  sum(LLR((X*theta_new').*(C'))) 
end
thetaopt = theta_new


end


function a = LLR( z )
a= 1.*log(1.0 + exp(-z));
end

function a = sigmoid(z)
 a = 1.0 ./ (1.0 + exp(-z));
 end

私が抱えている問題は、対数尤度比が最初に減少し、次に増加し始めることです。これは勾配降下アルゴリズムの問​​題ですか、それともコードの問題ですか。

4

1 に答える 1

1

目的関数に問題があるようです。

ラベル ( C) がの場合{0,1}、損失を使用する必要があります。C.*LLR(X*theta')+(1-C).*(LLR(X*theta')+X*theta')

ラベルが の場合{-1,1}、損失は になりますLLR(C.*X*theta')。

最初のタイプの損失関数の最初の部分のみを使用しているようです。

于 2014-02-21T03:40:04.130 に答える