現在、JAMA lib を使用してロジスティック回帰のコスト関数をコーディングしています。しかし、それは機能していません。理由はわかりません。値を返すはずです:0.6743
public matrix cost () {
double[][] sigmoid = sigmoidFunction().getArray();
double[][] sigmoid2 = sigmoidFunction().getArray();
int m = sigmoidFunction().getRowdimension();
int n = sigmoidFunction().getColdimension();
for (int i = 0; i<m; i++) {
for (int j =0; j< n; j++) {
sigmoid[i][j] = Math.log(sigmoid[i][j]);
}
}
for (int i = 0; i<m; i++) {
for (int j =0; j< n; j++) {
sigmoid2[i][j] = Math.log(1-sigmoid2[i][j]);
}
}
matrix regularized = theta.transpose().times(theta);
double[][] reg = regularized.getArray();
for(int i = 0; i< regularized.getRowdimension(); i++ ) {
for (int j = 0; j< regularized.getColdimension(); j++) {
reg[i][j] = lambda/(2*m) * (reg[i][j]);
}
}
regularized = new matrix(reg);
matrix log_hx = new matrix(sigmoid);
matrix log1_hx = new matrix(sigmoid2);
matrix y_1 = Y;
y_1 = y_1.transpose().subtract(1);
Y = Y.uminus();
Y= Y.transpose();
//J = 1/m * (-y' * log(hx) - (1-y)' * log(1-hx))
matrix J = Y.times(log_hx).subtract(y_1.times(log1_hx));
double [][] cost = J.getArray();
for(int i = 0; i< J.getRowdimension(); i++ ) {
for (int j =0; j< J.getColdimension(); j++) {
cost[i][j]= 1/m * cost[i][j];
}
}
//J = new matrix(cost);
//J.addEquals(regularized);
return J;
}
}
上記のように行列 J を返すと、 0.0 が返されます。しかし、Y.times(log_hx).subtract(y_1.times(log1_hx)) を直接返すと、魔法のように値 3.3715 が返されます。これは、1/m を掛けずに正則化によって加算した場合に正しいです。