2

マッパーからキーと値として 2D double 配列を発行する必要があります。Stack Overflow に投稿された質問がありますが、回答がありません。

特定のデータセットで行列乗算の一部を実行しています。その後、A*Atrnsキーとして行列になり、値として行列になる値を発行する必要がAtrans*Dあります。マッパーからこれらの行列を出力する方法。また、値はキー自体に対応している必要があります。

ie key ----->  A*Atrans--------->after multiplication the result will be a 2D array which is declared as double (matrix) lets say the result be Matrix "Ekey"(double[][] Ekey)

value ------>  Atrans*D ---------> after multiplication the result will be Matrix "Eval" (double[][] Eval).

After that I need to emit these matrix to reducer for further calculations.

So in mapper: 
       context.write(Ekey,Eval);

Reducer:
      I need to do further calculations with these Ekey and Eval.

私は自分のクラスを書きました：

アップデート

    public class MatrixWritable implements WritableComparable<MatrixWritable>{

/**
 * @param args
 */
    private double[][] value;
    private double[][] values;
    public MatrixWritable() {
    // TODO Auto-generated constructor stub

        setValue(new double[0][0]);
     }


    public MatrixWritable(double[][] value) {
    // TODO Auto-generated constructor stub

     this.value = value;
    }

    public void setValue(double[][] value) {

        this.value = value;

    }

    public double[][] getValue() {
        return values;
    }

    @Override
    public void write(DataOutput out) throws IOException {
    out.writeInt(value.length);                 // write values
     for (int i = 0; i < value.length; i++) {
       out.writeInt(value[i].length);
     }
     for (int i = 0; i < value.length; i++) {
       for (int j = 0; j < value[i].length; j++) {
           out.writeDouble(value[i][j]);
       }
     }

  }

    @Override
    public void readFields(DataInput in) throws IOException {

        value = new double[in.readInt()][];          
        for (int i = 0; i < value.length; i++) {
          value[i] = new double[in.readInt()];
        }
        values = new double[value.length][value[0].length];
      for(int i=0;i<value.length ; i++){
            for(int j= 0 ; j< value[0].length;j++){
                values[i][j] = in.readDouble();

            }
        }

  }



@Override
public int hashCode() {
    final int prime = 31;
    int result = 1;
    result = prime * result + Arrays.hashCode(value);
    return result;
}





/* (non-Javadoc)
 * @see java.lang.Object#equals(java.lang.Object)
 */
@Override
public boolean equals(Object obj) {
    if (this == obj) {
        return true;
    }
    if (obj == null) {
        return false;
    }
    if (!(obj instanceof MatrixWritable)) {
        return false;
    }
    MatrixWritable other = (MatrixWritable) obj;
    if (!Arrays.deepEquals(value, other.value)) {
        return false;
    }
    return true;
}


    @Override
    public int compareTo(MatrixWritable o) {
    // TODO Auto-generated method stub
    return 0;


    }

    public String toString() { String separator = "|";
        StringBuffer result = new StringBuffer();

        // iterate over the first dimension
        for (int i = 0; i < values.length; i++) {
            // iterate over the second dimension
            for(int j = 0; j < values[i].length; j++){
                result.append(values[i][j]);

                result.append(separator);
            }
            // remove the last separator
            result.setLength(result.length() - separator.length());
            // add a line break.
            result.append(",");
        }


        return result.toString();



  }

}

マッパーからマトリックスとして値を発行できます

context.write(...,new MatrixWritable(AAtrans));

マッパーからキーとして行列 AtransD を発行する方法は?

そのためには、compareto() メソッドを記述する必要がありますよね?

そのメソッドには何を含めるべきですか？

4

1 に答える 1

2

まず、カスタム キーを実装するには、実装する必要がありますWritableComparable。カスタム値を実装するには、実装する必要がありますWritable。多くの場合、キーと値を交換できると便利なので、ほとんどの人はすべてのカスタム型を として記述しますWritableComparable。

のセクションへのリンクを次にHadoop: The Definitive Guide示しますWritableComparable。カスタム Writable の作成

配列を書き出す際の秘訣は、読み取り側で読み取る要素の数を知る必要があることです。というわけで基本パターンは…

On write:
write the number of elements
write each element


On read:
read the number of elements (n)
create an array of the appropriate size
read 0 - (n-1) elements and populate array

アップデート

後で NullPointerException が発生しないように、デフォルトのコンストラクターで配列を空としてインスタンス化する必要があります。

実装の問題は、各内部配列が同じ長さであると想定していることです。そうであれば、列の長さを複数回計算する必要はありません。false の場合、行の値を書き込む前に各行の長さを書き込む必要があります。

私は次のようなことを提案します：

 context.write(row); // as calculated above
 for (int i=0; i<row; i++){
     double[] rowVals = array[row];
     context.write(rowVals.length);
     for (int j=0; j<rowVals.length; j++)
         context.write(rowVals[j]);
 }
于 2013-10-29T10:34:08.040 に答える