次の RecordReader の問題を解決しようとしています。入力ファイルの例:
1,1
2,2
3,3
4,4
5,5
6,6
7,7
.......
.......
RecordReader を返してほしい
key | Value
0 |1,1:2,2:3,3:4,4:5,5
4 |2,2:3,3:......6,6
6 |3,3:4,4......6,6,7,7
(最初の値の場合は最初の 5 行、2 番目の値の場合は 2 行目から始まる 5 行、3 番目の値の場合は 3 行目から始まる 5 行など)
public class MyRecordReader extends RecordReader<LongWritable, Text> {
@Override
public boolean nextKeyValue() throws IOException, InterruptedException {
while (pos < end) {
key.set(pos);
// five line logic
Text nextLine=new Text();
int newSize = in.readLine(value, maxLineLength,
Math.max((int)Math.min(Integer.MAX_VALUE, end-pos),
maxLineLength));
fileSeek+=newSize;
for(int n=0;n<4;n++)
{
fileSeek+=in.readLine(nextLine, maxLineLength,
Math.max((int)Math.min(Integer.MAX_VALUE, end-pos),
maxLineLength));
value.append(":".getBytes(), 0,1);
value.append(nextLine.getBytes(), 0, nextLine.getLength());
}
if (newSize == 0) {
return false;
}
pos += newSize;
if (newSize < maxLineLength) {
return true;
}
// line too long. try again
LOG.info("Skipped line of size " + newSize + " at pos " + (pos - newSize));
}
return false;
}
}
しかし、これは値を次のように返しています
key | Value
0 |1,1:2,2:3,3:4,4:5,5
4 |6,6:7,7.......10,10
6 |11,11:12,12:......14,14
誰かがこのコードで私を助けることができますか、または RecodeReader の新しいコードも同様に行いますか? 問題の要件 (ユースケースを理解するのに役立つ場合があります) ありがとう