巨大なファイルで複数行のパターンを検索していますが、見つかった場合は内容を置き換える必要があります。これをメモリ効率の良い方法で実現したいと考えています。私の現在の実装では、ファイルから 4096 バイトのチャンクでテキストを読み取ります。次に、正規表現検索置換を適用し、結果をバッファー出力ストリームに保存します。これにより、ファイル全体をメモリにロードしないことでメモリが改善されますが、マップ/フラッシュ呼び出しで多くの IO を作成しています。コードをさらに改善するための提案が必要です。また、検索対象のパターンが隣接するチャンクに分割されている場合、アルゴリズムは失敗します。隣接するチャンクに分割されたテキストを効率的に検索置換する方法に関するアイデア。前提 : 検索するテキストは常に 4096 バイト未満です。
public void searchAndReplace (String inputFilePath, String outputFilePath) {
Pattern HEADER_PATTERN = Pattern.compile("<a [^>]*>[^(</a>)]*</a>", Pattern.DOTALL);
Charset UTF8 = Charset.forName("UTF-8");
File outputFile = new File(outputfilepath);
if (!outputFile.exists()) {
outputFile.createNewFile();
}
FileInputStream inputStream = new FileInputStream(new File(inputfilepath));
FileOutputStream outputStream = new FileOutputStream(outputFile);
FileChannel inputChannel = inputStream.getChannel();
final long length = inputChannel.size();
long pos = 0;
while (pos < length) {
int remaining = (int)(length - pos) > 4096 ? 4096 : (int)(length - pos);
MappedByteBuffer map = inputChannel.map(FileChannel.MapMode.READ_ONLY, pos, remaining);
CharBuffer cbuf = UTF8.newDecoder().decode(map);
Matcher matcher = HEADER_PATTERN.matcher(cbuf);
StringBuffer sb = new StringBuffer();
while (matcher.find()) {
matcher.appendReplacement(sb, "Some text");
}
matcher.appendTail(sb);
outputStream.write(sb.toString().getBytes());
outputStream.flush();
pos = pos + 4096;
}
inputStream.close();
outputStream.close();
}