私は、限られたメモリ（約64MB）を使用してJavaで大きなファイル（0.5〜1 GB）を再度読み書きするための最速の方法をたくさん探してきました。ファイルの各行はレコードを表すため、1行ずつ取得する必要があります。ファイルは通常のテキストファイルです。
BufferedReaderとBufferedWriterを試しましたが、最適なオプションではないようです。サイズが0.5GBのファイルの読み取りと書き込みには、約35秒かかります。読み取りと書き込みのみで、処理は行われません。読むだけでも約10秒かかるので、ここでのボトルネックは書き込みだと思います。
バイトの配列を読み取ろうとしましたが、読み取られた各配列の行の検索に時間がかかります。
何か提案はありますか？ありがとう
あなたの本当の問題は、ハードウェアが限られており、ソフトウェアが何をしても大きな違いがないことだと思います。メモリと CPU が十分にある場合は、より高度なトリックが役立ちますが、ファイルがキャッシュされていないためにハード ドライブで待機している場合は、大きな違いはありません。
ところで: 10 秒で 500 MB または 50 MB/秒は、HDD の一般的な読み取り速度です。
以下を実行して、システムがファイルを効率的にキャッシュできない時点を確認してください。
public static void main(String... args) throws IOException {
for (int mb : new int[]{50, 100, 250, 500, 1000, 2000})
testFileSize(mb);
}
private static void testFileSize(int mb) throws IOException {
File file = File.createTempFile("test", ".txt");
file.deleteOnExit();
char[] chars = new char[1024];
Arrays.fill(chars, 'A');
String longLine = new String(chars);
long start1 = System.nanoTime();
PrintWriter pw = new PrintWriter(new FileWriter(file));
for (int i = 0; i < mb * 1024; i++)
pw.println(longLine);
pw.close();
long time1 = System.nanoTime() - start1;
System.out.printf("Took %.3f seconds to write to a %d MB, file rate: %.1f MB/s%n",
time1 / 1e9, file.length() >> 20, file.length() * 1000.0 / time1);
long start2 = System.nanoTime();
BufferedReader br = new BufferedReader(new FileReader(file));
for (String line; (line = br.readLine()) != null; ) {
}
br.close();
long time2 = System.nanoTime() - start2;
System.out.printf("Took %.3f seconds to read to a %d MB file, rate: %.1f MB/s%n",
time2 / 1e9, file.length() >> 20, file.length() * 1000.0 / time2);
file.delete();
}
多くのメモリを搭載した Linux マシン。
Took 0.395 seconds to write to a 50 MB, file rate: 133.0 MB/s
Took 0.375 seconds to read to a 50 MB file, rate: 140.0 MB/s
Took 0.669 seconds to write to a 100 MB, file rate: 156.9 MB/s
Took 0.569 seconds to read to a 100 MB file, rate: 184.6 MB/s
Took 1.585 seconds to write to a 250 MB, file rate: 165.5 MB/s
Took 1.274 seconds to read to a 250 MB file, rate: 206.0 MB/s
Took 2.513 seconds to write to a 500 MB, file rate: 208.8 MB/s
Took 2.332 seconds to read to a 500 MB file, rate: 225.1 MB/s
Took 5.094 seconds to write to a 1000 MB, file rate: 206.0 MB/s
Took 5.041 seconds to read to a 1000 MB file, rate: 208.2 MB/s
Took 11.509 seconds to write to a 2001 MB, file rate: 182.4 MB/s
Took 9.681 seconds to read to a 2001 MB file, rate: 216.8 MB/s
多くのメモリを搭載した Windows マシン。
Took 0.376 seconds to write to a 50 MB, file rate: 139.7 MB/s
Took 0.401 seconds to read to a 50 MB file, rate: 131.1 MB/s
Took 0.517 seconds to write to a 100 MB, file rate: 203.1 MB/s
Took 0.520 seconds to read to a 100 MB file, rate: 201.9 MB/s
Took 1.344 seconds to write to a 250 MB, file rate: 195.4 MB/s
Took 1.387 seconds to read to a 250 MB file, rate: 189.4 MB/s
Took 2.368 seconds to write to a 500 MB, file rate: 221.8 MB/s
Took 2.454 seconds to read to a 500 MB file, rate: 214.1 MB/s
Took 4.985 seconds to write to a 1001 MB, file rate: 210.7 MB/s
Took 5.132 seconds to read to a 1001 MB file, rate: 204.7 MB/s
Took 10.276 seconds to write to a 2003 MB, file rate: 204.5 MB/s
Took 9.964 seconds to read to a 2003 MB file, rate: 210.9 MB/s
最初に試みることは、BufferedReader と BufferedWriter のバッファー サイズを増やすことです。デフォルトのバッファ サイズは文書化されていませんが、少なくとも Oracle VM では 8192 文字であり、パフォーマンス上の利点はあまりありません。
ファイルのコピーのみを作成する必要がある (データに実際にアクセスする必要がない) 場合は、リーダー/ライターのアプローチをやめて、バイト配列をバッファーとして使用して InputStream と OutputStream を直接操作します。
FileInputStream fis = new FileInputStream("d:/test.txt");
FileOutputStream fos = new FileOutputStream("d:/test2.txt");
byte[] b = new byte[bufferSize];
int r;
while ((r=fis.read(b))>=0) {
fos.write(b, 0, r);
}
fis.close();
fos.close();
または実際にNIOを使用します：
FileChannel in = new RandomAccessFile("d:/test.txt", "r").getChannel();
FileChannel out = new RandomAccessFile("d:/test2.txt", "rw").getChannel();
out.transferFrom(in, 0, Long.MAX_VALUE);
in.close();
out.close();
ただし、さまざまなコピー方法をベンチマークする場合、ベンチマークの各実行間の違い (期間) は、異なる実装間よりもはるかに大きくなります。ここでは I/O キャッシング (OS レベルとハードディスク キャッシュの両方) が大きな役割を果たしており、どちらが速いかを言うのは非常に困難です。私のハードウェアでは、BufferedReader と BufferedWriter を使用して 1GB のテキスト ファイルを 1 行ずつコピーするのに 5 秒未満かかる実行もあれば、30 秒以上かかる実行もあります。
java.nioパッケージ内のクラスを見ることをお勧めします。非ブロッキング IO は、ソケットの場合は高速になる可能性があります。
http://docs.oracle.com/javase/6/docs/api/java/nio/package-summary.html
この記事には、それが真実であるというベンチマークがあります。
http://vanillajava.blogspot.com/2010/07/java-nio-is-faster-than-java-io-for.html
Java でファイルを読み取り、1KB から 1GB のサンプル ファイルを使用して相互にテストするさまざまな方法に関する詳細な記事を書いたことがあります。1GB のファイルを読み取るには、次の 3 つの方法が最も高速であることがわかりました。
1) java.nio.file.Files.readAllBytes() - 1 GB のテスト ファイルを読み取るのに 1 秒弱かかりました。
import java.io.File;
import java.io.IOException;
import java.nio.file.Files;
public class ReadFile_Files_ReadAllBytes {
public static void main(String [] pArgs) throws IOException {
String fileName = "c:\\temp\\sample-10KB.txt";
File file = new File(fileName);
byte [] fileBytes = Files.readAllBytes(file.toPath());
char singleChar;
for(byte b : fileBytes) {
singleChar = (char) b;
System.out.print(singleChar);
}
}
}
2) java.nio.file.Files.lines() - 1 GB のテスト ファイルを読み込むのに約 3.5 秒かかりました。
import java.io.File;
import java.io.IOException;
import java.nio.file.Files;
import java.util.stream.Stream;
public class ReadFile_Files_Lines {
public static void main(String[] pArgs) throws IOException {
String fileName = "c:\\temp\\sample-10KB.txt";
File file = new File(fileName);
try (Stream linesStream = Files.lines(file.toPath())) {
linesStream.forEach(line -> {
System.out.println(line);
});
}
}
}
3) java.io.BufferedReader - 1 GB のテスト ファイルを読み取るのに約 4.5 秒かかりました。
import java.io.BufferedReader;
import java.io.FileReader;
import java.io.IOException;
public class ReadFile_BufferedReader_ReadLine {
public static void main(String [] args) throws IOException {
String fileName = "c:\\temp\\sample-10KB.txt";
FileReader fileReader = new FileReader(fileName);
try (BufferedReader bufferedReader = new BufferedReader(fileReader)) {
String line;
while((line = bufferedReader.readLine()) != null) {
System.out.println(line);
}
}
}
}