毎日、以下を使用して約 6 GB の CSV ファイルを MySQL にロードします。
LOAD DATA LOCAL INFILE 'file$i.csv' INTO TABLE tableName FIELDS TERMINATED BY ',' ENCLOSED BY '\"' LINES TERMINATED BY '\n';
このプロセスを通過するファイルが 6 つあるため、時間がかかります。これらのファイルを自分で生成するため、出力される形式を制御できます。
当初、CSV を選択したのは、これがより小規模なプロセスであり、データを移動して非開発者が簡単に読み取れるようにする必要があったためです。ただし、ロード時間が非常に劇的であるため、それほど問題ではありません。
各行をINSERT
クエリとして単一のファイルに出力して実行する方が速いですか、それとも CSV の方が速いですか?
InnoDB ストレージ エンジンを使用しています。