246

SQLite3 データベースを MySQL に簡単に移行する簡単な方法を知っている人はいますか?

4

17 に答える 17

123

誰もがいくつかのgrepsとperl式から始めているようで、特定のデータセットで機能するものを取得しますが、データが正しくインポートされているかどうかはわかりません。私は、2つの間で変換できる堅実なライブラリを誰も構築していないことに真剣に驚いています。

ここに、2つのファイル形式の間で私が知っているSQL構文のすべての違いのリストがあります。

  • トランザクションの開始
  • 専念
  • sqlite_sequence
  • 一意のインデックスを作成する

MySQLでは使用されません

  • SQLiteは使用しCREATE TABLE/INSERT INTO "table_name"、MySQLは使用しますCREATE TABLE/INSERT INTO table_name
  • MySQLはスキーマ定義内で引用符を使用しません
  • MySQLは、INSERT INTO句内の文字列に一重引用符を使用します
  • INSERT INTOSQLiteとMySQLには、句内の文字列をエスケープする方法が異なります
  • SQLiteは't'and'f'を使用し、ブール値の場合、MySQLは1andを使用します0（これに対する単純な正規表現は、次のような文字列がある場合に失敗する可能性があります：'I do、you do n'in your INSERT INTO）
  • SQLLiteは使用しAUTOINCREMENT、MySQLは使用しますAUTO_INCREMENT

これは非常に基本的なハッキングされたperlスクリプトで、私のデータセットで機能し、Webで見つけた他のperlスクリプトよりも多くの条件をチェックします。Nuは、データに対して機能することを保証しますが、自由に変更してここに投稿してください。

#! /usr/bin/perl

while ($line = <>){
    if (($line !~  /BEGIN TRANSACTION/) && ($line !~ /COMMIT/) && ($line !~ /sqlite_sequence/) && ($line !~ /CREATE UNIQUE INDEX/)){
        
        if ($line =~ /CREATE TABLE \"([a-z_]*)\"(.*)/i){
            $name = $1;
            $sub = $2;
            $sub =~ s/\"//g;
            $line = "DROP TABLE IF EXISTS $name;\nCREATE TABLE IF NOT EXISTS $name$sub\n";
        }
        elsif ($line =~ /INSERT INTO \"([a-z_]*)\"(.*)/i){
            $line = "INSERT INTO $1$2\n";
            $line =~ s/\"/\\\"/g;
            $line =~ s/\"/\'/g;
        }else{
            $line =~ s/\'\'/\\\'/g;
        }
        $line =~ s/([^\\'])\'t\'(.)/$1THIS_IS_TRUE$2/g;
        $line =~ s/THIS_IS_TRUE/1/g;
        $line =~ s/([^\\'])\'f\'(.)/$1THIS_IS_FALSE$2/g;
        $line =~ s/THIS_IS_FALSE/0/g;
        $line =~ s/AUTOINCREMENT/AUTO_INCREMENT/g;
        print $line;
    }
}
于 2008-09-17T20:49:49.620 に答える
65

コンバーターのリストは次のとおりです (2011 年以降更新されていません)。

うまく機能するがめったに言及されない別の方法は、特定のデータベースの違いを抽象化する ORM クラスを使用することです。たとえば、これらは PHP ( RedBean )、Python (Django の ORM レイヤー、Storm、SqlAlchemy )、Ruby on Rails ( ActiveRecord )、Cocoa ( CoreData )で取得できます。

つまり、これを行うことができます：

  1. ORM クラスを使用して、ソース データベースからデータを読み込みます。
  2. データをメモリに保存するか、ディスクにシリアル化します。
  3. ORM クラスを使用して、宛先データベースにデータを格納します。
于 2011-05-14T07:11:45.367 に答える
20

私は通常、 IntelliJ DataGripのテーブルのエクスポート/インポート機能を使用します。

ステップ1 ステップ2 ステップ 3

右下隅に進行状況が表示されます。

[ ここに画像の説明を入力]

于 2018-10-16T16:33:01.090 に答える
12

おそらく最も簡単な方法は、sqlite .dump コマンドを使用することです。この場合、サンプル データベースのダンプを作成します。

sqlite3 sample.db .dump > dump.sql

その後、(理論上は) これを mysql データベース (この場合はデータベース サーバー 127.0.0.1 上のテスト データベース) にユーザー root を使用してインポートできます。

mysql -p -u root -h 127.0.0.1 test < dump.sql

文法にはいくつかの違いがあるため、理論的に言います。

sqlite トランザクションで開始

BEGIN TRANSACTION;
...
COMMIT;

MySQL は

BEGIN;
...
COMMIT;

他にも同様の問題があります (varchar と二重引用符が思い浮かびます) が、find と replace で修正できなかったものはありません。

移行する理由を尋ねる必要があるかもしれません。パフォーマンスやデータベースのサイズが問題である場合は、スキーマの再編成を検討する必要があります。システムがより強力な製品に移行している場合は、データの将来を計画するのに最適な時期かもしれません。

于 2008-08-25T11:10:04.650 に答える
10

このプロセスを経たばかりで、この Q/A には非常に役立つヘルプと情報がたくさんありますが、実用的なソリューションを得るには、さまざまな要素 (および他の Q/A からのいくつか) をまとめる必要があることがわかりました。正常に移行するために。

ただし、既存の回答を組み合わせた後でも、INSERT に複数のブール値が出現する場所では Python スクリプトが機能しなかったため、Python スクリプトが完全に機能しないことがわかりました。なぜそうなったかはこちらをご覧ください。

それで、ここにマージされた回答を投稿すると思いました。もちろん、クレジットは他の場所で貢献した人に与えられます。しかし、私は何かを返したかったので、他の人の時間を節約したかったのです。

以下にスクリプトを掲載します。しかし、最初に、変換の手順は次のとおりです...

OS X 10.7.5 Lion でスクリプトを実行しました。Python はすぐに使用できました。

既存の SQLite3 データベースから MySQL 入力ファイルを生成するには、次のように独自のファイルでスクリプトを実行します。

Snips$ sqlite3 original_database.sqlite3 .dump | python ~/scripts/dump_for_mysql.py > dumped_data.sql

次に、作成された dumped_sql.sql ファイルを、MySQL データベースが存在する Ubuntu 10.04.4 LTS を実行する Linux ボックスにコピーしました。

MySQL ファイルをインポートするときに発生したもう 1 つの問題は、一部の Unicode UTF-8 文字 (特に一重引用符) が正しくインポートされないことでした。そのため、コマンドにスイッチを追加して UTF-8 を指定する必要がありました。

スパンキングされた新しい空の MySQL データベースにデータを入力する結果のコマンドは次のとおりです。

Snips$ mysql -p -u root -h 127.0.0.1 test_import --default-character-set=utf8 < dumped_data.sql

調理してみましょう。それだけです。前後にデータを精査することを忘れないでください。

だから、OPが要求したように、方法を知っていれば、すばやく簡単にできます! :-)

余談ですが、この移行を検討する前に確信が持てなかったのは、created_at フィールドと updated_at フィールドの値が保持されるかどうかということでした。幸いなことに、保持されているため、既存の運用データを移行できました。

幸運を！

アップデート

この切り替えを行ってから、以前は気付かなかった問題に気付きました。私の Rails アプリケーションでは、テキスト フィールドが「文字列」として定義されており、これがデータベース スキーマに引き継がれます。ここで説明するプロセスにより、これらは MySQL データベースで VARCHAR(255) として定義されます。これにより、これらのフィールド サイズに 255 文字の制限が設定されます。これを超えるものは、インポート中に警告なく切り捨てられます。255 を超えるテキスト長をサポートするには、MySQL スキーマで VARCHAR(255) ではなく 'TEXT' を使用する必要があると思います。ここで定義するプロセスには、この変換は含まれません。

これは、私のデータに対して機能するマージおよび改訂された Python スクリプトです。

#!/usr/bin/env python

import re
import fileinput

def this_line_is_useless(line):
    useless_es = [
        'BEGIN TRANSACTION',
        'COMMIT',
        'sqlite_sequence',
        'CREATE UNIQUE INDEX',        
        'PRAGMA foreign_keys=OFF'
        ]
    for useless in useless_es:
        if re.search(useless, line):
            return True

def has_primary_key(line):
    return bool(re.search(r'PRIMARY KEY', line))

searching_for_end = False
for line in fileinput.input():
    if this_line_is_useless(line): continue

    # this line was necessary because ''); was getting
    # converted (inappropriately) to \');
    if re.match(r".*, ''\);", line):
        line = re.sub(r"''\);", r'``);', line)

    if re.match(r'^CREATE TABLE.*', line):
        searching_for_end = True

    m = re.search('CREATE TABLE "?([A-Za-z_]*)"?(.*)', line)
    if m:
        name, sub = m.groups()
        line = "DROP TABLE IF EXISTS %(name)s;\nCREATE TABLE IF NOT EXISTS `%(name)s`%(sub)s\n"
        line = line % dict(name=name, sub=sub)
        line = line.replace('AUTOINCREMENT','AUTO_INCREMENT')
        line = line.replace('UNIQUE','')
        line = line.replace('"','')
    else:
        m = re.search('INSERT INTO "([A-Za-z_]*)"(.*)', line)
        if m:
            line = 'INSERT INTO %s%s\n' % m.groups()
            line = line.replace('"', r'\"')
            line = line.replace('"', "'")
            line = re.sub(r"(?<!')'t'(?=.)", r"1", line)
            line = re.sub(r"(?<!')'f'(?=.)", r"0", line)

    # Add auto_increment if it's not there since sqlite auto_increments ALL
    # primary keys
    if searching_for_end:
        if re.search(r"integer(?:\s+\w+)*\s*PRIMARY KEY(?:\s+\w+)*\s*,", line):
            line = line.replace("PRIMARY KEY", "PRIMARY KEY AUTO_INCREMENT")
        # replace " and ' with ` because mysql doesn't like quotes in CREATE commands

    # And now we convert it back (see above)
    if re.match(r".*, ``\);", line):
        line = re.sub(r'``\);', r"'');", line)

    if searching_for_end and re.match(r'.*\);', line):
        searching_for_end = False

    if re.match(r"CREATE INDEX", line):
        line = re.sub('"', '`', line)

    print line,
于 2012-11-13T17:06:15.117 に答える
8 
aptitude install sqlfairy libdbd-sqlite3-perl

sqlt -f DBI --dsn dbi:SQLite:../.open-tran/ten-sq.db -t MySQL --add-drop-table > mysql-ten-sq.sql
sqlt -f DBI --dsn dbi:SQLite:../.open-tran/ten-sq.db -t Dumper --use-same-auth > sqlite2mysql-dumper.pl
chmod +x sqlite2mysql-dumper.pl
./sqlite2mysql-dumper.pl --help
./sqlite2mysql-dumper.pl --add-truncate --mysql-loadfile > mysql-dump.sql
sed -e 's/LOAD DATA INFILE/LOAD DATA LOCAL INFILE/' -i mysql-dump.sql

echo 'drop database `ten-sq`' | mysql -p -u root
echo 'create database `ten-sq` charset utf8' | mysql -p -u root
mysql -p -u root -D ten-sq < mysql-ten-sq.sql
mysql -p -u root -D ten-sq < mysql-dump.sql
于 2011-10-12T22:01:46.553 に答える
5

SQL ダンプを取得する

moose@pc08$ sqlite3 mySqliteDatabase.db .dump > myTemporarySQLFile.sql

ダンプを MySQL にインポートする

少量の輸入の場合:

moose@pc08$ mysql -u <username> -p
Enter password:
....
mysql> use somedb;
Database changed
mysql> source myTemporarySQLFile.sql;

また

mysql -u root -p somedb < myTemporarySQLFile.sql

これにより、パスワードの入力が求められます。注意: パスワードを直接入力する場合は、次の直後にスペースを入れずに入力する必要があります-p。

mysql -u root -pYOURPASS somedb < myTemporarySQLFile.sql

より大きなダンプの場合:

mysqlimport またはBigDumpなどの他のインポート ツール。

BigDump はプログレス バーを表示します。

ここに画像の説明を入力

于 2013-06-09T12:01:37.000 に答える
5

最近、私たちのチームが取り組んでいるプロジェクトのために、MySQL から JavaDB に移行する必要がありました。Apache によって作成された DdlUtils という Java ライブラリを見つけたので、これが非常に簡単になりました。次のことを可能にする API を提供します。

  1. データベースのスキーマを検出し、XML ファイルとしてエクスポートします。
  2. このスキーマに基づいて DB を変更します。
  3. スキーマが同じであると仮定して、ある DB から別の DB にレコードをインポートします。

最終的に得られたツールは完全に自動化されたわけではありませんが、うまく機能しました。アプリケーションが Java ではない場合でも、1 回限りの移行を行うためにいくつかの小さなツールを作成するのはそれほど難しくありません。150 行未満のコードで移行を実行できたと思います。

于 2008-08-21T03:12:51.460 に答える
5

この単純なスクリプトは Python3 で作成しました。これは、組み込みクラスとして、またはターミナル シェル経由で呼び出されるスタンドアロン スクリプトとして使用できます。デフォルトでは、すべての整数を としてインポートしint(11)、文字列を としてインポートしますvarchar(300)が、すべてコンストラクタまたはスクリプト引数でそれぞれ調整できます。

注: MySQL Connector/Python 2.0.4 以降が必要です。

以下のコードが読みにくい場合は、GitHub のソースへのリンクを次に示します: https://github.com/techouse/sqlite3-to-mysql

#!/usr/bin/env python3

__author__ = "Klemen Tušar"
__email__ = "techouse@gmail.com"
__copyright__ = "GPL"
__version__ = "1.0.1"
__date__ = "2015-09-12"
__status__ = "Production"

import os.path, sqlite3, mysql.connector
from mysql.connector import errorcode


class SQLite3toMySQL:
    """
    Use this class to transfer an SQLite 3 database to MySQL.

    NOTE: Requires MySQL Connector/Python 2.0.4 or higher (https://dev.mysql.com/downloads/connector/python/)
    """
    def __init__(self, **kwargs):
        self._properties = kwargs
        self._sqlite_file = self._properties.get('sqlite_file', None)
        if not os.path.isfile(self._sqlite_file):
            print('SQLite file does not exist!')
            exit(1)
        self._mysql_user = self._properties.get('mysql_user', None)
        if self._mysql_user is None:
            print('Please provide a MySQL user!')
            exit(1)
        self._mysql_password = self._properties.get('mysql_password', None)
        if self._mysql_password is None:
            print('Please provide a MySQL password')
            exit(1)
        self._mysql_database = self._properties.get('mysql_database', 'transfer')
        self._mysql_host = self._properties.get('mysql_host', 'localhost')

        self._mysql_integer_type = self._properties.get('mysql_integer_type', 'int(11)')
        self._mysql_string_type = self._properties.get('mysql_string_type', 'varchar(300)')

        self._sqlite = sqlite3.connect(self._sqlite_file)
        self._sqlite.row_factory = sqlite3.Row
        self._sqlite_cur = self._sqlite.cursor()

        self._mysql = mysql.connector.connect(
            user=self._mysql_user,
            password=self._mysql_password,
            host=self._mysql_host
        )
        self._mysql_cur = self._mysql.cursor(prepared=True)
        try:
            self._mysql.database = self._mysql_database
        except mysql.connector.Error as err:
            if err.errno == errorcode.ER_BAD_DB_ERROR:
                self._create_database()
            else:
                print(err)
                exit(1)

    def _create_database(self):
        try:
            self._mysql_cur.execute("CREATE DATABASE IF NOT EXISTS `{}` DEFAULT CHARACTER SET 'utf8'".format(self._mysql_database))
            self._mysql_cur.close()
            self._mysql.commit()
            self._mysql.database = self._mysql_database
            self._mysql_cur = self._mysql.cursor(prepared=True)
        except mysql.connector.Error as err:
            print('_create_database failed creating databse {}: {}'.format(self._mysql_database, err))
            exit(1)

    def _create_table(self, table_name):
        primary_key = ''
        sql = 'CREATE TABLE IF NOT EXISTS `{}` ( '.format(table_name)
        self._sqlite_cur.execute('PRAGMA table_info("{}")'.format(table_name))
        for row in self._sqlite_cur.fetchall():
            column = dict(row)
            sql += ' `{name}` {type} {notnull} {auto_increment}, '.format(
                name=column['name'],
                type=self._mysql_string_type if column['type'].upper() == 'TEXT' else self._mysql_integer_type,
                notnull='NOT NULL' if column['notnull'] else 'NULL',
                auto_increment='AUTO_INCREMENT' if column['pk'] else ''
            )
            if column['pk']:
                primary_key = column['name']
        sql += ' PRIMARY KEY (`{}`) ) ENGINE = InnoDB CHARACTER SET utf8'.format(primary_key)
        try:
            self._mysql_cur.execute(sql)
            self._mysql.commit()
        except mysql.connector.Error as err:
            print('_create_table failed creating table {}: {}'.format(table_name, err))
            exit(1)

    def transfer(self):
        self._sqlite_cur.execute("SELECT name FROM sqlite_master WHERE type='table' AND name NOT LIKE 'sqlite_%'")
        for row in self._sqlite_cur.fetchall():
            table = dict(row)
            # create the table
            self._create_table(table['name'])
            # populate it
            print('Transferring table {}'.format(table['name']))
            self._sqlite_cur.execute('SELECT * FROM "{}"'.format(table['name']))
            columns = [column[0] for column in self._sqlite_cur.description]
            try:
                self._mysql_cur.executemany("INSERT IGNORE INTO `{table}` ({fields}) VALUES ({placeholders})".format(
                    table=table['name'],
                    fields=('`{}`, ' * len(columns)).rstrip(' ,').format(*columns),
                    placeholders=('%s, ' * len(columns)).rstrip(' ,')
                ), (tuple(data) for data in self._sqlite_cur.fetchall()))
                self._mysql.commit()
            except mysql.connector.Error as err:
                print('_insert_table_data failed inserting data into table {}: {}'.format(table['name'], err))
                exit(1)
        print('Done!')


def main():
    """ For use in standalone terminal form """
    import sys, argparse
    parser = argparse.ArgumentParser()
    parser.add_argument('--sqlite-file', dest='sqlite_file', default=None, help='SQLite3 db file')
    parser.add_argument('--mysql-user', dest='mysql_user', default=None, help='MySQL user')
    parser.add_argument('--mysql-password', dest='mysql_password', default=None, help='MySQL password')
    parser.add_argument('--mysql-database', dest='mysql_database', default=None, help='MySQL host')
    parser.add_argument('--mysql-host', dest='mysql_host', default='localhost', help='MySQL host')
    parser.add_argument('--mysql-integer-type', dest='mysql_integer_type', default='int(11)', help='MySQL default integer field type')
    parser.add_argument('--mysql-string-type', dest='mysql_string_type', default='varchar(300)', help='MySQL default string field type')
    args = parser.parse_args()

    if len(sys.argv) == 1:
        parser.print_help()
        exit(1)

    converter = SQLite3toMySQL(
        sqlite_file=args.sqlite_file,
        mysql_user=args.mysql_user,
        mysql_password=args.mysql_password,
        mysql_database=args.mysql_database,
        mysql_host=args.mysql_host,
        mysql_integer_type=args.mysql_integer_type,
        mysql_string_type=args.mysql_string_type
    )
    converter.transfer()

if __name__ == '__main__':
    main()
于 2015-08-27T08:09:54.267 に答える
4

Jims のソリューションに基づく: SQLite3 を MySQL に移行する簡単な方法は?

sqlite3 your_sql3_database.db .dump | python ./dump.py > your_dump_name.sql
cat your_dump_name.sql | sed '1d' | mysql --user=your_mysql_user --default-character-set=utf8 your_mysql_db -p

これは私にとってはうまくいきます。最初の行をスローするためだけに sed を使用しますが、これは mysql のようではありませんが、dump.py スクリプトを変更してこの行を破棄することもできます。

于 2011-06-20T12:12:52.507 に答える
1

はぁ・・・これを先に見つけておけばよかった！私の応答はこの投稿に対するものでした... mysql ダンプ sql ファイルを sqlite3 db にインポートできる形式に変換するスクリプト

2つを組み合わせると、まさに私が必要としていたものになります:

sqlite3 データベースを ruby​​ で使用する場合は、次のように変更する必要があります。

tinyint([0-9]*)

に：

sed 's/ tinyint(1*) / boolean/g ' |
sed 's/ tinyint([0|2-9]*) / integer /g' |

残念ながら、ブール値とマークされたフィールドに 1 と 0 を挿入していても、sqlite3 はそれらを 1 と 0 として保存するため、これは半分しか機能しません。

Table.find(:all, :conditions => {:column => 1 }).each { |t| t.column = true }.each(&:save)
Table.find(:all, :conditions => {:column => 0 }).each { |t| t.column = false}.each(&:save)

しかし、すべてのブール値を見つけるために見る SQL ファイルがあると役に立ちました。

于 2010-03-30T06:32:32.787 に答える
0

もちろん、私が会ったこの場合を除いて、このスクリプトは問題ありません：

INSERT INTO "requestcomparison_stopword" VALUES(149,'f');
INSERT INTO "requestcomparison_stopword" VALUES(420,'t');

スクリプトは次の出力を提供する必要があります。

INSERT INTO requestcomparison_stopword VALUES(149,'f');
INSERT INTO requestcomparison_stopword VALUES(420,'t');

しかし、代わりにその出力を提供します：

INSERT INTO requestcomparison_stopword VALUES(1490;
INSERT INTO requestcomparison_stopword VALUES(4201;

最後の 0 と 1 のあたりに奇妙な非 ASCII 文字がいくつかあります。

コードの次の行 (43-46) にコメントすると、これは表示されなくなりましたが、他の問題が表示されました。


    line = re.sub(r"([^'])'t'(.)", "\1THIS_IS_TRUE\2", line)
    line = line.replace('THIS_IS_TRUE', '1')
    line = re.sub(r"([^'])'f'(.)", "\1THIS_IS_FALSE\2", line)
    line = line.replace('THIS_IS_FALSE', '0')

これは単なる特別なケースです。'f' または 't' の値を追加したいのですが、私は正規表現にあまり慣れていないので、誰かが修正するようにこのケースを見つけたかっただけです。

とにかく、その便利なスクリプトに感謝します!!!

于 2009-09-30T14:42:45.223 に答える
0

この簡単な解決策は私にとってはうまくいきました：

<?php
$sq = new SQLite3( 'sqlite3.db' );

$tables = $sq->query( 'SELECT name FROM sqlite_master WHERE type="table"' );

while ( $table = $tables->fetchArray() ) {
    $table = current( $table );
    $result = $sq->query( sprintf( 'SELECT * FROM %s', $table ) );

    if ( strpos( $table, 'sqlite' ) !== false )
        continue;

    printf( "-- %s\n", $table );
    while ( $row = $result->fetchArray( SQLITE3_ASSOC ) ) {
        $values = array_map( function( $value ) {
            return sprintf( "'%s'", mysql_real_escape_string( $value ) );
        }, array_values( $row ) );
        printf( "INSERT INTO `%s` VALUES( %s );\n", $table, implode( ', ', $values ) );
    }
}
于 2015-11-19T06:41:00.427 に答える
-6 
echo ".dump" | sqlite3 /tmp/db.sqlite > db.sql

CREATE ステートメントに注意してください

于 2012-04-08T22:32:40.023 に答える