いくつかのヒンディー語を MySQL データベースに保存したいと考えています。そのために、私は Web クローラーを作成しました。これらの単語を HTML ページから正常に読み取り、NetBeans コンソールに表示することができました。しかし、MySQL に挿入すると、??????? に変わります。また、PHPMyAdmin 自体で SQL クエリを使用して同じ単語を挿入すると、適切に保存されます。
私は Google やさまざまなフォーラムをよく検索し、ほとんどの場所で Unicode の取り扱いに適切な予防措置を講じてきました。Unicode を入力する場合、SQL ステートメント (JDBC) で明示的に言及する必要がありますか?
これが私のコード全体です。
import java.io.*;
import java.net.URL;
import java.net.URLConnection;
import java.sql.Connection;
import java.sql.DriverManager;
import java.sql.Statement;
import java.util.*;
public class TestDataParsing2 {
public int counter = 1;
private String ID = "";
private String title = "";
private String owner = "";
private String s="";
private Connection conn = null;
private String url = "jdbc:mysql://localhost:3306";
private String dbName = "/hindi-eng";
private String driver = "com.mysql.jdbc.Driver";
private String userName = "root";
private String password = "";
private String TABLE = "dict";
private void initdb(){
try {
Class.forName(driver).newInstance();
conn = DriverManager.getConnection(url+dbName,userName,password);
} catch (Exception e) {
e.printStackTrace();
}
}
private void closedb(){
try {
conn.close();
} catch (Exception e) {
e.printStackTrace();
}
}
public void process(String content){
try{
BufferedReader reader = new BufferedReader(new StringReader(content));
String text = "";
boolean start1 = false;
boolean start2 = false;
while (( text = reader.readLine()) != null) {
if(text.contains("\"a")) {
System.out.println("______________________________________________________________");
String id = getID(text);
this.ID = id;
String title = getTitle(text);
this.title = title;
String owner = getOwner(text);
this.owner = owner;
start1 = true;
}
if(start1 && start2) {
String s = getS(text);
this.s = s;
counter++;
insert();
start2=false;
start1= false;
}
if(start1) {
start2= true;
}
}
}catch(Exception e){
System.out.println(e);
}
}
public void insert(){
String insertString = "INSERT INTO " + TABLE + " VALUES (" + this.counter + ",'" +
this.ID + "','" + this.title + "','" + this.owner + "','" + this.s + "')";
System.out.println(insertString);
try {
Statement stmt = conn.createStatement();
stmt.executeUpdate(insertString);
stmt.close();
} catch(Exception e) {
System.out.println(e);
}
}
public String getID(String text){
String id = "";
id = text.substring(text.indexOf("\"")+1, text.indexOf("\","));
return id;
}
public String getTitle(String text){
String title = "";
title = text.substring(text.indexOf(",\"")+2, text.indexOf("\",\"1."));
return title;
}
public String getOwner(String text){
try{
String owner = "";
owner = text.substring(text.indexOf("\",\"1.")+5, text.indexOf("\"<br>"));
int i;
for(i=0;i<owner.length();i++) {
String fifthChar = "\u00AE";
int codePoint = owner.codePointAt(i);
}
return owner;
} catch(Exception e) {
System.out.println(e);
System.out.println("eeee");
}
return owner;
}
public String getS(String text){
String s = "";
s = text.substring(0, text.indexOf("<br>"));
return s;
}
public String download(String path) {
String result = "";
try {
URL url = new URL(path);
URLConnection conn = url.openConnection();
conn.setDoOutput(true);
InputStream in = null;
in = url.openStream();
String content = pipe(in,"utf-8");
result = content;
} catch (Exception e) {
e.printStackTrace();
}
return result;
}
public String pipe(InputStream in,String charset) throws IOException {
StringBuffer s = new StringBuffer();
if(charset==null||"".equals(charset)){
charset="utf-8";
}
String rLine = null;
BufferedReader bReader = new BufferedReader(new InputStreamReader(in,"UTF-8"));
FileOutputStream("C:\\Research\\MiningSoftwareRepositories\\Traceability-Link-Recovery\\EXPERIMENTS\\BR\\"
+ bugid + ".txt");
while ( (rLine = bReader.readLine()) != null) {
String tmp_rLine = rLine;
s.append(tmp_rLine+"\n");
}
tmp_rLine = null;
}
in.close();
return s.toString();
}
public static void main(String[] args) {
TestDataParsing2 tdp = new TestDataParsing2();
tdp.initdb();
System.out.println("process started");
String urlPath = "file:///C:/Users/Abhinav/Downloads/Compressed/eng-hindi-dict-utf8/sa.htm";
String content = tdp.download(urlPath);
tdp.process(content);
tdp.closedb();
}
また、「?useUnicode=yes&characterEncoding=UTF-8」を conn_url に追加すると、それなしでは発生しなかった次のエラーが発生します。
java.sql.SQLException: サポートされていない文字エンコーディング 'UTF-8/hindi-eng'. プロセスは com.mysql.jdbc.SQLError.createSQLException(SQLError.java:1074) で com.mysql.jdbc.SQLError.createSQLException(SQLError.java:988) で com.mysql.jdbc.SQLError.createSQLException(SQLError.java) で開始されました:974) com.mysql.jdbc.SQLError.createSQLException(SQLError.java:919) で com.mysql.jdbc.StringUtils.getBytes(StringUtils.java:574) で com.mysql.jdbc.StringUtils.getBytes(StringUtils. java:719) com.mysql.jdbc.Buffer.writeStringNoNull(Buffer.java:704) で com.mysql.jdbc.MysqlIO.sqlQueryDirect(MysqlIO.java:2573) で com.mysql.jdbc.ConnectionImpl.execSQL(ConnectionImpl) .java:2713) com.mysql.jdbc.ConnectionImpl.execSQL(ConnectionImpl.java:2663) com.mysql.jdbc.StatementImpl.executeQuery(StatementImpl.java:1599) com.mysql.jdbc.
INSERT INTO dict VALUES (2,'a','Art','एक','ペンを買いました ' ) java.lang.NullPointerException _ _ _ _ _ _ _ _ _ _ _ _ _ _ __ _ _ _ _ _ INSERT INTO dict VALUES (3,'aback','Adv','पीछे/हतप्रभ','彼の無礼さに少し驚いた.') java.lang.NullPointerException