私のソフトウェアは、ISO 8859 1に変換する必要があるよりもUTF8でいくつかの文字列を取得しています。UTF8ドメインがISO8859よりも大きいことは知っています。しかし、UTF8のデータは以前にISOからアップコンバートされているので、何も見逃してはなりません。
UTF8からiso-8859-1に変換する簡単で直接的な方法があるかどうか知りたいです。
私のソフトウェアは、ISO 8859 1に変換する必要があるよりもUTF8でいくつかの文字列を取得しています。UTF8ドメインがISO8859よりも大きいことは知っています。しかし、UTF8のデータは以前にISOからアップコンバートされているので、何も見逃してはなりません。
UTF8からiso-8859-1に変換する簡単で直接的な方法があるかどうか知りたいです。
iconv-文字セット変換を実行します
size_t iconv(iconv_t cd, char **inbuf, size_t *inbytesleft, char **outbuf, size_t *outbytesleft);
iconv_t iconv_open(const char *tocode, const char *fromcode);
tocode
であり"ISO_8859-1"
、fromcode
です"UTF-8"
。
実例:
#include <iconv.h>
#include <stdio.h>
int main (void) {
iconv_t cd = iconv_open("ISO_8859-1", "UTF-8");
if (cd == (iconv_t) -1) {
perror("iconv_open failed!");
return 1;
}
char input[] = "Test äöü";
char *in_buf = &input[0];
size_t in_left = sizeof(input) - 1;
char output[32];
char *out_buf = &output[0];
size_t out_left = sizeof(output) - 1;
do {
if (iconv(cd, &in_buf, &in_left, &out_buf, &out_left) == (size_t) -1) {
perror("iconv failed!");
return 1;
}
} while (in_left > 0 && out_left > 0);
*out_buf = 0;
iconv_close(cd);
printf("%s -> %s\n", input, output);
return 0;
}
便利な関数を次に示しますutf8_to_latin9()
。これはISO-8859-15
(EURO をISO-8859-1
含まない)に変換されますが、 -> ->往復のUTF-8
->ISO-8859-1
変換部分に対しても正しく機能します。ISO-8859-1
UTF-8
ISO-8859-1
この関数は、iconv のフラグと同様に無効なコード ポイントを無視します//IGNORE
が、分解された UTF-8 シーケンスを再構成しません。つまり、 にはなりませU+006E U+0303
んU+00F1
。iconv もそうしないので、再構成する必要はありません。
この関数は、文字列アクセスに非常に注意を払っています。バッファを超えてスキャンすることはありません。出力バッファは常に文字列の終わりの NUL バイトを追加するため、長さよりも 1 バイト長くなければなりません。この関数は、文字列の終わりの NUL バイトを含まない、出力の文字数 (バイト) を返します。
/* UTF-8 to ISO-8859-1/ISO-8859-15 mapper.
* Return 0..255 for valid ISO-8859-15 code points, 256 otherwise.
*/
static inline unsigned int to_latin9(const unsigned int code)
{
/* Code points 0 to U+00FF are the same in both. */
if (code < 256U)
return code;
switch (code) {
case 0x0152U: return 188U; /* U+0152 = 0xBC: OE ligature */
case 0x0153U: return 189U; /* U+0153 = 0xBD: oe ligature */
case 0x0160U: return 166U; /* U+0160 = 0xA6: S with caron */
case 0x0161U: return 168U; /* U+0161 = 0xA8: s with caron */
case 0x0178U: return 190U; /* U+0178 = 0xBE: Y with diaresis */
case 0x017DU: return 180U; /* U+017D = 0xB4: Z with caron */
case 0x017EU: return 184U; /* U+017E = 0xB8: z with caron */
case 0x20ACU: return 164U; /* U+20AC = 0xA4: Euro */
default: return 256U;
}
}
/* Convert an UTF-8 string to ISO-8859-15.
* All invalid sequences are ignored.
* Note: output == input is allowed,
* but input < output < input + length
* is not.
* Output has to have room for (length+1) chars, including the trailing NUL byte.
*/
size_t utf8_to_latin9(char *const output, const char *const input, const size_t length)
{
unsigned char *out = (unsigned char *)output;
const unsigned char *in = (const unsigned char *)input;
const unsigned char *const end = (const unsigned char *)input + length;
unsigned int c;
while (in < end)
if (*in < 128)
*(out++) = *(in++); /* Valid codepoint */
else
if (*in < 192)
in++; /* 10000000 .. 10111111 are invalid */
else
if (*in < 224) { /* 110xxxxx 10xxxxxx */
if (in + 1 >= end)
break;
if ((in[1] & 192U) == 128U) {
c = to_latin9( (((unsigned int)(in[0] & 0x1FU)) << 6U)
| ((unsigned int)(in[1] & 0x3FU)) );
if (c < 256)
*(out++) = c;
}
in += 2;
} else
if (*in < 240) { /* 1110xxxx 10xxxxxx 10xxxxxx */
if (in + 2 >= end)
break;
if ((in[1] & 192U) == 128U &&
(in[2] & 192U) == 128U) {
c = to_latin9( (((unsigned int)(in[0] & 0x0FU)) << 12U)
| (((unsigned int)(in[1] & 0x3FU)) << 6U)
| ((unsigned int)(in[2] & 0x3FU)) );
if (c < 256)
*(out++) = c;
}
in += 3;
} else
if (*in < 248) { /* 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx */
if (in + 3 >= end)
break;
if ((in[1] & 192U) == 128U &&
(in[2] & 192U) == 128U &&
(in[3] & 192U) == 128U) {
c = to_latin9( (((unsigned int)(in[0] & 0x07U)) << 18U)
| (((unsigned int)(in[1] & 0x3FU)) << 12U)
| (((unsigned int)(in[2] & 0x3FU)) << 6U)
| ((unsigned int)(in[3] & 0x3FU)) );
if (c < 256)
*(out++) = c;
}
in += 4;
} else
if (*in < 252) { /* 111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx */
if (in + 4 >= end)
break;
if ((in[1] & 192U) == 128U &&
(in[2] & 192U) == 128U &&
(in[3] & 192U) == 128U &&
(in[4] & 192U) == 128U) {
c = to_latin9( (((unsigned int)(in[0] & 0x03U)) << 24U)
| (((unsigned int)(in[1] & 0x3FU)) << 18U)
| (((unsigned int)(in[2] & 0x3FU)) << 12U)
| (((unsigned int)(in[3] & 0x3FU)) << 6U)
| ((unsigned int)(in[4] & 0x3FU)) );
if (c < 256)
*(out++) = c;
}
in += 5;
} else
if (*in < 254) { /* 1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx */
if (in + 5 >= end)
break;
if ((in[1] & 192U) == 128U &&
(in[2] & 192U) == 128U &&
(in[3] & 192U) == 128U &&
(in[4] & 192U) == 128U &&
(in[5] & 192U) == 128U) {
c = to_latin9( (((unsigned int)(in[0] & 0x01U)) << 30U)
| (((unsigned int)(in[1] & 0x3FU)) << 24U)
| (((unsigned int)(in[2] & 0x3FU)) << 18U)
| (((unsigned int)(in[3] & 0x3FU)) << 12U)
| (((unsigned int)(in[4] & 0x3FU)) << 6U)
| ((unsigned int)(in[5] & 0x3FU)) );
if (c < 256)
*(out++) = c;
}
in += 6;
} else
in++; /* 11111110 and 11111111 are invalid */
/* Terminate the output string. */
*out = '\0';
return (size_t)(out - (unsigned char *)output);
}
関数内の特定のコード ポイントにカスタムの音訳を追加できto_latin9()
ますが、1 文字の置換に制限されていることに注意してください。
現在書かれているように、この関数はインプレース変換を安全に行うことができます: 入力ポインタと出力ポインタは同じにすることができます。出力文字列が入力文字列より長くなることはありません。入力文字列に余分なバイトを入れる余地がある場合 (たとえば、文字列を終了する NUL がある場合)、上記の関数を安全に使用して UTF-8 から ISO-8859-1/15 に変換できます。組み込み環境での労力を節約できるはずなので、意図的にこのように記述しましたが、このアプローチは少し制限されています。カスタマイズと拡張。
編集:
Latin-1/9 から UTF-8 への変換 (ISO-8859-1 または -15 から UTF-8 へ) の両方について、この回答の編集に一対の変換関数を含めました。主な違いは、これらの関数が動的に割り当てられたコピーを返し、元の文字列をそのまま保持することです。