2

MLCP と取り込み時に基本的な変換スクリプトを使用して、多数の JSON ファイルを MarkLogic 8 にロードしようとしています。

ファイルをそのままロードでき、ML で JSON オブジェクトを取得できます。

私が欲しいのは、取り込み時に JSON から XML に変換することなので、次のような基本的な変換を作成しました。

xquery version "1.0-ml";

module namespace ingest = "http://dikw.com/ingest/linkedin";

import module namespace json="http://marklogic.com/xdmp/json" at "/MarkLogic/json/json.xqy";
import module namespace sem="http://marklogic.com/semantics" at "/MarkLogic/semantics.xqy";

declare namespace basic="http://marklogic.com/xdmp/json/basic";

declare default function namespace "http://www.w3.org/2005/xpath-functions";

declare option xdmp:mapping "false";

declare function ingest:transform(
  $content as map:map,
  $context as map:map
) as map:map*
{
  let $org-doc := map:get($content, "value")
  let $jsonxml := json:transform-from-json($org-doc)
  let $name := $jsonxml//basic:full__name
  let $_ := xdmp:log(concat('Inserting linkedin profile ', $name, '.xml..'))
  let $new-doc := 
    document {
      <json>{
        $jsonxml
      }</json>
  }
  return (
    map:put($content, "value", $new-doc),
    $content
  )
};

ここで、MLCP を使用して変換なしでドキュメントをロードすると動作しますが、上記のように ML8 内で JSON を取得します。(私はRoxyを使用して、MLCP 用にロードする適切な環境を呼び出します。)

./ml $ENV mlcp import -input_file_path content/linkedin -input_file_type documents

上記は正常に動作します。

しかし、次のように変換を使用します。

./ml $ENV mlcp import -input_file_path content/linkedin -input_file_type documents  -transform_module /ingest/linkedin.xqy -output_collections incoming,incoming/linkedin

エラーが表示されます:「エラー contentpump.MultithreadedMapper: 不明なコンテンツ タイプ: json」

15/06/22 17:37:12 INFO contentpump.ContentPump: Hadoop library version: 2.0.0-mr1-cdh4.3.0
15/06/22 17:37:12 INFO contentpump.LocalJobRunner: Content type is set to MIXED.  The format of the  inserted documents will be determined by the MIME  type specification configured on MarkLogic Server.
15/06/22 17:37:12 WARN util.KerberosName: Kerberos krb5 configuration not found, setting default realm to empty
15/06/22 17:37:12 INFO input.FileInputFormat: Total input paths to process : 9
15/06/22 17:37:13 ERROR contentpump.MultithreadedMapper: Unknown content type: json
java.lang.IllegalArgumentException: Unknown content type: json
    at com.marklogic.mapreduce.ContentType.forName(ContentType.java:107)
    at com.marklogic.contentpump.utilities.TransformHelper.getTransformInsertQry(TransformHelper.java:124)
    at com.marklogic.contentpump.TransformWriter.write(TransformWriter.java:97)
    at com.marklogic.contentpump.TransformWriter.write(TransformWriter.java:46)
    at org.apache.hadoop.mapreduce.task.TaskInputOutputContextImpl.write(TaskInputOutputContextImpl.java:85)
    at org.apache.hadoop.mapreduce.lib.map.WrappedMapper$Context.write(WrappedMapper.java:106)
    at com.marklogic.contentpump.DocumentMapper.map(DocumentMapper.java:46)
    at com.marklogic.contentpump.DocumentMapper.map(DocumentMapper.java:32)
    at com.marklogic.contentpump.BaseMapper.runThreadSafe(BaseMapper.java:51)
    at com.marklogic.contentpump.MultithreadedMapper$MapRunner.run(MultithreadedMapper.java:376)
    at java.util.concurrent.Executors$RunnableAdapter.call(Executors.java:471)
    at java.util.concurrent.FutureTask.run(FutureTask.java:262)
    at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1145)
    at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:615)
    at java.lang.Thread.run(Thread.java:745)

Query Console では期待どおりに機能し、JSON 変数を XML ドキュメントに変換します...

ここで何が欠けていますか？

TX

ヒューゴ

4

1 に答える 1

3

https://docs.marklogic.com/guide/ingestion/content-pump#id_82518によると、いくつか不足しているようです。

保存するドキュメントタイプを指定していません（-document_type xml）-xmlのみを保存していますが、入力タイプとして「ドキュメント」を使用しています（これらが.json拡張子であると仮定しますか？）-コードは変換がjsonからxmlに変換しています。

URI を変更していないため、デフォルトの MIME マッピングは、入力タイプと出力タイプが異なることを期待していることを知りません。

https://docs.marklogic.com/guide/ingestion/content-pump#id_17589

使用するサフィックスに関係なく、追加情報が提供されていない場合、JSON 入力および XML ストレージでは機能しません (上記のリンクを参照)。

于 2015-06-22T16:52:28.177 に答える