未知内容类型：json 如何在 MarkLogic 8 中将 JSON 文档加载为 XML

Question

我正在尝试使用 MLCP 和摄取时的基本转换脚本将一堆 JSON 文件加载到 MarkLogic 8 中。

我可以按原样加载文件，我在 ML 中得到 JSON 个对象。

我想要的是在摄取时从 JSON 转换为 XML，所以我写了一个像这样的基本转换：

xquery version "1.0-ml";

module namespace ingest = "http://dikw.com/ingest/linkedin";

import module namespace json="http://marklogic.com/xdmp/json" at "/MarkLogic/json/json.xqy";
import module namespace sem="http://marklogic.com/semantics" at "/MarkLogic/semantics.xqy";

declare namespace basic="http://marklogic.com/xdmp/json/basic";

declare default function namespace "http://www.w3.org/2005/xpath-functions";

declare option xdmp:mapping "false";

declare function ingest:transform(
  $content as map:map,
  $context as map:map
) as map:map*
{
  let $org-doc := map:get($content, "value")
  let $jsonxml := json:transform-from-json($org-doc)
  let $name := $jsonxml//basic:full__name
  let $_ := xdmp:log(concat('Inserting linkedin profile ', $name, '.xml..'))
  let $new-doc := 
    document {
      <json>{
        $jsonxml
      }</json>
  }
  return (
    map:put($content, "value", $new-doc),
    $content
  )
};

现在，如果我使用 MLCP 加载没有转换的文档，它可以工作，但如上所述，我在 ML8 中得到 JSON。（我使用 Roxy 来调用正确的环境来为 MLCP 加载。）

./ml $ENV mlcp import -input_file_path content/linkedin -input_file_type documents

以上工作正常。

但是像这样使用转换：

./ml $ENV mlcp import -input_file_path content/linkedin -input_file_type documents  -transform_module /ingest/linkedin.xqy -output_collections incoming,incoming/linkedin

我得到一个错误："ERROR contentpump.MultithreadedMapper: Unknown content type: json"

15/06/22 17:37:12 INFO contentpump.ContentPump: Hadoop library version: 2.0.0-mr1-cdh4.3.0
15/06/22 17:37:12 INFO contentpump.LocalJobRunner: Content type is set to MIXED.  The format of the  inserted documents will be determined by the MIME  type specification configured on MarkLogic Server.
15/06/22 17:37:12 WARN util.KerberosName: Kerberos krb5 configuration not found, setting default realm to empty
15/06/22 17:37:12 INFO input.FileInputFormat: Total input paths to process : 9
15/06/22 17:37:13 ERROR contentpump.MultithreadedMapper: Unknown content type: json
java.lang.IllegalArgumentException: Unknown content type: json
    at com.marklogic.mapreduce.ContentType.forName(ContentType.java:107)
    at com.marklogic.contentpump.utilities.TransformHelper.getTransformInsertQry(TransformHelper.java:124)
    at com.marklogic.contentpump.TransformWriter.write(TransformWriter.java:97)
    at com.marklogic.contentpump.TransformWriter.write(TransformWriter.java:46)
    at org.apache.hadoop.mapreduce.task.TaskInputOutputContextImpl.write(TaskInputOutputContextImpl.java:85)
    at org.apache.hadoop.mapreduce.lib.map.WrappedMapper$Context.write(WrappedMapper.java:106)
    at com.marklogic.contentpump.DocumentMapper.map(DocumentMapper.java:46)
    at com.marklogic.contentpump.DocumentMapper.map(DocumentMapper.java:32)
    at com.marklogic.contentpump.BaseMapper.runThreadSafe(BaseMapper.java:51)
    at com.marklogic.contentpump.MultithreadedMapper$MapRunner.run(MultithreadedMapper.java:376)
    at java.util.concurrent.Executors$RunnableAdapter.call(Executors.java:471)
    at java.util.concurrent.FutureTask.run(FutureTask.java:262)
    at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1145)
    at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:615)
    at java.lang.Thread.run(Thread.java:745)

在查询控制台中，一切按预期工作，将 JSON 变量按预期转换为 XML 文档...

我在这里错过了什么？

发送

雨果

Answer 1

根据 https://docs.marklogic.com/guide/ingestion/content-pump#id_82518 似乎缺少一些东西。

您没有指定要存储的文档类型 (-document_type xml) - 您只存储 xml，但使用 "documents" 作为输入类型（假设这些是 .json 扩展名？） - 所以代码不知道转换是从 json 转换为 xmls.

您没有更改 URI - 因此默认的 MIME 映射将不知道您的输入和输出类型预计会有所不同：

https://docs.marklogic.com/guide/ingestion/content-pump#id_17589

无论您使用什么后缀，如果没有提供额外信息（请参阅上面的链接）JSON 输入和 XML 存储，它都不会起作用

未知内容类型：json 如何在 MarkLogic 8 中将 JSON 文档加载为 XML

Unknown content type: json How to load JSON document as XML in MarkLogic 8

json

xml

marklogic

mlcp