使用 Datafari 从图像中搜索元数据

Question

我正在寻找一个开源文档管理系统，以索引所有类型的文件（文本：[pdf, doc...]，图像 [jpg, png, bmp...]，视频 [mov , mp4...]) 我偶然发现了 Datafari

它使用 Solr 搜索引擎和 ManifoldCF 来管理内容存储库连接并具有 Tika 连接器 以帮助搜索元数据。

我安装了它，我正在尝试进行设置，以便让它找到根据元数据标准搜索的图像，但到目前为止还没有成功。

我添加了一个本地存储库，其中包含带有一些元数据的图像：

<?xml version="1.0" encoding="UTF-8"?><html xmlns="http://www.w3.org/1999/xhtml">
<head>
<meta name="Artist" content="tarzan"/>
<meta name="date" content="2015-03-28T09:47:45"/>
<meta name="Print flags information" content="0 1 0 0 0 0 0 0 0 2"/>
<meta name="Slices" content="zebre (0,0,500,500) 1 Slices"/>
<meta name="ICC Untagged Profile" content="1"/>
<meta name="Compression Type" content="Baseline"/>
<meta name="subject" content="legs"/>
<meta name="subject" content="mammal"/>
<meta name="Image Description" content="this kind of animal is hard to see behind bar"/>
<meta name="Thumbnail Compression" content="JPEG (old-style)"/>
<meta name="Print flags" content="0 0 0 0 0 0 0 0 1"/>
<meta name="By-line" content="tarzan"/>
<meta name="Number of Components" content="3"/>
<meta name="Component 2" content="Cb component: Quantization table 1, Sampling factors 1 horiz/1 vert"/>
<meta name="Component 1" content="Y component: Quantization table 0, Sampling factors 1 horiz/1 vert"/>
<meta name="tiff:ResolutionUnit" content="Inch"/>
<meta name="Object Name" content="king of disguise"/>
<meta name="Seed number" content="1"/>
<meta name="X Resolution" content="72 dots per inch"/>
<meta name="IPTC-NAA record" content="160 bytes binary data"/>
<meta name="Unknown tag (0x043a)" content="[239 bytes]"/>
<meta name="Version Info" content="1 (Adobe Photoshop, Adobe Photoshop CS6) 1"/>
<meta name="Component 3" content="Cr component: Quantization table 1, Sampling factors 1 horiz/1 vert"/>
<meta name="dc:title" content="king of disguise"/>
<meta name="modified" content="2015-03-28T09:47:45"/>
<meta name="Thumbnail Data" content="JpegRGB, 160x160, Decomp 76800 bytes, 1572865 bpp, 6513 bytes"/>
<meta name="tiff:BitsPerSample" content="8"/>
<meta name="Application Record Version" content="42432"/>
<meta name="Resolution Info" content="72.0x72.0 DPI"/>
<meta name="meta:author" content="tarzan"/>
<meta name="meta:creation-date" content="2015-03-28T09:47:45"/>
<meta name="Caption digest" content="[16 bytes]"/>
<meta name="Creation-Date" content="2015-03-28T09:47:45"/>
<meta name="resourceName" content="zebre.jpg"/>
<meta name="Orientation" content="Top, left side (Horizontal / normal)"/>
<meta name="tiff:Orientation" content="1"/>
<meta name="tiff:Software" content="Adobe Photoshop CS6 (Windows)"/>
<meta name="Thumbnail Offset" content="354 bytes"/>
<meta name="Color Transform" content="YCbCr"/>
<meta name="Global Angle" content="120"/>
<meta name="Author" content="tarzan"/>
<meta name="Exif Image Height" content="500 pixels"/>
<meta name="Software" content="Adobe Photoshop CS6 (Windows)"/>
<meta name="tiff:YResolution" content="72.0"/>
<meta name="Y Resolution" content="72 dots per inch"/>
<meta name="dc:description" content="this kind of animal is hard to see behind bars"/>
<meta name="Color transfer functions" content="[112 bytes]"/>
<meta name="Keywords" content="legs"/>
<meta name="Keywords" content="mammal"/>
<meta name="Data Precision" content="8 bits"/>
<meta name="Coded Character Set" content="%G"/>
<meta name="dc:creator" content="tarzan"/>
<meta name="tiff:ImageLength" content="500"/>
<meta name="description" content="this kind of animal is hard to see behind bars"/>
<meta name="JPEG quality" content="12 (Maximum), Standard format, 3 scans"/>
<meta name="dcterms:created" content="2015-03-28T09:47:45"/>
<meta name="dcterms:modified" content="2015-03-28T09:47:45"/>
<meta name="Last-Modified" content="2015-03-28T09:47:45"/>
<meta name="Last-Save-Date" content="2015-03-28T09:47:45"/>
<meta name="Thumbnail Length" content="6513 bytes"/>
<meta name="Color Space" content="Undefined"/>
<meta name="Credit" content="tarzan"/>
<meta name="Global Altitude" content="30"/>
<meta name="meta:save-date" content="2015-03-28T09:47:45"/>
<meta name="Country/Primary Location Name" content="kenya"/>
<meta name="Content-Length" content="93123"/>
<meta name="Content-Type" content="image/jpeg"/>
<meta name="X-Parsed-By" content="org.apache.tika.parser.DefaultParser"/>
<meta name="X-Parsed-By" content="org.apache.tika.parser.jpeg.JpegParser"/>
<meta name="creator" content="tarzan"/>
<meta name="Color halftoning information" content="[72 bytes]"/>
<meta name="dc:subject" content="legs"/>
<meta name="dc:subject" content="mammal"/>
<meta name="tiff:XResolution" content="72.0"/>
<meta name="Date/Time" content="2015:03:28 09:47:45"/>
<meta name="Grid and guides information" content="[16 bytes]"/>
<meta name="Caption/Abstract" content="this kind of animal is hard to see behind bars"/>
<meta name="DCT Encode Version" content="1"/>
<meta name="Exif Image Width" content="500 pixels"/>
<meta name="Image Height" content="500 pixels"/>
<meta name="Pixel Aspect Ratio" content="1.0"/>
<meta name="Supplemental Category(s)" content="earthly creature"/>
<meta name="Image Width" content="500 pixels"/>
<meta name="Flags 0" content="64"/>
<meta name="Resolution Unit" content="Inch"/>
<meta name="Unknown tag (0x043b)" content="[557 bytes]"/>
<meta name="URL List" content="0"/>
<meta name="meta:keyword" content="legs"/>
<meta name="meta:keyword" content="mammal"/>
<meta name="Print Scale" content="Centered, Scale 1.0"/>
<meta name="tiff:ImageWidth" content="500"/>
<meta name="Flags 1" content="0"/>
<title>king of disguise</title>
</head>
<body/></html>

在 solr schema.xml 中，我添加了我需要的字段：

<fields>
...
 <field name="subject" type="string" indexed="true" stored="true" multiValued="true" />

然后我重启了服务器

在作业列表中的 ManifoldCF 管理中，我在作业中添加了一个 Tika 提取器转换：管道是：我的存储库 -> Tika Extractor -> DatafariSolr

我尝试在 Solr 界面中搜索：对于 q，我尝试了 "subject:legs" 在 Solr 界面，我检索了数据

但在 Datafari 搜索引擎中，我没有任何结果

Datafari 的帮助不是很有帮助，我调查了 Manifoldcf documentation 但没有更多的运气。对于这种通过元数据进行的搜索，我想举一个真实的例子。应该修改和/或测试什么才能看到结果中的图像？

Olivier Tavard 回答后更新：

感谢您的帮助。这个工具真的很有前途，尽管我在配置它时仍然遇到问题：

我找不到 datafari/WebContent/js/search.js。您是说：datafari/tomcat/webapps/Datafari/js/search.js 吗？

我添加了您的建议。

我还添加了字段 "description" 和 "creator"。

1 - 在 SolR 搜索中： - 如果我在 q "animal" 中搜索，我可以检索我的图像（不使用 "animal"），现在比 "description:animal" 更好。 - 但如果我搜索 "legs"，我不会检索到任何东西。是不是因为有几个 "subject"，有不同的搜索方式？ - 如果我搜索 "tarzan"（来自创建者字段），我也不会检索任何内容。

2 - 在 Datafari UI 搜索 中： - 我所做的更改似乎有 "broken" 搜索：当我搜索时，我一直在转动轮子。在控制台中我有：

    GET "http://localhost:8080/Datafari/css/menu.css" 404
L'utilisation d'XMLHttpRequest de façon synchrone sur le fil d'exécution principal est obsolète à cause de son impact négatif sur la navigation de l'utilisateur final.

3 - 我为相同的字段添加了另一张带有其他元数据的图片，在 SolR 搜索中，如果我查询 "jpg"，它们都会出现（好的），但在 json 响应中，其他图像不会显示额外的字段！

{
  "responseHeader": {
    "status": 0,
    "QTime": 6,
    "params": {
      "indent": "true",
      "q": "jpg\n",
      "_": "1427968093838",
      "wt": "json"
    }
  },
  "response": {
    "numFound": 2,
    "start": 0,
    "docs": [
      {
        "last_modified": "2015-03-28T09:47:45Z",
        "id": "file:/home/olivier/Bureau/datafari/images/zebre.jpg",
        "url": "file:/home/olivier/Bureau/datafari/images/zebre.jpg",
        "source": "file",
        "extension": "jpg",
        "language": "en",
        "content_en": [
          ""
        ],
        "title_en": [
          "zebre.jpg"
        ],
        "title": [
          "zebre.jpg"
        ],
        "_version_": 1496971642075611100,
        "allow_token_share": [
          "__nosecurity__"
        ],
        "deny_token_document": [
          "__nosecurity__"
        ],
        "deny_token_share": [
          "__nosecurity__"
        ],
        "allow_token_document": [
          "__nosecurity__"
        ]
      },
      {
        "last_modified": "2015-03-29T15:45:23Z",
        "subject": [
          "Description Mots clé"
        ],
        "id": "file:/home/olivier/Bureau/datafari/metadata/image1toto.jpg",
        "creator": [
          "Description, IPTC - Auteur: beta"
        ],
        "description": [
          "Description Description : gamma"
        ],
        "url": "file:/home/olivier/Bureau/datafari/metadata/image1toto.jpg",
        "source": "file",
        "extension": "jpg",
        "language": "en",
        "content_en": [
          ""
        ],
        "title_en": [
          "image1toto.jpg"
        ],
        "title": [
          "image1toto.jpg"
        ],
        "_version_": 1497001790322770000,
        "allow_token_share": [
          "__nosecurity__"
        ],
        "deny_token_document": [
          "__nosecurity__"
        ],
        "deny_token_share": [
          "__nosecurity__"
        ],
        "allow_token_document": [
          "__nosecurity__"
        ]
      }
    ]
  },
  "highlighting": {
    "file:/home/olivier/Bureau/datafari/images/imagejpg.jpg": {
      "content_fr": [
        ""
      ],
      "content_en": [
        ""
      ]
    },
    "file:/home/olivier/Bureau/datafari/images/zebre.jpg": {
      "content_fr": [
        ""
      ],
      "content_en": [
        ""
      ]
    },
    "file:/home/olivier/Bureau/datafari/metadata/image1toto.jpg": {
      "content_fr": [
        ""
      ],
      "content_en": [
        ""
      ]
    }
  },
  "spellcheck": {
    "suggestions": []
  },
  "capsuleSearchComponent": {}
}

我很困惑。

在 Olivier Tavard 回答后编辑

抱歉回答晚了，我正在处理一些紧急的 atm，无法 test/answer 如我所愿。

我按照您的步骤进行了操作（很有教益，谢谢），并且在客户端搜索中得到了一些结果 :)

但是：

1- 我必须使用通配符才能在 datafari gui 中找到它："a horse in disguise" => 我必须输入“**horse*”，而不是 'horse'

2 - 如何检索多个字段的数据（例如：meta:keyword ...）

<meta name="meta:keyword" content="legs"/>
<meta name="meta:keyword" content="mammal"/>

3 - 我安装了 "standard"，但我有 localhost:8080/Datafari/css/menu.css 的 404，也许这就是我在刷新页面之前获取搜索轮的原因

Answer 1

感谢您使用 Datafari。要将您的字段显示添加到 UI 中，您必须修改 2 个文件：

datafari/tomcat/webapps/Datafari/js/main.js

换行：

Manager.store.addByValue("fl", 'title,url,id,extension');

并添加你要添加的字段，在你的例子中subject:

Manager.store.addByValue("fl", 'title,url,id,extension, subject');

datafari/WebContent/js/search.js

添加您的字段的显示并添加代码：doc.subject 您要添加的位置。例如，如果您想在文档的 URL 之后添加它：
```
elm.find('.doc:last .address').append(doc.subject);
```

如果您的问题与搜索有关：搜索 legs 没有检索到任何结果，您必须更改 datafari/solr/solr_home/FileShare/conf/solrconfig 中的 Solr 配置。xml:

<requestHandler name="/select" class="solr.SearchHandler">

并在 qf 中添加字段 subject（如果需要，还可以添加 pf）名单：

<str name="qf">subject title_en^50 title_fr^50 content_fr^10 content_en^10 source^20 extension^20 
        </str>

有兴趣的我们开始放some documentation here

Answer 2

好的，我会尽力完成答案。
我从在 datafari.com 下载的 Datafari 的普通安装开始，以重现这些步骤。

假设我们想在 Solr 中添加一个新的元数据字段，在源中命名为 meta:author，在 Datafari 中命名为 authorname。
让我们看看将字段显示到 Datafari UI 并允许使用 Solr 搜索该字段的每个步骤。
1) 编辑 solrconfig.xml
我们想要将源文件的原始元数据映射：meta:author 到名为 authorname 的新 Solr 字段。所以我们必须编辑 Solr 单元格请求处理程序：

<requestHandler name="/update/extract" 
              startup="lazy"
              class="solr.extraction.ExtractingRequestHandler" >
<lst name="defaults">
        <str name="scan">false</str>
        <str name="captureAttr">true</str>
        <str name="lowernames">true</str>
        <str name="fmap.language">ignored_</str>
        <str name="fmap.meta_author">authorname</str>
        <str name="fmap.source">ignored_</str>
        <str name="uprefix">ignored_</str>
        <str name="update.chain">datafari</str>
        <bool name="ignoreTikaException">true</bool>

正确的语法是 meta_author（而不是 meta:author），因为行
<str name="lowernames">true</str>
documentation 表示："lowernames=true|false - Map all field names to lowercase with underscores"

您还可以在配置中看到，我们将所有被忽略的元数据存储在动态字段 ignored 中。我邀请您更改 schema.xml 中字段的配置并将 stored=false 更改为 store=true 以查看 Tika 找到的所有元数据（并查看将字段映射到 Solr 的正确语法）例如：

2) 编辑 schema.xml
我们现在要将新字段添加到 Solr 架构中。所以添加以下行：

<field name="authorname" type="text_en" indexed="true" stored="true" multiValued="true"/>

好的，到目前为止我们可以使用 ManifoldCF 启动索引，新字段在 Solr 中很好地存在。

3) 将新字段添加到搜索中编辑 solrconfig.xml，在 select 请求处理程序中添加字段：

<str name="qf">author title_en^50 title_fr^50 content_fr^10 content_en^10 source^20 extension^20
        </str>

核心重新加载后，我们现在可以搜索并找到新字段的数据。

4) 配置 Datafari UI 进入 datafari/tomcat/webapps/Datafari/js/main.js（源代码）或 Datafari/tomcat/webapps/Datafari/js/main.js（安装版）更改行：

Manager.store.addByValue("fl", 'title,url,id,extension');

并添加你要添加的字段，这里是autorname

Manager.store.addByValue("fl", 'title,url,id,extension, authorname');

最后一步是更改 Javascript 文件 search.js ： datafari/WebContent/js/search.js（源代码）或Datafari/tomcat/webapps/Datafari\js/search.js（安装版）添加您的字段的显示，添加代码：doc.subject 您要添加的位置。例如，如果您想在文档的 URL 之后添加它：（我之前的回答有误，现在正确了）

elm.find('.doc:last .address').append('<span>' + AjaxFranceLabs.tinyUrl(decodeURIComponent(url)) + '</span>')
elm.find('.doc:last .address').append('<div id="author">' + doc.author );

最后，您的 Datafari Ui 应该与每个文档末尾的字段作者一样：

如果您还有问题，请告诉我。
最好的问候

编辑user29296的其他问题

关于通配符这取决于您使用的字段类型以及您需要的搜索类型。通常您不必在单词前放置额外的通配符。如果要搜索具有提供的后缀的任何前缀，则需要 ReversedWildcardFilterFactory。
检索多个字段的数据在这种情况下，我不明白你的问题是什么。你能给我举个例子吗？如果您更改搜索处理程序 Select 配置，您可以在 qf 部分添加您要搜索的字段。所以只需在此处添加 meta_keyword 字段即可。所以客户在执行搜索时也会搜索该字段。
Menu.css 404错误此错误对应用程序没有任何影响。此丢失文件的修复将包含在 Datafari 的下一次更新中。

使用 Datafari 从图像中搜索元数据

Searching metadata from images using Datafari

solr

full-text-search

metadata

manifoldcf