绘制问答模型的结果需要什么

Question

我一直在研究问答模型，通过我的词嵌入模型 BERT 接收问题的答案。但我真的很想绘制这样的东西：

但问题是，我真的不知道怎么做。我真的被这个任务困住了。我不知道如何在情节中表示上下文的一部分。我确实有两个变量，名为 answer_start 和 answer_end，它们指示模型从上下文中的哪个部分获得答案。有人可以帮我解决这个问题并告诉我需要在我的 pyplot 中放入哪些变量吗？

在我的代码下面：

from transformers import AutoTokenizer, AutoModelForQuestionAnswering
import torch
import numpy as np
import pandas as pd

max_seq_length = 512

tokenizer = AutoTokenizer.from_pretrained("henryk/bert-base-multilingual-cased-finetuned-dutch-squad2")
model = AutoModelForQuestionAnswering.from_pretrained("henryk/bert-base-multilingual-cased-finetuned-dutch-squad2")

questions = [
    "Welke soorten gladiatoren waren er?",
    "Wat is een provocator?"
]
for question in questions: # voor elke question moet er door alle lines geiterate worden
    print(f"Question: {question}")
    f = open("test.txt", "r")
    for line in f:
      text = str(line) #het antwoord moet een string zijn
      #encoding met tokenizen van de zinnen
      inputs = tokenizer.encode_plus(question,
                                     text,
                                     add_special_tokens=True,
                                     max_length=max_seq_length,
                                     truncation=True,
                                     return_tensors="pt")
      input_ids = inputs["input_ids"].tolist()[0]

  

      #ff uitzoeken wat die ** deed
      answer_start_scores, answer_end_scores = model(**inputs, return_dict=False)

      answer_start = torch.argmax(
          answer_start_scores
          )  # Het antwoord met de hoogste argmax accuracy vanaf het begin woord
      answer_end = torch.argmax(
          answer_end_scores) + 1  # Zelfde maar dan eind woord
      answer = tokenizer.convert_tokens_to_string(
          tokenizer.convert_ids_to_tokens(input_ids[answer_start:answer_end]))

      #om het antwoorden [cls] en NaN te voorkomen    
      if answer == '[CLS]':
        continue
      elif answer == '':
        continue
      else:
        print(f"Answer: {answer}")
        print(f"Answer start: {answer_start}")
        print(f"Answer end: {answer_end}") 
      f.seek(0)
      break          
    # f.seek(0)
    # break
  
f.close()

还有输出：

> Question: Welke soorten gladiatoren waren er?
> Answer: de thraex, de retiarius en de murmillo
> Answer start: 24
> Answer end: 37
> Question: Wat is een provocator?
> Answer: telemachus
> Answer start: 87
> Answer end: 90

Answer 1

不知道我是否明白你的问题是什么。但是要制作类似于图中的情节，我会做这样的事情：

import matplotlib.pyplot as plt; plt.rcdefaults()
import numpy as np
import matplotlib.pyplot as plt

sentence = ('list' 'of' 'words' 'that' 'make' 'up' 'the' 'sentence' 'in' 'which' 'the' 'answer' 'is' 'found')
y_pos = np.arange(len(sentence))
probability = [0.1, 0.2, 0.1, 0.8, 0.6] 

plt.bar(y_pos, probability, align='center', alpha=0.5)
plt.xticks(y_pos, sentence)
plt.ylabel('Answer probability')
plt.title('Words of the sentence')

plt.show()

所以假设答案在更大的 sentence/paragraph 中，我要做的是将 sentence/paragraph 的所有单词插入条形图的 x 轴（变量 sentence - text.txt 我想），而在 y 轴上百分比表示特定单词是答案的开头或结尾单词的概率（变量 probability）。显然sentence和probability这两个变量的长度是一样的，其中第一个句子变量对应第一个概率值等等。

例如 answer_start_scores 和 answer_end_scores 将是得分最高的单词，因此它们的条形图的“条”将是最高的（概率列表中的最高值）。

最后，在 answer_start_scores 和 answer_end_scores 中，您应该拥有最有可能开始和结束单词的所有分数。

编辑：也许，你也可以为答案的第一个单词和最后一个单词制作两个单独的条形图，然后通过添加百分比将它们连接在一起。

绘制问答模型的结果需要什么

What do you need for plotting the outcome of a question-answering model

python

gradient

matplotlib

bert-language-model