关于深度学习:5分钟NLP快速实现NER的3个预训练库总结

0次阅读

共计 3284 个字符,预计需要花费 9 分钟才能阅读完成。

在文本主动了解的 NLP 工作中,命名实体辨认 (NER) 是首要的工作。NER 模型的作用是辨认文本语料库中的命名实体例如人名、组织、地位、语言等。

NER 模型能够用来了解一个文本句子 / 短语的意思。它能够辨认文本中可能代表 who、what 和 whom 的单词,以及文本数据所指的其余次要实体。

在本文中,将介绍对文本数据执行 NER 的 3 种技术。这些技术将波及预训练和定制训练的命名实体辨认模型。

  • 基于 NLTK 的预训练 NER
  • 基于 Spacy 的预训练 NER
  • 基于 BERT 的自定义 NER

基于 NLTK 的预训练 NER 模型:

NLTK 包提供了一个通过事后训练的 NER 模型的实现,它能够用几行 Python 代码实现 NER 性能。NLTK 包提供了一个参数选项: 要么辨认所有命名实体,要么将命名实体辨认为它们各自的类型,比方人、地点、地位等。

如果 binary=True,那么模型只会在单词为命名实体 (NE) 或非命名实体 (NE) 时赋值,否则对于 binary=False,所有单词都将被赋值一个标签。

entities = []
tags = []

sentence = nltk.sent_tokenize(text)
for sent in sentence:
    for chunk in nltk.ne_chunk(nltk.pos_tag(nltk.word_tokenize(sent)), binary=False):
        if hasattr(chunk,'label'):
            entities.append(' '.join(c[0] for c in chunk))
            tags.append(chunk.label())
            
entities_tags = list(set(zip(entities,tags)))

entities_df = pd.DataFrame(entities_tags)
entities_df.columns = ["Entities","Tags"]

输出示例文本:

后果如下:

基于 Spacy 的预训练 NER

Spacy 包提供预训练的深度学习 NER 模型,可用文本数据的 NER 工作。Spacy 提供了 3 个经过训练的 NER 模型:en_core_web_sm、en_core_web_md、en_core_web_lg。

NER 模型能够应用 python -m spacy download en_core_web_sm 下载并应用 spacy.load(“en_core_web_sm”) 加载。

!python -m spacy download en_core_web_sm
import spacy 
from spacy import displacy

nlp = spacy.load("en_core_web_sm")

doc = nlp(text)

entities, labels, position_start, position_end = [], [], [], []

for ent in doc.ents:
    entities.append(ent)
    labels.append(ent.label_)
    position_start.append(ent.start_char)
    position_end.append(ent.end_char)
    
df = pd.DataFrame({'Entities':entities,'Labels':labels,'Position_Start':position_start, 'Position_End':position_end})

还是下面的文字,后果如下:

基于 BERT 的 NER

应用 NLTK 和 spacy 的 NER 模型的前两个实现是事后训练的,并且这些包提供了 API 以应用 Python 函数执行 NER。

对于某些自定义域,预训练模型可能体现不佳或可能未调配相干标签。这时能够应用 transformer 训练基于 BERT 的自定义 NER 模型。

# Import necessary packages
import pandas as pd
from sklearn.preprocessing import LabelEncoder
from sklearn.model_selection import train_test_split
from sklearn.metrics import accuracy_score
from simpletransformers.ner import NERModel, NERArgs

# Read sample training NER data
data = pd.read_csv("sample_ner_dataset.csv", encoding="latin1")
data = data.fillna(method ="ffill")

# Label Encode
data["Sentence #"] = LabelEncoder().fit_transform(data["Sentence #"] )
data.rename(columns={"Sentence #":"sentence_id","Word":"words","Tag":"labels"}, inplace =True)
data["labels"] = data["labels"].str.upper()

# Train test split
X = data[["sentence_id","words"]]
Y = data["labels"]
x_train, x_test, y_train, y_test = train_test_split(X, Y, test_size =0.2)

# Building up train data and test data
train_data = pd.DataFrame({"sentence_id":x_train["sentence_id"],"words":x_train["words"],"labels":y_train})
test_data = pd.DataFrame({"sentence_id":x_test["sentence_id"],"words":x_test["words"],"labels":y_test})

# Initializing NER model configurations
label = data["labels"].unique().tolist()
args = NERArgs()
args.num_train_epochs = 1
args.learning_rate = 1e-4
args.overwrite_output_dir =True
args.train_batch_size = 32
args.eval_batch_size = 32

# Train BERT based NER model
model = NERModel('bert', 'bert-base-cased', labels=label, args=args)
model.train_model(train_data, eval_data=test_data, acc=accuracy_score)

# Evaluate the performance of NER model
result, model_outputs, preds_list = model.eval_model(test_data)

# Perform NER for inference text
inference_text = "What is the new name of Bangalore"
prediction, model_output = model.predict([inference_text])

后果如下:

总结

基于 Spacy 的预训练 NER 模型的性能仿佛是最好的,其中预测的各种标签十分靠近人类的理论了解。Spacy NER 模型只需几行代码即可实现,并且易于应用。

基于 BERT 的自定义训练 NER 模型提供了相似的性能。定制训练的 NER 模型也实用于特定畛域的工作。

NER 模型还有其余各种实现,本文未探讨,例如斯坦福 NLP 的预训练的 NER 模型,有趣味的能够看看。

https://www.overfit.cn/post/b7a368f1282149338a1afc20a5a6afcc

正文完
 0