我们分别从有监督和无监督方法中，挑选两种典型的、效果也很好的方法：SIFRank [16]和BERT-KPE [17]，详细介绍其原理和具体流程。 这两种方法也符合关键短语抽取的基本流程，均分为两个步骤：

1.关于bert做ner要不要加crf层？ 关于BERT做NER，最简单的方式就是序列标注方法，以BERT得到token的embedding，后接softmax直接输出预测token的标签。 （题主想说的应该也是这种）

2021年6月26日 · 在许多 ner 任务中，结合 bert 和 crf（条件随机场） 提供了强大的性能提升。今天，我们将深入探讨如何将 bert 与 crf 结合，打造一个高效、精准的命名实体识别模型。

现在，对于许多命名实体识别任务可以将BERT-Softmax、BERT-CRF、BERT-Bi-LSTM-CRF这几个模型作为baseline，而且能达到很好的效果，这几乎得益于BERT模型的强大文本表征建模能力。

2022年3月28日 · Bert+LSTM+CRF命名实体识别从0开始解析源代码。 理解原代码的逻辑，具体了解为什么使用预训练的bert，bert有什么作用，网络的搭建是怎么样的，训练过程是怎么训练的，输出是什么调试运行源代码NER目标NER是named entity recognized的简写，对人名、地名、机构名、日期时间、专有名词等进行识别。 结果输出标注方法采用细粒度标注，就是对于每一个词都给一个标签，其中连续的词可能是一个标签，与原始数据集的结构不同，需要对数据进行处理，转 …

2023年10月5日 · 本文介绍了在实体识别和关系识别中使用Bert模型和CRF模型的方法，包括Bert的输入处理、数据准备、损失函数计算以及模型预测示例。 源代码可在GitHub获取，展示了如何将这两种模型结合起来进行三元组识别。

在nlp中，bert+crf是常见的ner的解决方案，对于CRF我们知道是对序列加约束的常见方式，其训练目标是让golden序列在所有序列组合中的概率最大，下面我们以命名实体识别NER为例，讲解CRF的计算过程。

The BERT preprocessing language model generates word vectors that represent contextual semantic information, automatically extract numerous word-level features and semantic features in text, and decodes through the CRF layer generates entity tag sequences.

This is a named entity recognizer based on BERT Model(pytorch-pretrained-BERT) and CRF. Someone construct model with BERT, LSTM and CRF, like this BERT-BiLSTM-CRF-NER, but in theory, the BERT mechanism has replaced the role of LSTM, so I think LSTM is redundant. For the performance, BERT+CRF is always a little better than single BERT in my ...

仓库下面有Bert系列完成命名体识别的效果对比（一般来说看F1就可以）以及训练时间之类的比较，很推荐大家去看一看 BiLSTM-CRF实现命名体识别(Pytorch版本)