CRFSuite功能列表中BOS和EOS的含义是什么?它们的作用是什么?

2024-10-03 02:41:58 发布

您现在位置:Python中文网/ 问答频道 /正文

在python crf包网站的NER(命名实体识别)示例中,我们将此函数视为特征生成器:

def word2features(sent, i):
word = sent[i][0]
postag = sent[i][1]
features = [
    'bias',
    'word.lower=' + word.lower(),
    'word[-3:]=' + word[-3:],
    'word[-2:]=' + word[-2:],
    'word.isupper=%s' % word.isupper(),
    'word.istitle=%s' % word.istitle(),
    'word.isdigit=%s' % word.isdigit(),
    'postag=' + postag,
    'postag[:2]=' + postag[:2],
]
if i > 0:
    word1 = sent[i-1][0]
    postag1 = sent[i-1][1]
    features.extend([
        '-1:word.lower=' + word1.lower(),
        '-1:word.istitle=%s' % word1.istitle(),
        '-1:word.isupper=%s' % word1.isupper(),
        '-1:postag=' + postag1,
        '-1:postag[:2]=' + postag1[:2],
    ])
else:
    features.append('BOS')

if i < len(sent)-1:
    word1 = sent[i+1][0]
    postag1 = sent[i+1][1]
    features.extend([
        '+1:word.lower=' + word1.lower(),
        '+1:word.istitle=%s' % word1.istitle(),
        '+1:word.isupper=%s' % word1.isupper(),
        '+1:postag=' + postag1,
        '+1:postag[:2]=' + postag1[:2],
    ])
else:
    features.append('EOS')

return features

您可以在此处查看已完成的教程: python-crfsuite NER example

正如您在添加有意义的功能之后看到的-例如字.下和…-附加了两个特性。在

^{pr2}$

以及

features.append('BOS')

我的问题是“BOS和EOS是什么意思,它们的作用是什么?”在


Tags: iflowerwordsentfeaturesappendextendbos
1条回答
网友
1楼 · 发布于 2024-10-03 02:41:58

它们代表“句首”和“句尾”。对于没有上一个/下一个单词的单词,它们可以代替“previous word”和“next word”功能。在

相关问题 更多 >