Python jieba分词添加自定义词和去除不需要长尾词的操作方法

Python jieba分词如何添加自定义词和去除不需要长尾词

通过如下代码，读取一个txt的高频词汇：

            # 找到高频词汇
          tmp_content = self.getContent(tmp_path)
          keyword_list = tmp_content.split('\n')
          word_count = dict()
          for keyword in keyword_list:
              for word,flag in jp.cut(keyword):
                  if word in word_count:
                      word_count[word] = word_count[word] +1
                  else:
                      word_count[word] =1
          for word, count in word_count.items():
              print('%s\t%s' % (word,count))

很多情况下 jieba它不知道一些词汇，比如说获得的词汇如下

建立 和 可视化 是2个独立的单词

一、添加自定义词

通过添加自定义词

import jieba
import jieba.posseg as jp
jieba.load_userdict(r'jieba_dict.txt')

就可以看到，统计出来的词是这个自定义词

二、去除不需要长尾词

有时 统计出来的某些词汇jieba认为是一个词汇 但是此时 我想让他变为多个词汇 ，可以通过如下代码实现：

import jieba
import jieba.posseg as jp
jieba.del_word('创建活动')

此时 jieba 就会不认定 创建活动 是一个词，它会将它们分开统计

总结

• 本文主要介绍jieba的基础用法。

关于Python jieba分词如何添加自定义词和去除不需要长尾词的文章就介绍至此，更多相关Python jieba分词内容请搜索编程宝库以前的文章，希望以后支持编程宝库！

 sqlalchemy的常用数据类型数据类型python数据类型说明Integerint整形Stringstr字符串Floatfloat浮点型DECIMALdecimal.Decima ...