位置: IT常识 - 正文

疑问搞懂,python中文词频统计,让你真能学会(python答疑)

编辑:rootadmin
疑问搞懂,python中文词频统计,让你真能学会

推荐整理分享疑问搞懂,python中文词频统计,让你真能学会(python答疑),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:python询问,python答疑,python疑难解答,python常问问题,python答疑,python语言问题,python语言问题,python常问问题,内容如对您有帮助,希望把文章链接给更多的朋友!

词频统计是指在文本中计算每个词出现的次数。 在 Python 中,可以使用一些第三方库(如 jieba)来分词,然后使用字典等数据结构记录每个词的词频。

Python中文词频统计知识点分词:需要对中文文本进行分词,分词的目的是将文本分解为独立的词语,便于后续的词频统计。字典:使用字典存储每个词的词频。字典的键为词语,值为词频。遍历:遍历分词后的结果,统计每个词出现的次数。排序:对字典按照词频排序,以得到词频最高的词。输出:最后,可以输出词频最高的词,也可以输出完整的词频字典。文章目录Python中文词频分词安装 jieba 库:使用 jieba.cut() 函数对中文文本进行分词:输出结果:使用字典可以很方便地存储每个词语的词频再次整理Python词频统计的具体实现方法:停用词词干提取词云图Python 中文词频分词其它库Python中文词频分词安装 jieba 库:pip install jieba使用 jieba.cut() 函数对中文文本进行分词:import jiebatext = "梦想橡皮擦的Python博客很不错"seg_list = jieba.cut(text)print(list(seg_list))输出结果:['梦想', '橡皮擦', '的', 'Python', '博客', '很', '不错']使用字典可以很方便地存储每个词语的词频import jiebatext = "梦想橡皮擦的Python博客很不错"seg_list = jieba.cut(text)# print(list(seg_list))word_dict = {}for word in seg_list: print(word) if word in word_dict: word_dict[word] += 1 else: word_dict[word] = 1print(word_dict)再次整理Python词频统计的具体实现方法:导入 jieba 库,使用 jieba.cut() 函数对中文文本进行分词。遍历分词后的结果,统计每个词出现的次数。使用字典记录每个词出现的次数。对字典按照词频排序,并输出词频最高的词。

代码示例:

import jiebadef get_word_frequency(text): seg_list = jieba.cut(text) word_dict = {} for word in seg_list: if word in word_dict: word_dict[word] += 1 else: word_dict[word] = 1 sorted_word_dict = sorted(word_dict.items(), key=lambda x: x[1], reverse=True) return sorted_word_dicttext = "梦想橡皮擦的Python博客很不错"result = get_word_frequency(text)print(result)

停用词

在分词时,通常会忽略一些词语,这些词语被称为停用词。如常用的助词、介词等。

在 Python 中,可以预先加载停用词表,在分词时,如果词语是停用词,则忽略。

下面是一个简单的例子:

import jiebastop_words = set()with open("stop_words.txt", "r",encoding='utf-8') as f: for line in f: stop_words.add(line.strip())text = "梦想橡皮擦的Python博客很不错"seg_list = jieba.cut(text)filtered_words = [word for word in seg_list if word not in stop_words]print(filtered_words)

“stop_words.txt” 文件中是停用词表,每行一个词语。在代码中,通过 with open 语句读取文件,并将每个词语加入到 stop_words 集合中。在分词后,通过列表推导式,筛选出不是停用词的词语。文件中的内容如下:

词干提取

词干提取是将词语的不同形式提取为同一词干的过程。例如 “running” 和 “runner” 可以被提取为 “run”。

疑问搞懂,python中文词频统计,让你真能学会(python答疑)

在 Python 中,可以使用词干提取工具来进行词干提取,常见的词干提取工具有 nltk 库的 PorterStemmer 和 SnowballStemmer 。

下面是一个简单的例子:

import nltkfrom nltk.stem import SnowballStemmerstemmer = SnowballStemmer("english")words = ["run", "runner", "running"]stemmed_words = [stemmer.stem(word) for word in words]print(stemmed_words)

SnowballStemmer 函数的第一个参数是语言。 english 表示使用英语词干提取器。 其支持多种语言,可以指定不同的语言,以使用不同的词干提取器。例如,如果是法语文本,可以使用 SnowballStemmer("french") 。

stemmer.stem(word) 是 nltk 库的 SnowballStemmer 函数的一个方法,用于提取词干。

词云图

词云图是一种展示词频的可视化图形,其中词语的大小代表词频的多少。

在 Python 中,可以使用词云库 wordcloud 来生成词云图。

以下是一个使用 wordcloud 库创建词云图的简单示例:

from wordcloud import WordCloudimport matplotlib.pyplot as plttext = "ca1 ca2 ca3 ca4 ca4 ca4"wordcloud = WordCloud(width=400, height=400, random_state=21, max_font_size=110).generate(text)plt.figure(figsize=(10, 5))plt.imshow(wordcloud, interpolation="bilinear")plt.axis('off')plt.show()

首先使用 WordCloud 函数创建一个词云图对象,并设置图片的宽度、高度、随机状态、字体大小等参数。

然后,使用 generate() 方法生成词云图,并将其作为参数传递给 matplotlib 的 imshow() 函数。

最后,使用 show() 方法显示词云图。

Python 中文词频分词其它库thulac:thulac 是一个中文分词库,支持动态词性标注。snownlp:snownlp 是一个基于 SnowNLP 的中文自然语言处理库,支持中文分词、情感分析、关键词提取等功能。

📢📢📢📢📢📢 💗 你正在阅读 【梦想橡皮擦】 的博客 👍 阅读完毕,可以点点小手赞一下 🌻 发现错误,直接评论区中指正吧 📆 橡皮擦的第 872 篇原创博客

👇 全网 6000+人正在学习的 爬虫专栏 👇👇👇👇

⭐️ Python 爬虫 120,点击订购 ⭐️⭐️ 爬虫 100 例教程,点击订购 ⭐️
本文链接地址:https://www.jiuchutong.com/zhishi/300298.html 转载请保留说明!

上一篇:OpenCV中的图像处理 —— 傅里叶变换+模板匹配(opencv如何显示图片)

下一篇:端午假期整理了仿天猫H5 APP项目vue.js+express+mongo(端午假期干什么)

  • 怎样轻松运营本地资讯网站(怎么调出运营)

    怎样轻松运营本地资讯网站(怎么调出运营)

  • 华为畅享50pro怎么设置闹钟铃声(华为畅享50pro怎么打开OTG)

    华为畅享50pro怎么设置闹钟铃声(华为畅享50pro怎么打开OTG)

  • oppoa55为什么不能语音唤醒(oppoa55为什么不能分屏)

    oppoa55为什么不能语音唤醒(oppoa55为什么不能分屏)

  • 微信视频对方忙线中的原因(微信视频对方忙线中怎么设置)

    微信视频对方忙线中的原因(微信视频对方忙线中怎么设置)

  • 华为解除管控后打不开(华为解除管控后打不开软件)

    华为解除管控后打不开(华为解除管控后打不开软件)

  • 华为mate30proOTG在哪

    华为mate30proOTG在哪

  • 投影仪镜头里面的灰尘怎么清理(投影仪镜头里面有雾怎么办)

    投影仪镜头里面的灰尘怎么清理(投影仪镜头里面有雾怎么办)

  • lraal00是什么型号手机(lar-al00是手机什么型号)

    lraal00是什么型号手机(lar-al00是手机什么型号)

  • 5g手机用4g卡网速高吗(5g手机用4g卡网速会变快吗)

    5g手机用4g卡网速高吗(5g手机用4g卡网速会变快吗)

  • vista系统与win7区别(windows7和windows vista哪个高级)

    vista系统与win7区别(windows7和windows vista哪个高级)

  • 怎么改闲鱼会员名(闲鱼网怎么改会员名)

    怎么改闲鱼会员名(闲鱼网怎么改会员名)

  • 抖音私信别人看得见吗(抖音私信别人看不到怎么解决)

    抖音私信别人看得见吗(抖音私信别人看不到怎么解决)

  • 锂电池保护板输出电压低(锂电池保护板输出电压与电池电压不一致)

    锂电池保护板输出电压低(锂电池保护板输出电压与电池电压不一致)

  • 华为手机原厂贴的膜要不要换(华为手机原厂贴摸着粗糙了)

    华为手机原厂贴的膜要不要换(华为手机原厂贴摸着粗糙了)

  • 手机qq预设账号数量(手机qq预设账号已达上限怎么解决)

    手机qq预设账号数量(手机qq预设账号已达上限怎么解决)

  • x86采用的是哈佛结构吗(x86采用的是什么结构)

    x86采用的是哈佛结构吗(x86采用的是什么结构)

  • 苹果手机怎么倒计时天数(苹果手机怎么倒计时拍照)

    苹果手机怎么倒计时天数(苹果手机怎么倒计时拍照)

  • pgdn键是什么意思(键盘pgdn键是什么意思)

    pgdn键是什么意思(键盘pgdn键是什么意思)

  • qq自动回复能养火花吗(qq自动回复能养草吗)

    qq自动回复能养火花吗(qq自动回复能养草吗)

  • vivo手机短信拦截在哪里(Vivo手机短信拦截在哪里找出来)

    vivo手机短信拦截在哪里(Vivo手机短信拦截在哪里找出来)

  • vivox27有红外线功能吗(x27vivo有没有红外线)

    vivox27有红外线功能吗(x27vivo有没有红外线)

  • 拔罐的好处和坏处(拔罐的好处和坏处除湿)

    拔罐的好处和坏处(拔罐的好处和坏处除湿)

  • 织梦模板下载文档关键词维护中频率详解(织梦安装步骤)

    织梦模板下载文档关键词维护中频率详解(织梦安装步骤)

  • 税收实体法有哪18种
  • 开票金额大于付款金额怎么做分录
  • 税务局不给注销税务
  • 社保稽查公司提供不了会计分录怎么办
  • 取得租金收入的会计分录
  • 建筑企业会计科目分类及明细表
  • 小规模购买金税盘
  • 单位结算卡在pos渠道可办理的功能
  • 公司理财收益账务处理
  • 行邮税的税率档次
  • 集团内部资金借贷制度
  • 减免税额期末需要结转吗
  • 补发工资如何缴纳工人所得税的法条
  • 带息票据贴现金额怎么算
  • 非居民企业提供劳务企业所得税
  • 啥叫规上工业企业
  • 小规模可以不报增值税吗
  • 交易性金融资产属于什么类
  • 1697510217
  • 生产成本包括哪三类
  • 车船使用税进哪个会计科目
  • 存贷款基准利率和lpr
  • 收到别人押金的会计分录
  • 损益期末余额怎么算
  • 投资性房地产转换日公允价值大于账面价值
  • 预算会计的核算范围
  • 银行对账单干嘛用
  • fpp是什么文件
  • 企业租用个人房屋
  • 生产企业尿素产量怎么算
  • 折旧的计提
  • ntpdate 命令
  • patriotic研究
  • linux命令bzip2
  • 付临时工工资需要什么材料
  • phpcms怎么样
  • 什么是跨域以及解决方法
  • 厂家给的返点怎么下往来账
  • 织梦设置会员访问
  • 股权转让分期付款风险
  • 关联企业利息费用债资比
  • 简述清算机构的职责
  • sql server搜索语句
  • 取得交易性金融资产的交易费用
  • 工业企业成本一般占收入的比例
  • 所得税费用是会计科目吗
  • 贴现的概念及计算公式
  • 如何在科目余额表中查询给另一家公司付了多少钱
  • 扣税时账上没钱怎么办
  • 小规模纳税人购进商品会计分录
  • 企业哪些部门
  • 客户以个人名义打对公户现在要求开专票可以吗
  • 暂估入库后发票来不了会计分录
  • 交上年企业所得税怎么做会计分录
  • 现金日记账1月份本年累计吗
  • 未达起征点的收入怎么入账
  • sql搜索字段名
  • 利用MySQL统计一列中不同值的数量方法示例
  • windows2003服务不能开启
  • 通透Windows 2008系统状态变化
  • fedora linux安装教程
  • thinkpad如何安装win10
  • win10自带地图打不开
  • 虚拟机里安装centos7
  • RadioSvr.EXE - RadioSvr是什么进程 有什么用
  • windows10图标显示不出来
  • win7系统电脑蓝牙在哪里
  • javascript数据结构与算法项目计算找零
  • python的dict类型
  • Unity3D游戏开发基础
  • js折叠展开特效
  • javascript常用的数据类型有哪些
  • 基于bootstrap的网站
  • 上海退休核定表两种算法
  • 增值税应税货物清单
  • 江苏网上税务局官网
  • 铁路检察院和普检哪个好
  • 豪车消费税的征税范围
  • 先进材料包括哪些行业
  • 如何抵扣缴纳增值税
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设