位置: IT常识 - 正文

疑问搞懂,python中文词频统计,让你真能学会(python答疑)

编辑:rootadmin
疑问搞懂,python中文词频统计,让你真能学会

推荐整理分享疑问搞懂,python中文词频统计,让你真能学会(python答疑),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:python询问,python答疑,python疑难解答,python常问问题,python答疑,python语言问题,python语言问题,python常问问题,内容如对您有帮助,希望把文章链接给更多的朋友!

词频统计是指在文本中计算每个词出现的次数。 在 Python 中,可以使用一些第三方库(如 jieba)来分词,然后使用字典等数据结构记录每个词的词频。

Python中文词频统计知识点分词:需要对中文文本进行分词,分词的目的是将文本分解为独立的词语,便于后续的词频统计。字典:使用字典存储每个词的词频。字典的键为词语,值为词频。遍历:遍历分词后的结果,统计每个词出现的次数。排序:对字典按照词频排序,以得到词频最高的词。输出:最后,可以输出词频最高的词,也可以输出完整的词频字典。文章目录Python中文词频分词安装 jieba 库:使用 jieba.cut() 函数对中文文本进行分词:输出结果:使用字典可以很方便地存储每个词语的词频再次整理Python词频统计的具体实现方法:停用词词干提取词云图Python 中文词频分词其它库Python中文词频分词安装 jieba 库:pip install jieba使用 jieba.cut() 函数对中文文本进行分词:import jiebatext = "梦想橡皮擦的Python博客很不错"seg_list = jieba.cut(text)print(list(seg_list))输出结果:['梦想', '橡皮擦', '的', 'Python', '博客', '很', '不错']使用字典可以很方便地存储每个词语的词频import jiebatext = "梦想橡皮擦的Python博客很不错"seg_list = jieba.cut(text)# print(list(seg_list))word_dict = {}for word in seg_list: print(word) if word in word_dict: word_dict[word] += 1 else: word_dict[word] = 1print(word_dict)再次整理Python词频统计的具体实现方法:导入 jieba 库,使用 jieba.cut() 函数对中文文本进行分词。遍历分词后的结果,统计每个词出现的次数。使用字典记录每个词出现的次数。对字典按照词频排序,并输出词频最高的词。

代码示例:

import jiebadef get_word_frequency(text): seg_list = jieba.cut(text) word_dict = {} for word in seg_list: if word in word_dict: word_dict[word] += 1 else: word_dict[word] = 1 sorted_word_dict = sorted(word_dict.items(), key=lambda x: x[1], reverse=True) return sorted_word_dicttext = "梦想橡皮擦的Python博客很不错"result = get_word_frequency(text)print(result)

停用词

在分词时,通常会忽略一些词语,这些词语被称为停用词。如常用的助词、介词等。

在 Python 中,可以预先加载停用词表,在分词时,如果词语是停用词,则忽略。

下面是一个简单的例子:

import jiebastop_words = set()with open("stop_words.txt", "r",encoding='utf-8') as f: for line in f: stop_words.add(line.strip())text = "梦想橡皮擦的Python博客很不错"seg_list = jieba.cut(text)filtered_words = [word for word in seg_list if word not in stop_words]print(filtered_words)

“stop_words.txt” 文件中是停用词表,每行一个词语。在代码中,通过 with open 语句读取文件,并将每个词语加入到 stop_words 集合中。在分词后,通过列表推导式,筛选出不是停用词的词语。文件中的内容如下:

词干提取

词干提取是将词语的不同形式提取为同一词干的过程。例如 “running” 和 “runner” 可以被提取为 “run”。

疑问搞懂,python中文词频统计,让你真能学会(python答疑)

在 Python 中,可以使用词干提取工具来进行词干提取,常见的词干提取工具有 nltk 库的 PorterStemmer 和 SnowballStemmer 。

下面是一个简单的例子:

import nltkfrom nltk.stem import SnowballStemmerstemmer = SnowballStemmer("english")words = ["run", "runner", "running"]stemmed_words = [stemmer.stem(word) for word in words]print(stemmed_words)

SnowballStemmer 函数的第一个参数是语言。 english 表示使用英语词干提取器。 其支持多种语言,可以指定不同的语言,以使用不同的词干提取器。例如,如果是法语文本,可以使用 SnowballStemmer("french") 。

stemmer.stem(word) 是 nltk 库的 SnowballStemmer 函数的一个方法,用于提取词干。

词云图

词云图是一种展示词频的可视化图形,其中词语的大小代表词频的多少。

在 Python 中,可以使用词云库 wordcloud 来生成词云图。

以下是一个使用 wordcloud 库创建词云图的简单示例:

from wordcloud import WordCloudimport matplotlib.pyplot as plttext = "ca1 ca2 ca3 ca4 ca4 ca4"wordcloud = WordCloud(width=400, height=400, random_state=21, max_font_size=110).generate(text)plt.figure(figsize=(10, 5))plt.imshow(wordcloud, interpolation="bilinear")plt.axis('off')plt.show()

首先使用 WordCloud 函数创建一个词云图对象,并设置图片的宽度、高度、随机状态、字体大小等参数。

然后,使用 generate() 方法生成词云图,并将其作为参数传递给 matplotlib 的 imshow() 函数。

最后,使用 show() 方法显示词云图。

Python 中文词频分词其它库thulac:thulac 是一个中文分词库,支持动态词性标注。snownlp:snownlp 是一个基于 SnowNLP 的中文自然语言处理库,支持中文分词、情感分析、关键词提取等功能。

📢📢📢📢📢📢 💗 你正在阅读 【梦想橡皮擦】 的博客 👍 阅读完毕,可以点点小手赞一下 🌻 发现错误,直接评论区中指正吧 📆 橡皮擦的第 872 篇原创博客

👇 全网 6000+人正在学习的 爬虫专栏 👇👇👇👇

⭐️ Python 爬虫 120,点击订购 ⭐️⭐️ 爬虫 100 例教程,点击订购 ⭐️
本文链接地址:https://www.jiuchutong.com/zhishi/300298.html 转载请保留说明!

上一篇:OpenCV中的图像处理 —— 傅里叶变换+模板匹配(opencv如何显示图片)

下一篇:端午假期整理了仿天猫H5 APP项目vue.js+express+mongo(端午假期干什么)

  • 怎样分析检查你的网站是否健康?(怎样分析检查你的作业)

    怎样分析检查你的网站是否健康?(怎样分析检查你的作业)

  • 网赚老司机的网赚心得(有什么比较好的老司机网站)

    网赚老司机的网赚心得(有什么比较好的老司机网站)

  • 剪映如何配音(剪映如何配音变声)

    剪映如何配音(剪映如何配音变声)

  • 微信收不了红包怎么办(微信收不了红包怎么解除)

    微信收不了红包怎么办(微信收不了红包怎么解除)

  • 微信应用程序未安装-1013是什么意思(微信应用未安装什么意思)

    微信应用程序未安装-1013是什么意思(微信应用未安装什么意思)

  • 华为手机怎么清理后台(华为手机怎么清理空间)

    华为手机怎么清理后台(华为手机怎么清理空间)

  • cad关闭图层的快捷命令是什么(cad2008关闭图层快捷键)

    cad关闭图层的快捷命令是什么(cad2008关闭图层快捷键)

  • iPhone卡贴机有什么坏处(iphone卡贴机什么时候能黑解)

    iPhone卡贴机有什么坏处(iphone卡贴机什么时候能黑解)

  • pda是什么设备(手持pda是什么设备)

    pda是什么设备(手持pda是什么设备)

  • qq群投票可以修改吗(qq群投票可以修改内容吗)

    qq群投票可以修改吗(qq群投票可以修改内容吗)

  • 写字板可以干什么(写字板可以用来画画吗)

    写字板可以干什么(写字板可以用来画画吗)

  • 数据管理的三个阶段(数据管理的三个阶段的发展顺序正确的是)

    数据管理的三个阶段(数据管理的三个阶段的发展顺序正确的是)

  • 微机上广泛使用的windows2000是什么(微机上广泛使用的window是)

    微机上广泛使用的windows2000是什么(微机上广泛使用的window是)

  • 封装是一种什么技术(什么是封装,封装的意义是什么)

    封装是一种什么技术(什么是封装,封装的意义是什么)

  • 乐视手机怎么弄恢复出厂设置(乐视手机怎么弄深色模式)

    乐视手机怎么弄恢复出厂设置(乐视手机怎么弄深色模式)

  • hdr10+什么意思(显示屏hdr10什么意思)

    hdr10+什么意思(显示屏hdr10什么意思)

  • 防范邮件攻击的措施有哪些(防范邮件攻击的措施有哪些内容)

    防范邮件攻击的措施有哪些(防范邮件攻击的措施有哪些内容)

  • 快手直播怎么屏蔽一个人(快手直播怎么屏蔽认识的人)

    快手直播怎么屏蔽一个人(快手直播怎么屏蔽认识的人)

  • airpods怎么升级(airpods怎么升级?)

    airpods怎么升级(airpods怎么升级?)

  • 抖音怎么合并两首音乐(抖音怎么合并两首歌)

    抖音怎么合并两首音乐(抖音怎么合并两首歌)

  • 苹果8p手机能开空调吗(苹果8p手机可以开空调吗?)

    苹果8p手机能开空调吗(苹果8p手机可以开空调吗?)

  • ppt图表编辑数据没反应(ppt图表编辑数据图表不变)

    ppt图表编辑数据没反应(ppt图表编辑数据图表不变)

  • 双行合一排版格式(双行合一的排版格式怎么设置2016)

    双行合一排版格式(双行合一的排版格式怎么设置2016)

  • 在vue3+vite项目下按需引入vant报错Failed to resolve import解决方案(vue3 provide inject)

    在vue3+vite项目下按需引入vant报错Failed to resolve import解决方案(vue3 provide inject)

  • win10桌面没有我的电脑怎么办(win10桌面没有我的电脑图标怎么办)

    win10桌面没有我的电脑怎么办(win10桌面没有我的电脑图标怎么办)

  • mac取消开机启动的步骤(图)(mac如何关闭开机启动)

    mac取消开机启动的步骤(图)(mac如何关闭开机启动)

  • 小规模纳税人和一般纳税人哪个划算
  • 自查补报以前年度收入可以补在当前属期吗
  • 查补以前年度税款
  • 车辆租赁费发票备注栏怎么写
  • 转让不动产为什么不填写预缴申报表
  • 所得税忘了计提如何做会计分录还有结转
  • 季度企业所得税可以不预缴吗
  • 资产减值损失为什么不能转回
  • 建筑工程管理费包括哪些内容
  • 财产保险合同印花税计税依据
  • 个体工商年报怎么弄
  • 实收资本印花税税率
  • 税务局锁了开票系统票已领出还可以开出来吗
  • 职工福利费要交个税吗
  • 开票资料填写
  • 不得抵扣啥意思
  • 会员的消费频次怎么计算
  • 私自安装路灯违法吗?
  • 持有公司股票是股东吗
  • 备用金冲销会计怎么做账
  • 调整应收账款如何做账
  • 电子专用发票怎么上传
  • 未分配利润可留待以后年度进行分配的当年结余利润
  • 上市公司发行股份是什么意思
  • win11 恢复
  • _system~.ini 病毒
  • 我公司的某供应商英语
  • php file_append
  • 可供分配利润在财报哪里
  • 高新技术企业研发费用占比要求
  • laravel如何使用前端的纯静态页
  • 前端几种下载文件
  • 技术服务费可以计入成本吗
  • 资金筹集业务核算实训内容
  • php new
  • 应收账款的作用及其管理意义
  • 税款减免科目月数怎么算
  • js如何把字符串转换成数字
  • 附加税减免申报表怎么填
  • 金融资产的转换
  • 出纳造工资表吗
  • js逻辑表达式
  • 小微企业所得税优惠政策最新2023
  • 如何确定固定资产的原始成本
  • 物流辅助服务属于什么科目
  • sql server 视图排序
  • 退回的以前年度的附加怎么申报
  • 权益法的股权比例
  • 合并资产负债表少数股东权益怎么计算
  • 施工单位代建收费合理吗
  • 新车一次能开多少时间
  • 哪些项目的进项可以抵扣
  • 接受捐赠后怎么发表感言
  • 固定资产为
  • 行政事业单位如何开发票
  • 固定资产有尾款怎么入账
  • 破产重整期间转让股权
  • 商业资本金
  • 存储过程失效怎么办
  • linux配置mysql数据库远程连接失败的解决方法
  • win10出现
  • linux如何查询
  • centos怎么修改文件权限
  • ubuntu虚拟机怎么用
  • 利用图片密码登录微信
  • 微软发布Win10更新
  • win7无法打开任何软件程序
  • unity打包安卓apk
  • android时间轴实现
  • shell字符串操作命令
  • 安卓handler使用
  • nodejs实现登录
  • python的设置
  • unity第三人称视角跟随物体移动
  • javascript怎么样
  • python 入门
  • 浙江省有多少家农业银行
  • 河南省郸城县教育局举报电话
  • 资源税从价计征的有哪些
  • 企业代扣代缴个税
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设