位置: IT常识 - 正文

疑问搞懂,python中文词频统计,让你真能学会(python答疑)

编辑:rootadmin
疑问搞懂,python中文词频统计,让你真能学会

推荐整理分享疑问搞懂,python中文词频统计,让你真能学会(python答疑),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:python询问,python答疑,python疑难解答,python常问问题,python答疑,python语言问题,python语言问题,python常问问题,内容如对您有帮助,希望把文章链接给更多的朋友!

词频统计是指在文本中计算每个词出现的次数。 在 Python 中,可以使用一些第三方库(如 jieba)来分词,然后使用字典等数据结构记录每个词的词频。

Python中文词频统计知识点分词:需要对中文文本进行分词,分词的目的是将文本分解为独立的词语,便于后续的词频统计。字典:使用字典存储每个词的词频。字典的键为词语,值为词频。遍历:遍历分词后的结果,统计每个词出现的次数。排序:对字典按照词频排序,以得到词频最高的词。输出:最后,可以输出词频最高的词,也可以输出完整的词频字典。文章目录Python中文词频分词安装 jieba 库:使用 jieba.cut() 函数对中文文本进行分词:输出结果:使用字典可以很方便地存储每个词语的词频再次整理Python词频统计的具体实现方法:停用词词干提取词云图Python 中文词频分词其它库Python中文词频分词安装 jieba 库:pip install jieba使用 jieba.cut() 函数对中文文本进行分词:import jiebatext = "梦想橡皮擦的Python博客很不错"seg_list = jieba.cut(text)print(list(seg_list))输出结果:['梦想', '橡皮擦', '的', 'Python', '博客', '很', '不错']使用字典可以很方便地存储每个词语的词频import jiebatext = "梦想橡皮擦的Python博客很不错"seg_list = jieba.cut(text)# print(list(seg_list))word_dict = {}for word in seg_list: print(word) if word in word_dict: word_dict[word] += 1 else: word_dict[word] = 1print(word_dict)再次整理Python词频统计的具体实现方法:导入 jieba 库,使用 jieba.cut() 函数对中文文本进行分词。遍历分词后的结果,统计每个词出现的次数。使用字典记录每个词出现的次数。对字典按照词频排序,并输出词频最高的词。

代码示例:

import jiebadef get_word_frequency(text): seg_list = jieba.cut(text) word_dict = {} for word in seg_list: if word in word_dict: word_dict[word] += 1 else: word_dict[word] = 1 sorted_word_dict = sorted(word_dict.items(), key=lambda x: x[1], reverse=True) return sorted_word_dicttext = "梦想橡皮擦的Python博客很不错"result = get_word_frequency(text)print(result)

停用词

在分词时,通常会忽略一些词语,这些词语被称为停用词。如常用的助词、介词等。

在 Python 中,可以预先加载停用词表,在分词时,如果词语是停用词,则忽略。

下面是一个简单的例子:

import jiebastop_words = set()with open("stop_words.txt", "r",encoding='utf-8') as f: for line in f: stop_words.add(line.strip())text = "梦想橡皮擦的Python博客很不错"seg_list = jieba.cut(text)filtered_words = [word for word in seg_list if word not in stop_words]print(filtered_words)

“stop_words.txt” 文件中是停用词表,每行一个词语。在代码中,通过 with open 语句读取文件,并将每个词语加入到 stop_words 集合中。在分词后,通过列表推导式,筛选出不是停用词的词语。文件中的内容如下:

词干提取

词干提取是将词语的不同形式提取为同一词干的过程。例如 “running” 和 “runner” 可以被提取为 “run”。

疑问搞懂,python中文词频统计,让你真能学会(python答疑)

在 Python 中,可以使用词干提取工具来进行词干提取,常见的词干提取工具有 nltk 库的 PorterStemmer 和 SnowballStemmer 。

下面是一个简单的例子:

import nltkfrom nltk.stem import SnowballStemmerstemmer = SnowballStemmer("english")words = ["run", "runner", "running"]stemmed_words = [stemmer.stem(word) for word in words]print(stemmed_words)

SnowballStemmer 函数的第一个参数是语言。 english 表示使用英语词干提取器。 其支持多种语言,可以指定不同的语言,以使用不同的词干提取器。例如,如果是法语文本,可以使用 SnowballStemmer("french") 。

stemmer.stem(word) 是 nltk 库的 SnowballStemmer 函数的一个方法,用于提取词干。

词云图

词云图是一种展示词频的可视化图形,其中词语的大小代表词频的多少。

在 Python 中,可以使用词云库 wordcloud 来生成词云图。

以下是一个使用 wordcloud 库创建词云图的简单示例:

from wordcloud import WordCloudimport matplotlib.pyplot as plttext = "ca1 ca2 ca3 ca4 ca4 ca4"wordcloud = WordCloud(width=400, height=400, random_state=21, max_font_size=110).generate(text)plt.figure(figsize=(10, 5))plt.imshow(wordcloud, interpolation="bilinear")plt.axis('off')plt.show()

首先使用 WordCloud 函数创建一个词云图对象,并设置图片的宽度、高度、随机状态、字体大小等参数。

然后,使用 generate() 方法生成词云图,并将其作为参数传递给 matplotlib 的 imshow() 函数。

最后,使用 show() 方法显示词云图。

Python 中文词频分词其它库thulac:thulac 是一个中文分词库,支持动态词性标注。snownlp:snownlp 是一个基于 SnowNLP 的中文自然语言处理库,支持中文分词、情感分析、关键词提取等功能。

📢📢📢📢📢📢 💗 你正在阅读 【梦想橡皮擦】 的博客 👍 阅读完毕,可以点点小手赞一下 🌻 发现错误,直接评论区中指正吧 📆 橡皮擦的第 872 篇原创博客

👇 全网 6000+人正在学习的 爬虫专栏 👇👇👇👇

⭐️ Python 爬虫 120,点击订购 ⭐️⭐️ 爬虫 100 例教程,点击订购 ⭐️
本文链接地址:https://www.jiuchutong.com/zhishi/300298.html 转载请保留说明!

上一篇:OpenCV中的图像处理 —— 傅里叶变换+模板匹配(opencv如何显示图片)

下一篇:端午假期整理了仿天猫H5 APP项目vue.js+express+mongo(端午假期干什么)

  • 华为应用市场怎么关闭纯净模式(华为应用市场怎么没有原神了)

    华为应用市场怎么关闭纯净模式(华为应用市场怎么没有原神了)

  • 荣耀v20可以隐藏应用吗(华为荣耀v20怎样隐藏软件)

    荣耀v20可以隐藏应用吗(华为荣耀v20怎样隐藏软件)

  • 微信群发消息怎么看出来对方已删除(微信群发消息怎么弄)

    微信群发消息怎么看出来对方已删除(微信群发消息怎么弄)

  • 苹果xr是单层主板还是双层(苹果xr单层主板和12哪个好)

    苹果xr是单层主板还是双层(苹果xr单层主板和12哪个好)

  • 发朋友圈 可以调时间吗(发朋友圈可以@人吗)

    发朋友圈 可以调时间吗(发朋友圈可以@人吗)

  • 抖音极速版怎么看直播节目(抖音极速版怎么开直播)

    抖音极速版怎么看直播节目(抖音极速版怎么开直播)

  • 视频过大怎么发qq(视频过大怎么发送到微信)

    视频过大怎么发qq(视频过大怎么发送到微信)

  • 华为 pro什么意思?(华为pro系列手机介绍)

    华为 pro什么意思?(华为pro系列手机介绍)

  • 电源作用(电梯ups电源作用)

    电源作用(电梯ups电源作用)

  • iphone11无法面部识别(苹果11无法面部识别)

    iphone11无法面部识别(苹果11无法面部识别)

  • 表格方框大小怎么调整(表格方框大小怎么统一)

    表格方框大小怎么调整(表格方框大小怎么统一)

  • wifi direct是什么意思(wifi director)

    wifi direct是什么意思(wifi director)

  • qq怎样建小号(qq怎样建小号需要好友验证怎么办)

    qq怎样建小号(qq怎样建小号需要好友验证怎么办)

  • 打印机离线状态怎么办(打印机离线状态怎么回事)

    打印机离线状态怎么办(打印机离线状态怎么回事)

  • 小米有小爱同学oppo有什么(小米有小爱同学vivo有什么)

    小米有小爱同学oppo有什么(小米有小爱同学vivo有什么)

  • 4gvolte是什么意思

    4gvolte是什么意思

  • menu是什么功能(menu键是什么意思中文翻译)

    menu是什么功能(menu键是什么意思中文翻译)

  • 华为手表gt2 42mm和46mm区别(华为手表gt2 46mm)

    华为手表gt2 42mm和46mm区别(华为手表gt2 46mm)

  • 华为手环3怎么开机操作(华为手环3怎么调时间和日期)

    华为手环3怎么开机操作(华为手环3怎么调时间和日期)

  • 在excel中封锁其窗口的热键为(在EXCEL中封锁其窗口的热键为( ))

    在excel中封锁其窗口的热键为(在EXCEL中封锁其窗口的热键为( ))

  • word怎么制作二维码(word怎么设置二寸照片)

    word怎么制作二维码(word怎么设置二寸照片)

  • 如何发送自己店铺链接(怎么发自己的网店链接)

    如何发送自己店铺链接(怎么发自己的网店链接)

  • u盘无法读取什么情况(u盘无法读取怎么办)

    u盘无法读取什么情况(u盘无法读取怎么办)

  • word页面边框红色五角星怎么设置(word页面边框红星怎么设置)

    word页面边框红色五角星怎么设置(word页面边框红星怎么设置)

  • qq音乐能看被删访客么(qq音乐能看被删访客怎么恢复)

    qq音乐能看被删访客么(qq音乐能看被删访客怎么恢复)

  • 境外培训费计入关税完税价格
  • 增值税纳税人是委托方还是受托方
  • 货物运输印花税减免
  • 转账支付水电费属于什么会计科目
  • 债券到期账务处理
  • 一般纳税人的发票抵扣进项税额
  • 往法人账户转备用金
  • 应收账款转让的会计处理
  • 支付技术转让费能加计扣除
  • 职工伙食团食谱
  • 污泥处置费用怎么开票
  • 有限公司缴税
  • 所得税费用什么时候结转到本年利润
  • 资产和利润表的关系
  • 企业研发费用税前抵扣
  • mac怎么连接校园网网线
  • win10要更新系统
  • 个体工商税务登记需要费用
  • 测速网在线测速
  • php安装部署
  • php版本常用的排版软件
  • PHP:Memcached::prepend()的用法_Memcached类
  • php表单的作用是什么
  • 普通发票主营业务怎么填
  • php编程中的_横线表示什么
  • 盘盈的存货计入哪个科目
  • vue3生命周期及使用
  • gym版本和render函数
  • python web开发方向的第三方库有哪些
  • 删除ont命令
  • php使用curl
  • 结转结余的概念
  • 个体经营所得可以用投资人申报吗
  • 织梦产品详情页相关产品推荐调用代码
  • 帝国cms扣除会员怎么办
  • mongodb配置文件详解
  • 物流货物丢失赔偿按照运费10倍
  • 个体工商户能享受4050政策吗
  • 通讯补贴计入个税吗
  • 劳动保护费是否可以抵扣
  • 含税金额和税额的关系
  • 承包经营的承包人工资能税前扣除吗
  • 应付职工薪酬多计提了如何冲掉
  • 收到利息的会计凭证
  • 退款扣除手续费
  • 收到商业汇票计什么科目
  • 研发阶段的产品质检要参与
  • 定金与订金不同
  • 固定资产 金额
  • 投资和注册资本
  • 代驾服务费属于哪个税收编码
  • 从公账提取备用金到个人账户怎么做会计分录
  • 财务费用范畴
  • 免费领课程有什么陷阱
  • 应收帐款坏账处理
  • 购物车功能实现思路
  • CentOS6 32/64位安装Adobe Flash Player组件的方法
  • win8驱动在哪个文件夹
  • assoc.exe
  • 安装空调
  • spyblast.exe - spyblast是什么进程 有何作用
  • win10预览版好吗
  • linux,windows
  • win8系统特点
  • win8关闭系统更新
  • 怎么看win8.1的版本
  • unity best fit
  • 我的第二个姐姐用英语怎么说
  • android openconnect
  • 批处理文件.bat
  • jQuery展示表格点击变色、全选、删除
  • python函数菜鸟教程
  • js 括号函数
  • 批处理应用实例
  • 编写批处理
  • matlab中sort函数的作用
  • vue@cli
  • unity射击游戏毕业设计
  • 保险代理人非公司员工
  • 国际税务处岗位职责
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设