千家信息网

Python怎么统计单词个数

发表于:2025-02-04 作者:千家信息网编辑
千家信息网最后更新 2025年02月04日,这篇文章主要讲解了"Python怎么统计单词个数",文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习"Python怎么统计单词个数"吧!1、Python项目P
千家信息网最后更新 2025年02月04日Python怎么统计单词个数

这篇文章主要讲解了"Python怎么统计单词个数",文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习"Python怎么统计单词个数"吧!

1、Python项目PythonSparkWordCount

2、input目录里的文本文件test.txt

3、创建word_count.py文件实现词频统计

import osimport shutilfrom pyspark import SparkContextinputpath = 'input'outputpath = 'result'sc = SparkContext('local', 'wordcount')# 读取文件input = sc.textFile(inputpath)# 切分单词words = input.flatMap(lambda line: line.split(' '))# 转换成键值对并计数counts = words.map(lambda word: (word, 1)).reduceByKey(lambda x, y: x + y)# 输出结果counts.foreach(print)# 删除输出目录if os.path.exists(outputpath):    shutil.rmtree(outputpath, True)# 将统计结果写入结果文件counts.saveAsTextFile(outputpath)

运行程序,结果如下:

统计结果还保存在result目录下的part-00000文件里:

感谢各位的阅读,以上就是"Python怎么统计单词个数"的内容了,经过本文的学习后,相信大家对Python怎么统计单词个数这一问题有了更深刻的体会,具体使用情况还需要大家实践验证。这里是,小编将为大家推送更多相关知识点的文章,欢迎关注!

0