python如何识别中文生僻字
发表于:2024-09-29 作者:千家信息网编辑
千家信息网最后更新 2024年09月29日,这篇文章主要介绍了python如何识别中文生僻字,具有一定借鉴价值,感兴趣的朋友可以参考下,希望大家阅读完这篇文章之后大有收获,下面让小编带着大家一起了解一下。问题点本来考虑用正则来判断中文,因为网上
千家信息网最后更新 2024年09月29日python如何识别中文生僻字
这篇文章主要介绍了python如何识别中文生僻字,具有一定借鉴价值,感兴趣的朋友可以参考下,希望大家阅读完这篇文章之后大有收获,下面让小编带着大家一起了解一下。
问题点
本来考虑用正则来判断中文,因为网上发现正则的匹配中文是[\u4e00-\u9fa5]。接着代码都快写完了,发现有些生僻字不再在这个范围内。
识别方法
在utf-8字符编码下,一个中文字符占3个字节,但字符的长度只有1。
1、分析中文的方法是否可以灵活为len(bytes(str,'utf-8)==3 and len(string)==1。
2、文本写作判断中文后,如果是汉字str.ljust(5),否则为str.ljust(6)(因为一个汉字占两个字符的长度)。
实例
from pypinyin import pinyinimport re class ChangePinyin: def __init__(self, filename): self.file = filename self.lyric = self.read_file() self.pinyin = [] def read_file(self): with open(self.file, encoding='utf-8') as f: return f.readlines() def write_file(self): with open('New_%s' % self.file, 'w', encoding='utf-8') as f: print(self.lyric) for line in self.lyric: # print(line) if line.strip() == '': continue _new_line = re.sub(r'\s', '', line) # 行内容转拼音 _pinyin = ''.join(map(lambda x: x[0].ljust(6), pinyin(_new_line))) # 根据中英文,将行内容进行字符与汉字的拆分 _lyric = self.split_words(_new_line) f.write('%s\n%s\n' % (_pinyin, _lyric)) @staticmethod def split_words(words): word_list = "" tmp = "" for string in words: if len(bytes(string, 'utf-8')) == 3 and len(string) == 1: if tmp != '': word_list += tmp.ljust(6) tmp = "" word_list += string.ljust(5) else: tmp += string return word_list if __name__ == '__main__': Main = ChangePinyin('lyric.txt') Main.write_file()
感谢你能够认真阅读完这篇文章,希望小编分享的"python如何识别中文生僻字"这篇文章对大家有帮助,同时也希望大家多多支持,关注行业资讯频道,更多相关知识等着你来学习!
中文
字符
篇文章
生僻
生僻字
汉字
内容
方法
正则
长度
两个
中英
代码
价值
兴趣
只有
同时
字节
完了
实例
数据库的安全要保护哪些东西
数据库安全各自的含义是什么
生产安全数据库录入
数据库的安全性及管理
数据库安全策略包含哪些
海淀数据库安全审计系统
建立农村房屋安全信息数据库
易用的数据库客户端支持安全管理
连接数据库失败ssl安全错误
数据库的锁怎样保障安全
云服务器的信息安全
果洛网络技术销售价格
党建设计软件开发电话
塔式服务器的管理
完美服务器是什么意思
中小学生网络安全教育知识作文
职专网络技术类专业怎么样
国内网络安全行业排名
伊春市公安局网络安全宣传
学完网络安全管理心得体会
合肥阿拉丁网络技术
学校网络安全意识形态汇报
南阳市瑞华网络技术公司
天津戈尔电梯服务器
网络安全宣传片说明
mc服务器取消管理员
网络安全的三大问题
软件开发者的伦理道德
esxi服务器怎么管理
服务器维护计划
徐汇区项目软件开发信息推荐
重点领域的网络安全政策和措施
软件开发年薪待遇
调查食品安全数据库
韩都衣舍 招聘 软件开发
锐捷服务器开机提示b7
商业级串口服务器
徐州网络营销软件开发推荐咨询
魔兽世界 服务器 人多
域名解析到服务器仍然无法访问