python实现全角半角的相互转换

简介:

缘起

在自然语言处理过程中,全角、半角的的不一致会导致信息抽取不一致,因此需要统一。

 

转换说明

全角半角转换说明


有规律(不含空格):

全角字符unicode编码从65281~65374 (十六进制 0xFF01 ~ 0xFF5E)
半角字符unicode编码从33~126 (十六进制 0x21~ 0x7E)

特例
空格比较特殊,全角为 12288(0x3000),半角为 32(0x20)

除空格外,全角/半角按unicode编码排序在顺序上是对应的(半角 + 0x7e= 全角),所以可以直接通过用+-法来处理非空格数据,对空格单独处理。

1. 中文文字永远是全角,只有英文字母、数字键、符号才有全角半角的概念,一个字母或数字占一个汉字的位置叫全角,占半个汉字的位置叫半角。

2. 引号在中英文、全半角情况下是不同的

 

 

参考代码

复制代码
# -*- coding: cp936 -*-
def strQ2B(ustring):
    """全角转半角"""
    rstring = ""
    for uchar in ustring:
        inside_code=ord(uchar)
        if inside_code == 12288:                              #全角空格直接转换            
            inside_code = 32 
        elif (inside_code >= 65281 and inside_code <= 65374): #全角字符(除空格)根据关系转化
            inside_code -= 65248

        rstring += unichr(inside_code)
    return rstring
    
def strB2Q(ustring):
    """半角转全角"""
    rstring = ""
    for uchar in ustring:
        inside_code=ord(uchar)
        if inside_code == 32:                                 #半角空格直接转化                  
            inside_code = 12288
        elif inside_code >= 32 and inside_code <= 126:        #半角字符(除空格)根据关系转化
            inside_code += 65248

        rstring += unichr(inside_code)
    return rstring



b = strQ2B("mn123abc博客园".decode('cp936'))                           
print b

c = strB2Q("mn123abc博客园".decode('cp936'))                           
print c

    
复制代码

执行结果

 

库函数说明

chr()函数用一个范围在range(256)内的(就是0~255)整数作参数,返回一个对应的字符。
unichr()跟它一样,只不过返回的是Unicode字符。

ord()函数是chr()函数(对于8位的ASCII字符串)或unichr()函数(对于Unicode对象)的配对函数,它以一个字符(长度为1的字符串)作为参数,返回对应的ASCII数值,或者Unicode数值。

案例

 










本文转自jihite博客园博客,原文链接:http://www.cnblogs.com/kaituorensheng/p/3554571.html,如需转载请自行联系原作者

相关文章
|
5月前
|
Python
python gbk 相互转换 utf8
python gbk 相互转换 utf8
38 1
|
9月前
|
数据库 Python
python时间格式的相互转换
python时间格式的相互转换
52 0
Python print() 打印两个 list ,实现中间换行
Python print() 打印两个 list ,实现中间换行
|
Python
Python实现因子分析(附案例实战)
Python实现因子分析(附案例实战)
1093 0
Python实现因子分析(附案例实战)
|
10月前
|
存储 索引 Python
【python】如何将数据在csv和xlsx之间相互转换
【python】如何将数据在csv和xlsx之间相互转换
|
12月前
|
Python
Python Excel表格列数的字母表达与数字的相互转换
Python Excel表格列数的字母表达与数字的相互转换
273 0
|
12月前
|
存储 Shell Python
Python编程中的基础数据类型:文本型、整型、浮点型,以及如何相互转换?【零基础Python教程006】
Python编程中的基础数据类型:文本型、整型、浮点型,以及如何相互转换?【零基础Python教程006】
235 0
|
计算机视觉 Python
【python】python中PIL.Image和OpenCV图像格式相互转换
python中PIL.Image和OpenCV图像格式相互转换
|
JSON 区块链 数据格式
Python实现一个简单的区块链
本文介绍如何用Python实现一个简单的区块链。
490 0