perl对中文的支持

简介:
大家经常使用正则表达式的字符集从字符串中抽取或排除中文字符,但是这样做很费事,效果也并不是很理想。实际上Perl从5.6开始已经开始在内部使用utf8编码来表示字符,也就是说对中文以及其他语言字符的处理应该是完全没有问题的。关键在于目前使用的编辑器以及文件格式并不都能很好地支持utf8,委屈了Perl的强大能力。
    实际上我们只需要利用好Encode这个模块便能充分发挥Perl的utf8字符的优势了。

    下面就以中文文本的处理为例进行说明(注意:编辑下面这段程序不能用使用utf8编码的编辑器),比如有一个字符串"测试文本",我们想要把这个中文字符串拆成单个
字符,可以这样写:
use Encode;
use Encode::CN; #可写可不写
$dat="测试文本";
$str=decode("gb2312",$dat);
@chars=split //,$str;
foreach $char (@chars) {
        print encode("gb2312",$char),"\n";
}
结果大家试一试就知道了,应该是令人满意的。

    这里主要用到了Encode模块的decode、encode函数。要了解这两个函数的作用,我们需要清楚几个概念:
1、Perl字符串是使用utf8编码的,它由Unicode字符组成而不是单个字节,每个utf8编码的Unicode字符占1~4个字节(变长)。
2、进入或离开Perl处理环境(比如输出到屏幕、读入和保存文件等等)时不是直接使用Perl字符串,而需要把Perl字符串转换成字节流,转换过程中使用何种编码方式完全取决于你(或者由Perl代劳)。一旦Perl字符串向字节流的编码完成,字符的概念就不存在了,变成了纯粹的字节组合,如何解释这些组合则是你自己的工作。

    我们可以看出如果想要Perl按照我们的字符概念来对待文本,文本数据就需要一直用Perl字符串的形式存放。但是我们平时写出的每个字符一般都被作为纯ASCII字符保存(包括在程序中明文写出的字符串),也就是字节流的形式,这里就需要encode和decode函数的帮助了。

    encode函数顾名思义是用来编码Perl字符串的。它将Perl字符串中的字符用指定的编码格式编码,最终转化为字节流的形式,因此和Perl处理环境之外的事物打交道经常需要它。其格式很简单:
        $octets = encode(ENCODING, $string [, CHECK])
这里$string是Perl字符串,ENCODING是给定的编码方式,$octets则是编码之后的字节流,CHECK表示转换时如何处理畸变字符(也就是Perl认不出来的字符)。一般不需要使用CHECK,让Perl按默认规则处理即可。
    编码方式视语言环境的不同有很大变化,默认可以识别utf8、ascii、ascii-ctrl、iso-8859-1等,中文环境(CN)增加了euc-cn(gb2312与之等价)、cp936(gbk与之等价)、hz等,还有日文环境(JP)、韩文(KR)等等,在此不一一尽数。

    decode函数则是用来解码字节流的。它按照你给出的编码格式解释给定的字节流,将其转化为使用utf8编码的Perl字符串,一般来说从终端或者文件取得的文本数据都应该用decode转换为Perl字符串的形式。它的格式为:
        $string = decode(ENCODING, $octets [, CHECK])
$string、ENCODING、$octets和CHECK的含义同上。

    现在就很容易理解上面写的那段程序了。因为字符串是用明文写出的,存放的时候已经是字节流形式,丧失了本来的意义,所以首先就要用decode函数将其转换为Perl字符串,由于汉字一般都用gb2312格式编码,这里decode也要使用gb2312编码格式。转换完成后Perl对待字符的行为就和我们一样了,平时对字符串进行操作的函数基本上都能正确对字符进行处理,除了那些本来就把字符串当成一堆字节的函数(如vec、pack、unpack等)。
于是split就能把字符串切成单个字符了。最后由于在输出的时候不能直接使用utf8编码的字符串,还需要将切割后的字符用encode函数编码为gb2312格式的字节流,再用print输出。

    Encode模块的初步应用大概就是这样,详细情况还是要参阅模块的文档。实际上如果我们使用UltraEditor等等支持编辑utf8编码文件的编辑器写程序,基本上用不着Encode模块,在程序开头加上一句use utf8就行。这时Perl默认包括程序本身在内的所有的字符都是Unicode字符,可以随便使用Unicode范围内的字符,甚至可以用非英文字符作为标识符,只是输出的时候可能还需要用Encode模块。比如用UE的utf8编码模式编辑这个程序:
        use utf8;
        $单价=10;
        $数量=100;
        $总额=$单价*$数量;
        print "$总额\n";
可以在Perl 5.6以后的版本中正常运行并给出结果,是不是很爽?:) 这种模式最大的优点就是在字符串中可以混合多种语言的文字,就算中日韩英加上阿拉伯字符都在一个字符串中出现也没问题;不像使用Encode模块那样必须固定一种编码方式,中日韩英字符同时出现还好办,因为gbk包含了所有这些字符,可是再加上一些非亚洲语言字符就不一定能处理了。所以以后用Unicode编码应该是大势所趋。





本文转自 xkdcc 51CTO博客,原文链接:http://blog.51cto.com/brantc/117905,如需转载请自行联系原作者
目录
相关文章
|
30天前
|
Windows Perl
Perl 教程 之 Perl 正则表达式 8
Perl的正则表达式是其强项,常用于字符串匹配、查找、替换等。基本操作包括:`.`匹配任意字符(除换行符),`x?`匹配0或1次`x`,`x*`匹配0或多次`x`,`x+`匹配1或多次`x`。还有范围匹配如`[0-9]`、否定匹配`[^a-z]`、边界匹配`\b`等。特殊序列如`\d`代表数字,`\s`代表空格,`()`用于记忆匹配内容,`/pattern/i`忽略大小写。
10 0
|
1月前
|
Perl
Perl 教程 之 Perl 正则表达式 6
**Perl正则表达式强大多能,常用于字符串匹配、替换和提取。转化操作符如`tr`用于字符转换,如将所有小写字母转大写:`$string =~ tr/a-z/A-Z/`。**
17 2
|
1月前
|
Perl
Perl 教程 之 Perl 正则表达式 7
Perl教程讲解了其强大的正则表达式功能,用于字符串匹配、查找、替换和提取。示例展示如何使用`/s`删除变量`$string`中的重复字符,输出结果为原字符串。其他实例包括将非数字字符替换为空格,删除tab和空格,以及将数字间字符替换为单个空格。
15 3
|
1月前
|
Perl
Perl 教程 之 Perl 正则表达式 5
Perl正则表达式教程第五节介绍替换操作修饰符:i-不区分大小写,m-^和$匹配每行,o-表达式只执行一次,s-."包含换行符,x-忽略空格,g-替换所有匹配项,e-将替换字符串当作表达式执行。Perl的正则功能极强,影响了多种语言的设计。
11 1
|
1月前
|
存储 Perl
Perl 教程 之 Perl 正则表达式 3
Perl正则表达式教程展示了其在字符串匹配上的强大力量。匹配后的值存储在特殊变量$`(前部分字符串)、$&(匹配字符串)和$'(剩余字符串)中。以下示例演示了如何使用这些变量打印原始字符串"welcome to baidu site."匹配"run"后的结果:匹配前是"welcome to ", 匹配的是"bai", 匹配后是"idu site."。
14 1
|
1月前
|
Perl
Perl 教程 之 Perl 正则表达式 2
**Perl正则表达式:**功能强大,常用于字符串匹配、替换和提取。修饰符如`i`(不区分大小写)、`m`(多行模式)、`o`(一次性编译)、`s`(点号匹配换行符)、`x`(忽略空白)和`g`(全局匹配)。`cg`结合全局匹配,允许失败后继续查找。其他语言常参考Perl的正则实现。
9 1
|
1月前
|
Perl
Perl 教程 之 Perl 正则表达式 4
简洁概括:Perl正则表达式强大,s///操作符用于字符串替换,例子展示替换"google"为"baidu"。
12 1
|
1月前
|
Perl
Perl 教程 之 Perl 正则表达式 1
Perl教程介绍了其强大的正则表达式功能,用于字符串匹配、替换和转化。匹配用m//(可简写为//),替换用s///,转化用tr///,常与=~或!~配合判断匹配与否。示例展示了m//在匹配字符串中的应用。
11 0
PHP:overtrue/pinyin 中文转拼音工具
PHP:overtrue/pinyin 中文转拼音工具
225 0
|
Perl Shell Linux
perl语言 入门
perl语言 入门
2233 0

热门文章

最新文章