RegexOptions.Compiled真的是性能杀手么?

本文涉及的产品
云数据库 RDS SQL Server,独享型 2核4GB
简介:

我们经常胡乱对付着解决问题,欣喜于不大不小的成功,接受失败,并且相信下次会更幸运。 

                                                                         ----摩根•琼斯

 

       "使用正则表达式的时候一定不要使用RegexOptions.Compiled选项,不仅不会加速还会让内存飙升我们就是这个情况,去掉就好了."这个来自实践而又违反常识的结论让我的朋友很欣喜,显然这个经验要进入他和他团队的知识库了。我写了一个Demo测试了一下,加上RegexOptions.Compiled选项没有带来内存问题,没有印证他所说的结论.

       对于一个问题的梳理我需要从问题上下文开始,而不是一个结论.沟通得知他遇到的情景是这样的:用户提交所有内容要按照有关部门提供的敏感词表使用正则表达式进行敏感词过滤.

      他所处的上下文环境的特点是:

     1.正则表达式构造是依赖于一个敏感词表,而敏感词数量3000左右

     2.他使用正则表达式过程中使用了RegexOptions.Compiled.

    3. 这个正则表达式会被反复使用

于是我调整了Demo模拟他的环境,敏感词表数据使用GUID代替,代码如下:

复制代码
ExpandedBlockStart.gif Demo
 
  
1 Console.WriteLine( " --------------------------------------------------- " );
2 for ( int i = 0 ; i < 100000 ; i ++ )
3 {
4 string temp = " kkkkkksdkfjskldjfskljfklahsjdkfhajksdhfjkahsdfjkhasjkdfhjkahdfjkahsdfjkh " ;
5 string Filtered = Guid.NewGuid().ToString();
6 Regex mRegex = new Regex(Filtered, RegexOptions.IgnoreCase | RegexOptions.Compiled);
7 if (mRegex.IsMatch(temp))
8 {
9 // Do nothing
10   }
11 }
12
13 Console.WriteLine( " --------------------------------------------------- " );
14  
复制代码

 


这下真的内存飙升了

RegexOptions.Compiled真的是性能杀手么?

关于这个问题,BCL团队已经在其团队博客上给出了详细的解释(点击这里查看),文中从初始化性能和运行时性能考查了三种使用正则表达式的方式;结果归纳如下:

 

 

r_regex.png 

导致内存飙升的就是下面这个原因:

Emitting IL with Reflection.Emit loads a lot of code and uses a lot of memory, and that's not memory that you'll ever get back.  In addition. in v1.0 and v1.1, we couldn't ever free the IL we generated, meaning you leaked memory by using this mode.  We've fixed that problem in Whidbey. 


虽然现在实现了内存释放
,但是这种使用方式占用内存还是显而易见的.所以他们建议:

But the bottom line is that you should only use this mode for a finite set of expressions which you know will be used repeatedly. 

1.表达式是一个有限集合 2.表达式集合会被反复使用 

 

对于朋友的情况,这个过滤相关的表达式肯定是符合这两条的,所以应该使用Compiled的方式,但是考虑到第二种方式对内存的影响以及初始化占用较长时间,所以对他来说最佳选择是使用第三种编译到程序集的方式.关于第三种方式的实现请移步查看这篇文章:"To Compile or Not To Compile"

 

-----------------关于这个问题我想说的是----------------------

 

        这位朋友的真实情况是他没有在当前的上下文环境中采取正确的使用方式,而他对这个问题的解决仅仅是回退到一个性能较差只不过没有"内存飙升"的方案上,同时RegexOptions.Compiled下了一个性能差的结论.


去年我在的一件小事:

       数据库服务器异常缓慢,翻了翻日志,我猜测问题可能出现在什么地方,然后修改了程序集做更新,更新期间重启了一下SQL Server服务;然后宣布这个问题解决了;这期间于老师一直通过SQL Server Performance Monitor观察;过了没有多久,于老师指出真正的问题在于有一个存储过程的语句锁表造成了阻塞和更新的程序集没有任何关系;而之所以更新了程序集就见效了是因为更新过程中误打误撞重启了SQL Server,不修改存储过程问题依然存在;果然一段时间后数据库又开始慢了

     那一次,于老师很不高兴,并不是因为那个问题的影响有多大,而是这个问题的解决过程:

解决问题的过程往往是从 " " 开始 ," " 就是给出解决方案到现象的因果关系 ; 而我只是猜测可能出现在什么地方 , 但是没有思考为什么是这里 , 缺少理由 真正让于老师恼火的在于 " 大家竟然也就接受了我的解决方案 ", 没有其它人对这个问题进行思考 , 对这个方案提出质疑

也就是从这件事情开始
,对于一个问题我总是会问自己下面的问题: 
  1. 要解决的问题到底是什么,或者说我们怎么定义这个问题?
  2. 我们对这个问题已经了解到什么程度?我是否可以对这个问题进行重述?
  3. 这个问题我们已经解决到了什么程度?我们是不是已经偏离了正确的方向?
  4. 我们采取了什么措施使得问题解决了?
  5. 我们的采取的措施真的就是这个问题的解决方案么?它们存在因果关系么?它为什么有效?
  6. 我们采取的措施是否真正解决了问题?是否带来了新的问题?

 

这几个问题,让我少了很多浮躁,多了一些质疑,而且动手验证了很多是是而非的"经验",这个过程让我受益匪浅;


 

PS:网上有很多针对SQL ServerSQL语句优化经验,那么这些经验为什么有效?SQL Server2008,它们依然有效么?

 

 

相关实践学习
使用SQL语句管理索引
本次实验主要介绍如何在RDS-SQLServer数据库中,使用SQL语句管理索引。
SQL Server on Linux入门教程
SQL Server数据库一直只提供Windows下的版本。2016年微软宣布推出可运行在Linux系统下的SQL Server数据库,该版本目前还是早期预览版本。本课程主要介绍SQLServer On Linux的基本知识。 相关的阿里云产品:云数据库RDS&nbsp;SQL Server版 RDS SQL Server不仅拥有高可用架构和任意时间点的数据恢复功能,强力支撑各种企业应用,同时也包含了微软的License费用,减少额外支出。 了解产品详情:&nbsp;https://www.aliyun.com/product/rds/sqlserver
目录
相关文章
|
1月前
|
监控 Linux
性能工具之stress工具使用教程(带源码说明)
stress是一个在linux下的压力测试小工具。
66 2
|
2月前
|
数据可视化 Linux 开发者
Processing有哪些常见的用途或者优势呢
Processing有哪些常见的用途或者优势呢
71 0
|
6月前
|
存储 缓存 监控
安谋科技(Arm China)马闯:Arm架构下性能分析与优化介绍
2023年9月19日,系列课程第九节《Arm®架构下性能分析与优化介绍》正式上线,由安谋科技 (Arm China)主任工程师马闯主讲,内容涵盖:Arm架构下性能监控单元 (PMU) 介绍、Arm统计性能分析扩展 (SPE) 介绍、Arm性能分析工具介绍、Arm架构下性能优化案例分享,本期节目在阿里云官网、阿里云微信视频号、阿里云钉钉视频号、InfoQ官网、阿里云开发者微信视频号、阿里云创新中心直播平台 & 微信视频号同步播出,同时可以点击【https://developer.aliyun.com/topic/ecs-yitian】进入【倚天实例迁移课程官网】了解更多内容。
|
SQL 分布式计算 Java
GraalVM在Facebook大量使用,性能提升显著!
GraalVM在Facebook大量使用,性能提升显著!
600 0
GraalVM在Facebook大量使用,性能提升显著!
|
11月前
|
机器学习/深度学习 监控 自动驾驶
STDC升级 | STDC-MA 更轻更快更准,超越 STDC 与 BiSeNetv2
STDC升级 | STDC-MA 更轻更快更准,超越 STDC 与 BiSeNetv2
218 0
STDC升级 | STDC-MA 更轻更快更准,超越 STDC 与 BiSeNetv2
|
Web App开发 Rust 安全
谷歌改善 Chrome 内存安全:通过 heap scanning 算法减少 C++ 代码库安全漏洞
谷歌改善 Chrome 内存安全:通过 heap scanning 算法减少 C++ 代码库安全漏洞
156 0
谷歌改善 Chrome 内存安全:通过 heap scanning 算法减少 C++ 代码库安全漏洞
|
监控 Java
troubleshoot之:使用JFR分析性能问题
troubleshoot之:使用JFR分析性能问题
troubleshoot之:使用JFR分析性能问题
|
缓存 NoSQL 固态存储
RedisJson 横空出世,性能碾压ES和Mongo!
RedisJson 横空出世,性能碾压ES和Mongo!
593 0
RedisJson 横空出世,性能碾压ES和Mongo!
|
存储 编解码 固态存储
高性能核心板IDO-SOM3908-V1:接口丰富,性能更强,速度更快!
IDO-SOM3908-V1 适用于工业主机,嵌入式智能设备、人机交互、 广告一体机、互动自助终端、教学实验平台、显示控制等多个领域 。
222 0
高性能核心板IDO-SOM3908-V1:接口丰富,性能更强,速度更快!
|
Web App开发 安全 测试技术
CPU特性漏洞测试(Meltdown and Spectre)
  2018年1月4日,国外安全研究人员披露了名为"Meltdown"和"Spectre"两组CPU特性漏洞,该漏洞波及到近20年的Intel, AMD, Qualcomm厂家和其它ARM的处理器,可导致CPU运作机制上的信息泄露,危害巨大且影响广泛。
1676 0

热门文章

最新文章