如何生成比较像样的假数据

  1. 云栖社区>
  2. 博客>
  3. 正文

如何生成比较像样的假数据

浣熊干面包 2012-01-24 14:34:00 浏览360
展开阅读全文

问题

在做项目的时候经常会遇到这样的问题:

  • 根据数据模型建立了数据库,但是数据库中却没有数据,在给客户做Demo的时候必须要一条一条的添加假数据,而且这些假数据还得像模像样的,不能乱输入,尽是看不出任何意义的“aaaaa”、“ttttttttttttt”、“123123”、“是打发斯蒂芬”这样的数据。
  • 已经做好了一个系统,并且上线给部分客户使用了,现在要将该系统推广到所有的客户,所以需要做一个虚拟客户的系统,系统中需要有许多像样的数据,但是由于保密方面的原因,原有客户的数据必须经过处理,不能出现真实的信息。
  • 系统开发完成了,需要制造大量的假数据,以进行压力测试,看在有几百万上千万数据量的情况下的系统性能。

方案

其中要生成大量的没有意义的测试数据,以便进行压力测试,这个数据是最好生成的,只需要写几条SQL语句,多运行几次即可。如果不想写SQL语句,也可以使用数据生成工具:VisualStudio、PowerDesigner、DataFactory等都可以使用。我推荐使用DataFactory,有较强的定制性。

下面主要说一下另外一种假数据,那就是前面2种情况,具有一定业务规则和可读性的假数据。要生成比较像样的假数据主要是基于已有的系统,在真实数据的基础上进行随机的混淆和交叉,从而产生大量看起来比较真实但是实际上却全是假的数据。对于第一种情况,可以将其他系统中的对应实体表的数据导入到Demo环境中,然后再进行混淆交叉。

我们可以将系统中的数据分为:数字、日期和字符串3种类型分别进行混淆。

  1. 数字类型的数据混淆最简单,使用随机函数RAND()即可,如果是整数则可以再乘以一个系数后取整,也可以用原来的数据加上生成的随机数,从而使得数据的范围保持在原真实数据相同的分布。比如有Revenue字段,是从客户处的收入,大客户和小客户参数的收入数不能完全随机,可以在原有Revenue的基础上随机增加10000以内的数即可:Revenue+RAND()*10000
  2. 日期类型的数据混淆可以在原日期或者当前日期的基础上加减一个随机的天数形成,使用DATEADD()函数和RAND()函数即可。比如生成随机的最近100天内的日期:DATEADD("day",0-RAND()*100,GETDATE())
  3. 字符串类型的数据混淆最为复杂,因为字符串具有很明确的意义,比如名字字段、公司名字段等,如果随机的生成字符将没有任何意义。这时可以考虑将字符串拆分成两部分然后进行交叉组合,用随机的交叉组合来代替真是的数据。比如原来的姓名是:李宇春、曾轶可、刘著,经过交叉组合就会形成:李著、曾宇春、刘轶可之类的组合。

姓名的拆分是分为姓和名,而公司的拆分可以拆分成前2个字和后面的字。如果是英文姓名或者英文公司名则可以按照第一个空格将英文字符串拆分成第一个单词和后面的单词。然后将产生的两个字段存入临时表,用两个临时表进行交叉联接,得到两个字段的所有组合,然后再随机选出一定条数的数据,用选出的随机数据将原有数据替换即可。

示例

以一个HR系统为例。假设其中有一个Employee表,该表记录了员工的工号、姓名等信息,现在要对姓名进行处理,具体操作如下:

1.区分出中文名和英文名,分别进行拆分。中文姓名以第一个字为A列,剩下的字尾B列,英文名以第一个单词为A列,剩下的单词为B列,将拆分的数据存入临时表,具体SQL语句如下:

select SUBSTRING(Name,1,1) A,SUBSTRING(Name,2,10) B into #CName
from Employee
where UNICODE( Name)>255 --中文

select Name,SUBSTRING(Name,1,CHARINDEX(' ',Name,1)) A,SUBSTRING(Name,CHARINDEX(' ',Name,1),50) B into #EName
from Employee
where UNICODE( Name)<255 --英文

2.让A列和B列进行交叉联接,得到姓名组合的全集,然后随机选出与源数据相同数据量的姓名存入临时表(临时表中有ID流水号字段)。假设员工表里有5000员工数据,则可以选取5000个随机姓名,代码如下:

create table #newCName(ID int identity primary key,Name nvarchar(50)) 
insert into #newCName(Name) 
select top 5000 n1.A+n2.B 
from #CName n1 
cross join #CName n2 
order by NEWID() --随机选取行

3.由于Employee中没有自增的ID字段,只有字符串形式的员工号作为主键,所以需要给每个员工号编一个流水号,用于和随机姓名中的流水号对应,以便接下来的UPDATE操作:

create table #newEmployeeID(ID int identity primary key,EmployeeID varchar(10)) 
insert into #newEmployeeID 
select EmployeeId 
from Employee 
where UNICODE( Name)>255 --中文

4.更新Employee表中的姓名字段为随机生成的姓名:

update Employee 
set Name=n.Name 
from Employee e 
inner join #newEmployeeID i 
on e.EmployeeId=i.EmployeeID 
inner join #newCName n 
on i.ID=n.ID 
where UNICODE(e.Name)>255 --只更新中文姓名

5.用同样的方法,可以对英文姓名进行混淆交叉替换。

优化

这里需要注意的是第2步,使用了CROSS JOIN操作,也就是求两个表的笛卡尔积,如果一个表中有10W条数据,那么将会产生100亿行结果,然后再进行排序,那将是近乎不可能完成的任务,所以必须减少进行笛卡尔积的表的数据量,比如每个表只取500条不重复的数据,那么修改后的SQL语句是:

select top 5000 n1.A+n2.B 
from 
(select distinct top 500 A from #CName )n1 --取不重复的500个姓 
cross join 
(select distinct top 500 B from #CName ) n2--取不重复的500个名 
order by NEWID() --随机选取行

这样最多只是500*500条记录,进行排序选取随机行将会很快完成。

本文转自深蓝居博客园博客,原文链接:http://www.cnblogs.com/studyzy/archive/2010/06/30/1768532.html,如需转载请自行联系原作者

网友评论

登录后评论
0/500
评论
浣熊干面包
+ 关注