用CNN识别验证码的实用教程, tensorflow captcha recognization practical tutorial
本文重在实用,让你半天能搞定验证码的识别,包括从训练材料的获取、预处理和训练,以及predict服务器的搭建。
本文举例的对象(为某银行的微信服务用的,下载训练集,本文代码):
为什么搞爬虫的时候要自己弄验证码识别?
1,省钱,打码的市场价是1分一枚,1万个码就是100块钱,如果一天10万码,那么一个月就要3W。
2,更快更可靠,打码平台经常互相掐架时常DOS,而且一个码要3秒-10秒不等,如果是凌晨时间,就更慢了。如果自己识别了,基本0.1秒识别一枚,能够加快爬虫的速度。
训练材料的获取
到底需要多少标记好的材料?
这和验证码的形态和预处理的方式有关,按本文举例的验证码、采用分割的预处理下,5000个能达到95+。我们实用8000枚的材料,最后能够得到97.5%的正确率。(注意,本事训练材料也是有错误的,包括测试数据,所以98%左右已经是极限了)下面给个基本的量级参考:
4位数字+分割=800
4位数字字母+分割=5000
4位数字字母+整体=20000
如何给训练材料打标记呢?
方法1,自己标注
3秒一个,5000枚,半天搞定。多分几个人的话,一小时搞定。
方法2,打码平台(推荐)
1分钱-2分钱一枚,5000枚只要50块钱,包括写脚本时间,估计一小时。推荐这种方法,花钱节约时间。
方法3,找到对方的验证码的生成器
很多平台生成验证码的时候一般都是找一个第三方的库来生成的,如果你也能找到对应的,那就OK了。
方法4,模拟对方的验证码生成器
如果模拟的不对,那就白忙活了。这其中包括正确的字体、干扰的线条、色彩等,对复杂点的验证码,基本是不可能1小时内能搞定的。有一个通用的思路是用类似prisma的样式迁移,但这就很费力了。
我选择方法2,用打码平台花了50块钱,搞了1W个label的码(新用户从50送50),花了差不多1个小时。
分割预处理
分割预处理,就是把4位的验证码分割开来。像这样:
那为什么要分割呢?
分割的好处是,能够降低模型的复杂度,分割后,模型就只要能够识别当个字符就可以了。这就导致:
1,那么需要的训练材料的量也相应变少了,同时一个sample也能产生4个训练材料,正反一下,需要标记的材料的量就降了很多。
2,我们可以使用更简单的CNN网络了,训练时间也更快(不需要GPU也能在半小时内训练完)
什么时候不分割呢?
像
👆上图这种,都还是很简单的就可以分割的,但像下面这种(Google的)
👇,变形拥挤在一起的就很难分割了。(也说明了什么样的验证码才是好的验证码)
分不了就别分了,整体训练,也算是发挥CNN能力的时候。
我做了分割,代码是pre.py,一小时差不多了。至此,我们训练材料准备就绪了,还剩下4小时。
搭CNN网络
选择一个合适的
有很多现成的网络啊,有名的alexNet,googleNet,resNet都可以做图像分类,那我们用哪个呢,MnistNet!!就是那个分类lecun的手写数字的小网。
直观的讲,原来是0-9十个类别的手写数字变形大、和我们数字+字母共35分类但因为是非手写的,所以容量上在一个等级。
修改MnistNet
我们啥都不用改,就只要改下最后一层的分类数量就行啦,从10改成10+26。(见deyzm.py)
# Logits layer
# Input Tensor Shape: [batch_size, 1024]
# Output Tensor Shape: [batch_size, 10+26]
logits = tf.layers.dense(inputs=dropout, units=10+26) #改成我们的分类数目
改一行代码,用时30分钟够了吧。剩下3.5小时,得快点了。
训练
先要修改下数据加载部分
这里我们要修改下数据输入部分,因为原来的Mnist的材料是一个二进制的文件,而我们要直接从图片中读训练数据和labels,加载后的数据格式和原MnistNet的输入一模一样,咱们的加载代码(详见deyzm.py中的load_data_set)
def load_data_set(fn_labels):
print('loading... ', fn_labels)
with open(fn_labels, 'r') as fp_label:
ll = fp_label.readlines()
labels = [c2i(l.split(',')[1].strip()) for l in ll ]
labels = np.array(labels)
print(labels.shape, labels)
data = []
for i, line in enumerate(ll):
if i%1000==0:
print('{}/{}'.format(i, len(ll)))
line = line.strip()
ww = line.split(',')
data.append(read_as_array(ww[0]))
data = np.array(data)
data = data.reshape((-1,28*28))
return data, labels
numpy没用过同学,快去看下numpy的数据处理5分钟就能理解。numpy快速教程
开始训练
改一个参数,节约时间
mnist_classifier.train(
input_fn=train_input_fn,
steps=5000, #原20000,实际本例到4000,loss就到底了
hooks=[])
启动
python deyzm.py
启动的时候,loss在3.5,而且降的很慢。
大概在2000+step的时候,loss开始打降了,最后5000step的时候完成训练。在测试集下面能够有95%的正确率。
尝试跑到2W,虽然loss低了很多,但准确率没什么提高(因为训练和测试集合本身有2%的人工标注错误)
训练结束,用时1小时(按5000step算,实际i7 4核在30分钟就跑完),没想到CPU训练这么快。剩下2.5小时。
把predict做出http服务
服务器上有10个进程都要用这个验证码识别,做个http服务来响应所有的请求吧。详见web_server.py。
用时10分钟,最后我们提前完成了任务,可喜可贺可喜可贺,多出来的2.35小时玩点什么不好呢,要写这个文?
感想
用CNN做验证码识别大材小用了,但也不失为一个方法啦,而且实际表现确实非常好。其能力的上下限也很大,既可以识别简单的,也可以识别超级复杂的,必须是爬虫工程师的必备技能~
同时感慨下现在的anti-spaming越来越难做了,验证码如此,文字的的机器人回复评论已经和正常人回复没差别了,危矣。顿时发现,机器只要具备一点点智能+人类的滥用,就能杀伤力爆炸。纵使机器可能永远无法具有意识,但这已经不是重点了,危险已经降临!
参考
验证码识别群625706505
如果觉得《python验证码识别cnn_用CNN识别验证码的实用教程》对你有帮助,请点赞、收藏,并留下你的观点哦!