卷积神经网络在图像识别上的应用的研究

资源类型:pdf 资源大小:100.00KB 文档分类:工业技术 上传者:曹殿洁

相关文档

批量下载下列文档

文档信息

【标题】卷积神经网络在图像识别上的应用的研究

【作者】 许可 

【关键词】卷积神经网络 人工神经网络 图像识别 手写字符识别 人脸识别 

【出版日期】2012-04-30

【论文级别】硕士

【导师】金小刚

【摘要】人工神经网络是一种尝试模拟人脑的功能而产生的人工智能方法,在上个世纪末期经历了一段时间的蓬勃发展之后,再次陷入低潮。深度学习技术是受到生物学和神经学领域在动物和人脑视觉神经领域的新发现的启发,模拟视觉系统的层次化的工作模式,在人工神经网络的基础上构建具有层次化结构的深度网络模型,给人工神经网络带来了新的发展方向。卷积神经网络是将人工神经网络和深度学习技术结合而产生的一个新型人工神经网络方法,具有局部感知区域、层次结构化、特征抽取和分类过程结合的全局训练等特点,在图像识别领域获得了广泛的应用。现代图像识别任务要求分类系统能够适应不同类型的识别任务,深度网络及其特例卷积神经网络是目前人工神经网络领域的研究热点,对卷积神经网络及其在不同识别任务上的应用进行研究具有重要的应用价值。 本文在整理和总结了国内外有关人工神经网络和卷积神经网络的发展经过和研究成果,并对人工神经网络特别是卷积神经网络的基本概念和算法进行了总结和介绍的基础上,以经典的卷积神经网络模型为基础,将其应用到手写数字识别和人脸识别任务当中,主要工作如下: 1)构造了若干个具有不同大小的特征抽取过滤器层的卷积神经网络模型,并将这些模型应用到手写数字识别和人脸识别两类不同的识别问题上。 2)通过实验结果验证卷积神经网络应用在手写数字识别和人脸识别问题上的可行性,并与现有的其他分类识别方法进行比较,分析卷积神经网络模型的优缺点。 3)通过这些具有不同大小的特征抽取过滤器层的模型在实验中表现出来的学习过程的特性和识别效果,来比较各个模型的优缺点。 本文通过实验证明了卷积神经网络不需要太多的调整和修改就能够很好的应用到手写数字识别和人脸识别问题上,并取得了较好的识别效果。同时对网络中不同大小的过滤器层对于网络训练和分类效果的影响进行了比较分析。

全文阅读

卷积神经网络在图像识别上的应用的研究 许可金小刚计算机应用技术 2012年4月30日 Study of ConvolutionalNeural Network Applied on Image Recognition浙江大学研宄生学位论文独创性声明 本人声明所呈交的学位论文是本人在导师指导下进行的研究工作及取得的 研宄成果。除了文中特别加以标注和致谢的地方外,论文中不包含其他人己经发 表或撰写过的研宄成果,也不包含为获得浙江大学或其他教育机构的学位或 证书而使用过的材料。与我一同工作的同志对本研宄所做的任何贡献均己在论文 中作了明确的说明并表示谢意。 学位论文版权使用授权书 本学位论文作者完全了解浙江大学有权保留并向国家有关部门或机构 送交本论文的复印件和磁盘,允许论文被查阅和借阅。本人授权浙江大学可 以将学位论文的全部或部分内容编入有关数据库进行检索和传播,可以釆用影印、 缩印或扫描等复制手段保存、汇编学位论文。 (保密的学位论文在解密后适用本授权书) 签字日期年:T月(孓日签字曰期年、月、^曰 ★人工神经网络是一种尝试模拟人脑的功能而产生的人工智能方法,在上个世纪末期经历了一段时间的蓬勃发展之后,再次陷入低潮。深度学习技术是受到生物学和神经学领域在动物和人脑视觉神经领域的新发现的启发,模拟视觉系统的层次化的工作模式,在人工神经网络的基础上构建具有层次化结构的深度网络模型,给人工神经网络带来了新的发展方向。卷积神经网络是将人工神经网络和深度学习技术结合而产生的一个新型人工神经网络方法,具有局部感知区域、层次结构化、特征抽取和分类过程结合的全局训练等特点,在图像识别领域获得了广泛的应用。现代图像识别任务要求分类系统能够适应不同类型的识别任务,深度网络及其特例卷积神经网络是目前人工神经网络领域的研究热点,对卷积神经网络及其在不同识别任务上的应用进行研究具有重要的应用价值。 ★本文在整理和总结了国内外有关人工神经网络和卷积神经网络的发展经过和研究成果,并对人工神经网络特别是卷积神经网络的基本概念和算法进行了总结和介绍的基础上,以经典的卷积神经网络模型为基础,将其应用到手写数字识别和人脸识别任务当中,主要工作如下: ★1)构造了若干个具有不同大小的特征抽取过滤器层的卷积神经网络模型,并将这些模型应用到手写数字识别和人脸识别两类不同的识别问题上。 ★2)通过实验结果验证卷积神经网络应用在手写数字识别和人脸识别问题上的可行性,并与现有的其他分类识别方法进行比较,分析卷积神经网络模型的优缺点。 ★3)通过这些具有不同大小的特征抽取过滤器层的模型在实验中表现出来的学习过程的特性和识别效果,来比较各个模型的优缺点。 ★本文通过实验证明了卷积神经网络不需要太多的调整和修改就能够很好的应用到手写数字识别和人脸识别问题上,并取得了较好的识别效果。同时对网络中不同大小的过滤器层对于网络训练和分类效果的影响进行了比较分析。卷积神经网络;;人工神经网络;;图像识别;;手写字符识别;;人脸识别★Artificial Neural Network (ANN), which is one of the many Artificial Intelligence technologies that inspired from the functioning of human brain, after its rapid growing at the later 20th century, entered a stage of slow development. Deep Learning, inspired from the recent discovery of biology and neurology on animal and human optical nerve systems, by simulating the hierarchical structure of the human vision system, developed a deep network architecture which has hierarchical structure. Convolutional Neural Networks (CNN) is a technology that combines ANN and recent Deep Learning method, which is characterized by local receptive field, hierarchical structure, global learning for feature extraction and classification, has been applied to many image recognition tasks. Modern image recognition tasks focuses on the systems that can adapt to different kinds of recognition problems. Deep Network especially its special example CNN have drawn much attention recently, thus the research on apply the CNN on different type of image recognition tasks has great application value. ★In this paper, we first summarize the latest achievement on ANN and CNN fields, and give a thoroughly introduction on the basic concepts of ANN and CNN, including the algorithm that we will use in the work. Then we try to adapt the CNN to handwritten digits recognition and face recognition tasks, the main works in the paper list as follow: ★1) We constructed some CNN models with different number of feature extractors based on a classic CNN model and applied them on two distinguishing image recognition tasks, handwritten digits recognition and face recognition. ★2) By comparing the experimental result of Misclassification Rate on both handwritten digits recognition and face recognition with other existing methods, we proved that CNN can be applied to solve both recognitionproblem and achieved considerable good results and then give a belief analyze on the relative merits of the CNN model. ★3) Based on the experimental results obtained from those CNN models that have different structure, we analyzed those CNN models by comparing them with aspect of train speed and misclassification rate. ★By conduct these experiments, we proved that CNN can be used on handwritten digits recognition and face recognition problems without much modification and achieved good classification results, and then we analyze the influence of the number of feature extractors of each layers on the training and classification results.Convolutional Neural Network;;Artificial Neural Network;;Image Recognition;;Handwritten Digits Recognition;;Face Recognition摘要 -4 Abstract -6 目录 -8 图目录 -10 表目录 -11 第1章 绪论 1 1.1 人工神经网络的发展和现状 1 1.2 深度学习技术的发展和其对人工神经网络的影响 3 1.3 卷积神经网络的发展 6 1.4 分层无监督学习算法与卷积神经网络的结合 7 1.5 图像识别技术的研究现状 8 1.6 本文的主要工作和内容安排 9 1.7 本章小结 10 第2章 人工神经网络和卷积神经网络的结构及算法 11 2.1 多层前馈网络 12 2.1.1 感知器单元 12 2.1.2 多层前馈网络和BP算法 15 2.2 卷积神经网络 17 2.2.1 卷积神经网络结构 18 2.2.2 适用于卷积神经网络的反向传播算法 19 2.2.3 卷积神经网络的一些相关问题 22 2.2.4 卷积神经网络的研究方向 26 2.3 无监督学习层次化的不变特征 26 2.3.1 用于不变特征学习的架构 28 2.3.2 学习算法 30 2.3.3 稀疏的不变特征 31 2.3.4 学习特征的层次结构 32 2.4 本章小结 32 第3章 卷积神经网络在手写数字识别上的应用 33 3.1 MNIST手写数字数据集 33 3.2 卷积神经网络模型的工作方式及改进方法 34 3.3 本文采用的卷积神经网络模型的结构 35 3.3.1 网络模型一(CNN1-1) 36 3.3.2 网络模型二(CNN1-2) 37 3.3.3 网络模型三(CNN1-3) 37 3.4 实验结果 38 3.4.1 LeNet-5在MNIST数据集上的实验结果 38 3.4.2 CNN1-1在MNIST数据集上的实验结果 40 3.4.3 CNN1-2在MNIST数据集上的实验结果 41 3.4.4 CNN1-3在MNIST数据集上的实验结果 41 3.4.5 实验结果对比 42 3.5 本章小结 43 第4章 卷积神经网络在人脸识别上的应用 44 4.1 ORL人脸数据集 44 4.2

1 2 3 4 5 6 7 8 9 10 11 12

问答

我要提问