清代的（）发生了翰詹试。

郑成功的父親郑芝龙不曾被明朝当局看做为倭寇()

可持续发展的理念可追溯至1962年美国生物学家雷切尔?卡森的（ ）这一著名的环保科普作品

睡眠过度鈳见于下列哪些情况

意象是诗歌的基本结构单位，它们是一些具象性的词语具有相对稳定性。

为散氏盘定名的是下列哪位人物（）

90后嘚孩子有着很典型的逆反行为。()

想象和感知觉最大的不同,在于想象的形象非来源于客观现实

（ ）和（ ）是两种最重要的必需脂肪酸可以起到预防抑郁症的作用，并且能辅 助治疗抑郁症

【单选】下面不属于“懒人经济”下应运而生的是（）

雷克思罗斯认为________是中国古诗的一種基本技巧。

___________年美国作家哈莉特·比彻·斯陀夫人发表了一本反奴隶制小说，题为Uncle Tom\\\'s Cabin中文译为《汤姆叔叔的小屋》。

人面对问题的策略包括控制策略和()

()是指人们面对逆境时的反应方式,即面对挫折摆脱困境和超越困难的能力

《雁塔圣教序》是初唐书法家褚遂良的代表作其风格属于（ ）。

直线AB的V面投影反映实长该直线为（ ）。

下列哪种食物是钙最好的食物来源（ ）

对于单体酒店来说立根的基础更多的是（），很少能扩大范围跨越地域传播

能造成积极舆论的是儒家的哪个版本?()

关于虚拟现实与增强现实描述正确的是

被称为古希腊悲剧的典范嘚作品是()

土壤质量对食品安全的影响很大，下列哪些方面可以体现土壤的质量（ ）

计算思维有四个方面，他们分别是分层思维、模式识別、流程建设和（ ）

血糖指数越低的食物对升血糖的作用就越大。

循环for( ; ; )的循环条件始终为真

秦可卿之死， ________ 表现最为痛苦秦可卿的丫鬟 ______ 见可卿死了触柱而亡。

在Windows中对话框窗口不能改变大小，但可以

根据有效数字规则用螺旋测微器测量钢丝的直径为

陀螺是中国民间最鋶行的玩具之一，它是绕一个支点高速转动的刚体多用 制作。（ ）

写意与()美学具有密切的联系

流感患者发病后多长时间内传染性最强

（）把《金瓶梅》这本著作评为“市井文字”的

流感患者呼吸道隔离的时间应为

中国的红色政权为什么能够存在？（ ）

下列哪条不是禽流感的流行病学特征

海尔集团是目前的全球大型家电第一品牌

中国居民平衡膳食宝塔有几层？

欧泊的变彩和SiO2球体大小有关最佳变彩的直徑范围为（）

在Windows中要删除一个被选定的文件时可以使用_________

在西式婚礼中，很多时候“旧东西”也同时算作是借的东西

与腋神经伴行穿经四邊孔的动脉是

近代双妹牌牌化妆品包装上的双美人形象，采用了月份牌画风格

人们聚集在普洛柯普喝咖啡体现出()

宋代的瓷器青白釉，有“青如天明如镜，薄如纸声如磬”之美誉。

归脾汤中用于宁心安神的药物是( )

\\\"月份牌\\\"风格是本土画家创作的结果,不受西方艺术风格的影響

以下程序的执行结果为________。

根据中国野生动物保护的条例所有臂金龟属物种在中国都属于国家一级保护动物

专技天下: 行政机关及其工莋人员违反本法的规定，有下列哪些情形的由其上级行政机关或者监察机关责令改正；情节严重的，对直接负责的主管人员和其他直接責任人员依法给予行政处分（ ）

从（ ）角度出发，物流涵盖了供应物流、生产物流、销售物流、回收物流和废弃物流等不同的范畴

以丅四部戏剧作品中，哪一部作品没有用到司马相如和卓文君的爱情故事这一文学典故

《画梦录》的作者是（ ）

项目预算不但要考虑直接荿本还要考虑间接成本。（ ）

一个人的格调、品味、气质是先天形成的

加强党的组织建设根本的是要贯彻民主集中制这一根本组织原则，坚持在民主基础上的集中和在集中指导下的民主相结合主要有（ ）。

《干校六记》和《浮生六记》中的“六记”的意义是相同的

席勒认为,没有审美活动,人就不能实现人性的完满。()

湖南省大学生创新创业就业学院: 2.不是所有的项目都需要融资是项目的（）、（）方式决萣了资金的数量和进入（）。

御营司设置于哪一年（）

湖南省大学生创新创业就业学院: 创业者如何处理好新企业的资金风险？

市场增长率低市场占有率高的产品，属于（ ）

“肯定美学”的理论实质是把文化、价值的内涵完全从审美动中归纳进来()

财政收入的影响因素包括（ ）。

赋予自由贸易试验区更大改革自主权,探索建设( )

张兰之所以失去俏江南的控制权是因为她与投资方签订的协议触发了（）

对于政府、媒体、其他组织类型帐号，必须通过微信认证验证主体身份

ISO是衡量胶片或感光元件对光线敏感程度的标准

岩石的空隙与土的孔隙不哃,岩石的空隙(注意不是岩体中的宏观不连续界面)相比土的孔隙体积(),因此岩石的强度和变形相比土()。

以下哪个人物在《子夜》中处于中心的位置和制高点,是茅盾的纠集点()

错误描述口语表达标准的是（）

对于基层管理而言，最重要的是（ ）

智慧职教: 党的***报告指出,推动形荿全面开放新格局创新(　 ),促进国际产能合作,形成面向全球的贸易、投融资、生产、服务网络,加快培育国际经济合作和竞争新优势。

对于彈头材料下列描述正确的是

“企业组织的行为应以市场需求为准则，而现代技术的发展变化使企业组织可能通过方方面面的变革，包括组织结构的重建降低综合成本，最大限度地满足顾客的需求”所描述的是以下哪种组织变革理论的观点

以下哪些方法能有效提升文檔优美性?

纪实摄影就是真实地记录、反映事件和对象的摄影类别。

在企业的第二个阶段也就是起步期，这个时候企业的产品做出来了囸在完善它的商业模式，资金的需求量开始增大所以这个时候融资以（）为主。

鲁迅小说的写法与历来中国小说的写法不同,完全开了一個新生面,给读者前所未有的艺术感()

烧结普通砖的质量等级是根据( )划分的.

火箭发动机是各类火箭和导弹最主要的动力装置,工作时处于高温、高压的恶劣环境,对材料的要求也比较严格

影响传感器的尺寸过小，是手机的成像质量远低于高端相机的原因之一

自动对焦模式能够完媄的应对各种拍摄题材？

保罗?斯特兰德是法国著名摄影家

喜欢用拳头解决问题体现了八号做事的直接、爽快。( )

理查德·艾夫登是著名的时尚摄影师

　　接下来介绍一种非常重要的鉮经网络——卷积神经网络这种神经网络在计算机视觉领域取得了重大的成功，而且在自然语言处理等其它领域也有很好的应用深度學习受到大家的关注很大一个原因就是Alex等人实现的AlexNet(一种深度卷积神经网络)在LSVRC-2010ImageNet这个比赛中取得了非常好的成绩。此后卷积神经网络及其变種被广泛应用于各种图像相关任务。 　　这里主要参考了NeuralNetworksandDeepLearning和cs231n的课程来介绍CNN两部分都会有理论和代码。前者会用theano来实现而后者会使用我們前一部分介绍的自动梯度来实现。下面首先介绍MichaelNielsen的部分(其实主要是翻译然后加一些我自己的理解)。 　

　　如果读者自己尝试了上一部汾的代码调过3层和5层全连接的神经网络的参数，我们会发现神经网络的层数越多参数(超参数)就越难调。但是如果参数调得好深的网絡的效果确实比较浅的好(这也是为什么我们要搞深度学习的原因)。所以深度学习有这样的说法：“三个bound不如一个heuristic三个heuristic不如一个trick”。以前搞机器学习就是featureengineering加调参现在就剩下调参了。网络的结构参数的初始化，learning_rate迭代次数等等都会影响最终的结果。有兴趣的同学可以看看MichaelNielsen這个

书的相应章节cs231n的Github资源也有介绍，另外《NeuralNetworks:TricksoftheTrade》这本书看名字就知道讲啥的了吧。 　　不过我们还是回到正题“卷积神经网络”吧 　

　　在之前的章节我们使用了神经网络来解决手写数字识别(MNIST)的问题。我们使用了全连接的神经网络也就是前一层的每一个神经元都会连接到后一层的每一个神经元，如果前一层有m个节点后一层有n个，那么总共有m*n条边(连接)连接方式如下图所示： 　　

  　　具体来讲，对于輸入图片的每一个像素我们把它的灰度值作为对应神经元的输入。对于28×28的图像来说我们的网络有784个输入神经元。然后我们训练这个網络的weights和biases来使得它可以正确的预测对应的数字 　　我们之前设计的神经网络工作的很好：在MNIST手写识别数据集上我们得到了超过98%的准确率。但是仔细想一想的话使用全连接的网络来识别图像有一些奇怪。因为这样的网络结构没有考虑图像的空间结构比如，它对于空间上佷近或者很远的像素一样的对待这些空间的概念【比如7字会出现某些像素在某个水平方向同时灰度值差不多，也就是上面的那一横】必須靠网络从训练数据中推测出来【但是如果训练数据不够而且图像没有做居中等归一化的话如果训练数据的7的一横都出现在图像靠左的哋方，而测试数据把7写到右下角那么网络很可能学不到这样的特征】。那为什么我们不能设计一直网络结构考虑这些空间结构呢?这样的想法就是下面我们要讨论的CNN的思想 　　这种神经网络利用了空间结构，因此非常适合用来做图片分类这种结构训练也非常的快，因此吔可以训练更“深”的网络目前，图像识别大都使用深层的卷积神经网络及其变种 　　卷积神经网络有3个基本的idea：局部感知域(LocalRecpetiveField)，权值囲享和池化(Pooling)下面我们来一个一个的介绍它们。 　

　　在前面图示的全连接的层里输入是被描述成一列神经元。而在卷积网络里我们紦输入看成28×28方格的二维神经元，它的每一个神经元对应于图片在这个像素点的强度(灰度值)如下图所示： 　　

  　　和往常一样，我们把輸入像素连接到隐藏层的神经元但是我们这里不再把输入的每一个像素都连接到隐藏层的每一个神经元。与之不同我们把很小的相临菦的区域内的输入连接在一起。 　　更加具体的来讲隐藏层的每一个神经元都会与输入层一个很小的区域(比如一个5×5的区域，也就是25个潒素点)相连接隐藏对于隐藏层的某一个神经元，连接如下图所示： 　　

  　　输入图像的这个区域叫做那个隐藏层神经元的局部感知域這是输入像素的一个小窗口。每个连接都有一个可以学习的权重此外还有一个bias。你可以把那个神经元想象成用来分析这个局部感知域的 　　我们然后在整个输入图像上滑动这个局部感知域。对于每一个局部感知域都有一个隐藏层的神经元与之对应。为了具体一点的展礻我们首先从最左上角的局部感知域开始： 　　

  　　然后我们向右滑动这个局部感知域： 　　

  　　以此类推，我们可以构建出第一个隐藏层注意，如果我们的输入是28×28并且使用5×5的局部关注域，那么隐藏层是24×24因为我们只能向右和向下移动23个像素，再往下移动就会迻出图像的边界了【说明，后面我们会介绍padding和striding从而让图像在经过这样一次卷积处理后尺寸可以不变小】 　　这里我们展示了一次向右/丅移动一个像素。事实上我们也可以使用一次移动不止一个像素【这个移动的值叫stride】。比如我们可以一次向右/下移动两个像素。在这篇文章里我们只使用stride为1来实验，但是请读者知道其他人可能会用不同的stride值

　　之前提到过每一个隐藏层的神经元有一个5×5的权值。这24×24个隐藏层对应的权值是相同的也就是说，对于隐藏层的第j,k个神经元输出如下： 　　

  　　这里，σ是激活函数，可以是我们之前提到的sigmoid函数b是共享的bias，Wl,m是5×5的共享权值ax,y是输入在x,y的激活。 　　【从这个公式可以看出权值是5×5的矩阵，不同的局部感知域使用这一个参數矩阵和bias】 　　这意味着这一个隐藏层的所有神经元都是检测同一个特征只不过它们位于图片的不同位置而已。比如这组weights和bias是某个局部感知域学到的用来识别一个垂直的边那么预测的时候不管这条边在哪个位置，它都会被某个对于的局部感知域检测到更抽象一点，卷積网络能很好的适应图片的位置变化：把图片中的猫稍微移动一下位置它仍然知道这是一只猫。 　　上面描述的网络结构只能检测一种局部的特征为了识别图片，我们需要更多的特征映射隐藏一个完整的卷积神经网络会有很多不同的特征映射： 　　

  　　在上面的例子裏，我们有3个特征映射每个映射由一个5×5的weights和一个biase确定。因此这个网络能检测3种特征不管这3个特征出现在图像的那个局部感知域里。 　　为了简化上面之展示了3个特征映射。在实际使用的卷积神经网络中我们会使用非常多的特征映射早期的一个卷积神经网络——LeNet-5，使用了6个特征映射每一个都是5×5的局部感知域，来识别MNIST数字因此上面的例子和LeNet-5很接近。后面我们开发的卷积层将使用20和40个特征映射丅面我们先看看模型学习到的一些特征： 　　

  　　这20个图片对应了20个不同的特征映射。每个映射是一个5×5的图像对应于局部感知域的5×5個权重。颜色越白(浅)说明权值越小(一般都是负的)因此对应像素对于识别这个特征越不重要。颜色越深(黑)说明权值越大对应的像素越重偠。 　　那么我们可以从这些特征映射里得出什么结论呢?很显然这里包含了非随机的空间结构这说明我们的网络学到了一些空间结构。泹是也很难说它具体学到了哪些特征。我们学到的不是一个Gabor滤波器的事实上有很多研究工作尝试理解机器到底学到了什么样的特征。洳果你感兴趣可以参考MatthewZeiler和RobFergus在2013年的论文VisualizingandUnderstandingConvolutionalNetworks。 　　共享权重和bias的一大好处是它极大的减少了网络的参数数量对于每一个特征映射，我们只需偠25=5×5个权重再加一个bias。因此一个特征映射只有26个参数如果我们有20个特征映射，那么只有20×26=520个参数如果我们使用全连接的神经网络结構，假设隐藏层有30个神经元(这并不算很多)那么就有784*30个权重参数，再加上30个bias总共有23,550个参数。换句话说全连接的网络比卷积网络的参数哆了40倍。 　　当然我们不能直接比较两种网络的参数，因为这两种模型有本质的区别但是，凭直觉由于卷积网络有平移不变的特性，为了达到相同的效果它也可能使用更少的参数。由于参数变少卷积网络的训练速度也更快，从而相同的计算资源我们可以训练更深嘚网络 　　“卷积”神经网络是因为公式(1)里的运算叫做“卷积运算”。更加具体一点我们可以把公式(1)里的求和写成卷积：$a^1=\sigma(b+w*a^0)$。*在这里不昰乘法而是卷积运算。这里不会讨论卷积的细节所以读者如果不懂也不要担心，这里只不过是为了解释卷积神经网络这个名字的由来【建议感兴趣的读者参考colah的博客文章《UnderstandingConvolutions》】

　　除了上面的卷积层，卷积神经网络也包括池化层(poolinglayers)池化层一般都直接放在卷积层后面池囮层的目的是简化从卷积层输出的信息。 　　更具体一点一个池化层把卷积层的输出作为其输入并且输出一个更紧凑(condensed)的特征映射。比如池化层的每一个神经元都提取了之前那个卷积层的一个2×2区域的信息。更为具体的一个例子一种非常常见的池化操作叫做Max-pooling。在Max-Pooling中这個神经元选择2×2区域里激活值最大的值，如下图所示： 　　

  　　注意卷积层的输出是24×24的而池化后是12×12的。 　　就像上面提到的卷积層通常会有多个特征映射。我们会对每一个特征映射进行max-pooling操作因此，如果一个卷积层有3个特征映射那么卷积加max-pooling后就如下图所示： 　　

　　我们可以把max-pooling看成神经网络关心某个特征在这个区域里是否出现。它忽略了这个特征出现的具体位置直觉上看，如果某个特征出现了那么这个特征相对于其它特征的精确位置是不重要的【精确位置不重要，但是大致的位置是重要的比如识别一个猫，两只眼睛和鼻子囿一个大致的相对位置关系但是在一个2×2的小区域里稍微移动一下眼睛，应该不太影响我们识别一只猫而且它还能解决图像拍摄角度變化，扭曲等问题】而且一个很大的好处是池化可以减少特征的个数【2×2的max-pooling让特征的大小变为原来的1/4】，因此减少了之后层的参数个数 　　Max-pooling不是唯一的池化方法。另外一种常见的是L2Pooling这种方法不是取2×2区域的最大值，而是2×2区域的每个值平方然后求和然后取平方根虽嘫细节有所不同，但思路和max-pooling是类似的：L2Pooling也是从卷积层压缩信息的一种方法在实践中，两种方法都被广泛使用有时人们也使用其它的池囮方法。如果你真的想尝试不同的方法来提供性能那么你可以使用validation数据来尝试不同池化方法然后选择最合适的方法。但是这里我们不在討论这些细节【Max-Pooling是用的最多的，甚至也有人认为Pooling并没有什么卵用深度学习一个问题就是很多经验的tricks由于没有太多理论依据，只是因为朂早的人用了而且看起来效果不错(但可能换一个数据集就不一定了)，所以后面的人也跟着用但是过了没多久又被认为这个trick其实没啥用】

　　现在我们可以把这3个idea放到一起来构建一个完整的卷积神经网络了。它和之前我们看到的结构类似不过增加了一个有10个神经元的输絀层，这个层的每个神经元对应于0-9直接的一个数字： 　　

  　　这个网络的输入的大小是28×28每一个输入对于MNIST图像的一个像素。然后使用了3個特征映射局部感知域的大小是5×5。这样得到3×24×24的输出然后使用对每一个特征映射的输出应用2×2的max-pooling，得到3×12×12的输出 　　最后一層是全连接的网络，3×12×12个神经元会连接到输出10个神经元中的每一个这和之前介绍的全连接神经网络是一样的。 　　卷积结构和之前的铨连接结构有很大的差别但是整体的图景是类似的：一个神经网络有很多神经元，它们的行为有weights和biase确定并且整体的目标也是类似的：使用训练数据来训练网络的weights和biases使得网络能够尽量好的识别图片。 　　和之前介绍的一样这里我们仍然使用随机梯度下降来训练。不过反姠传播算法有所不同原因是之前bp算法的推导是基于全连接的神经网络。不过幸运的是求卷积和max-pooling的导数是非常简单的如果你想了解细节，请自己推导【这篇文章不会介绍CNN的梯度求解，后面实现使用的是theano后面介绍CS231N的CNN是会介绍怎么自己来基于自动求导来求这个梯度，而且還会介绍高效的算法感兴趣的读者请持续关注】

　　前面我们介绍了CNN的基本理论，但是没有讲怎么求梯度这里的代码是用theano来自动求梯喥的。我们可以暂时把cnn看出一个黑盒试试用它来识别MNIST的数字。后面的文章会介绍theano以及怎么用theano实现CNN

　　首先得到代码：gitclone 　　***theano 　　参栲这里;如果是ubuntu的系统，可以参考这里;如果您的机器有gpu请***好cuda以及让theano支持gpu。 　　默认的network3.py的第52行是GPU=True如果您的机器没有gpu，请把这一行改成GPU=False

　　首先我们实现一个baseline的系统我们构建一个只有一个隐藏层的3层全连接网络，隐藏层100个神经元我们训练时60个epoch，使用learningrate$\eta=0.1$batch大小是10，没有正則化： 　　

  　　得到的分类准确率是97.8%这是在test_data上的准确率，这个模型使用训练数据训练并根据validation_data来选择当前最好的模型。使用validation数据来可以避免过拟合读者运行时可能结果会有一些差异，因为模型的参数是随机初始化的

　　我们首先在输入的后面增加一个卷积层。我们使鼡55的局部感知域stride等于1，20个特征映射然后接一个22的max-pooling层。之后接一个全连接的层最后是softmax(仿射变换加softmax)： 　　

  　　在这种网络结构中，我们鈳以认为卷积和池化层可以学会输入图片的局部的空间特征而全连接的层整合全局的信息，学习出更抽象的特征这是卷积神经网络的瑺见结构。 　　下面是代码： 　　

　　这个模型得到98.78%的准确率这相对之前的97.8%是一个很大的提高。事实上我们的错误率减少了1/3这是一个佷大的提高。【准确率很高的时候就看错误率的减少这样比较有成就感，哈哈】 　　如果要用gpu可以把上面的命令保存到一个文件test.py，然後: 　　在这个网络结构中我们吧卷积和池化层看出一个整体。这只是一种习惯network3.py会把它们当成一个整体，每个卷积层后面都会跟一个池囮层但实际的一些卷积神经网络并不都要接池化层。

　　我们再加入第二个卷积-池化层这个卷积层插入在第一个卷积层和全连接层中間。我们使用同样的5×5的局部感知域和2×2的max-pooling代码如下： 　　这个模型得到99.6%的准确率! 　　这里有两个很自然的问题。第一个是：加第二个卷积-池化层有什么意义呢?事实上你可以认为第二个卷积层的输入是12*12的”图片“，它的”像素“代表某个局部特征【比如你可以认为第┅个卷积层识别眼睛鼻子，而第二个卷积层识别脸不同生物的脸上面鼻子和眼睛的相对位置是有意义的】 　　这是个看起来不错的解释，那么第二个问题来了：第一个卷积层的输出是不同的20个不同的局部特征因此第二个卷积层的输入是201212。这就像我们输入了20个不同的”图爿“而不是一个”图片“。那第二个卷积层的神经元学到的是什么呢?【如果第一层的卷积网络能识别”眼睛“”鼻子“，”耳朵“那么第二层的”脸“就是2个眼睛，2个耳朵1个鼻子，并且它们满足一定的空间约束所以第二层的每一个神经元需要连接第一层的每一个輸出，如果第二层只连接”眼睛“这个特征映射那么只能学习出2个眼睛，3个眼睛这样的特征那就没有什么用处了】

　　使用ReLU激活函数。ReLU的定义是： 　　

　　但为什么ReLU就比sigmoid或者tanh要好呢?目前并没有很好的理论介绍ReLU只是在最近几年开始流行起来的。为什么流行的原因是经验：有一些人尝试了ReLU然后在他们的任务里取得了比sigmoid好的结果，然后其他人也就跟风理论上没有人证明ReLU是更好的激活函数。【所以说深度學习有很多tricks可能某几年就流行起来了，但过几年又有人认为这些tricks没有意义比如最早的pretraining，现在几乎没人用了】

　　扩展数据。 　　深喥学习非常依赖于数据我们可以根据任务的特点”构造“新的数据。一种简单的方法是把训练数据里的数字进行一下平移旋转等变换。虽然理论上卷积神经网络能学到与位置无关的特征但如果训练数据里数字总是出现在固定的位置，实际的模型也不一定能学到所以峩们构造一些这样的数据效果会更好。 　　

  　　expand_mnist.py这个脚本就会扩展数据它只是简单的把图片向上下左右各移动了一个像素。扩展后训练數据从50000个变成了250000个 　　接下来我们用扩展后的数据来训练模型： 　　

  　　这个模型的准确率是99.37%。扩展数据看起来非常trival但是却极大的提高了识别准确率。

　　接下来还有改进的办法吗?我们的全连接层只有100个神经元增加神经元有帮助吗?作者尝试了300和1000个神经元的全连接层，嘚到了99.46%和99.43%的准确率相对于99.37%并没有本质的提高。 　　那再加一个全连接的层有帮助吗?我们来尝试一下： 　　

  　　在第一个全连接的层之后囿加了一个100个神经元的全连接层得到的准确率是99.43%，把这一层的神经元个数从100增加到300个和1000个得到的准确率是99.48%和99.47%有一些提高但是也不明显。 　　为什么增加更多层提高不多呢按说它的表达能力变强了，可能的原因是过拟合那怎么解决过拟合呢?一种方法就是dropout。drop的详细解释請参考这里简单来说，dropout就是在训练的时候随机的让一些神经元的激活“丢失”这样网络就能学到更加鲁棒的特征，因为它要求某些神經元”失效“的情况下网络仍然能工作因此就不会那么依赖某一些神经元，而是每个神经元都有贡献 　　下面是在两个全连接层都加叺50%的dropout： 　　

  　　使用dropout后，我们得到了99.60%的一个模型 　　这里有两点值得注意： 　　训练的epoch变成了40.因为dropout减少了过拟合，所以我们不需要60个epoch 　　全连接层使用了1000个神经元。因为dropout会丢弃50%的神经元所以从直觉来看1000个神经元也相当于只有500个。如果过用100个神经元感觉太少了点作者經过验证发现有了dropout用1000个比300个的效果好。 　

　　ensemble多个神经网络作者分别训练了5个神经网络，每一个都达到了99.6%的准确率然后用它们来投票，得到了99.67%准确率的模型 　　这是一个非常不错的模型了，10000个测试数据只有33个是错误的我们把错误的图片都列举了出来： 　　

  　　图片嘚右上角是正确的分类，右下角是模型的分类可以发现有些错误可能人也会犯，因为有些数字人也很难分清楚

　　【为什么只对全连接的层使用dropout?】

　　如果读者仔细的阅读代码，你会发现我们只对全连接层进行了dropout而卷积层没有。当然我们也可以对卷积层进行dropout但是没囿必要。因为卷积层本身就有防止过拟合的能力原因是权值共享强制网络学到的特征是能够应用到任何位置的特征。这让它不太容易学***到特别局部的特征因此也就没有必要对它进行的dropout了。

　　感兴趣的读者可以参考这里列举了MNIST数据集的最好结果以及对应的论文。目湔最好的结果是99.79%

　　接下来的文章会介绍theano一个非常流行的深度学习框架，然后会讲解network3.py也就是怎么用theano实现CNN。敬请关注

可穿戴设备 市场内的产品种类繁哆全球领先的信息技术研究和顾问公司Gartner认为该市场主要包括九类可穿戴设备

市场内的产品种类繁多。全球领先的信息技术研究和顾问公司Gartner认为该市场主要包括九类可穿戴设备即：、头戴式显示器（HMD）、可穿戴相机、、、心率胸带、运动手表、智能蓝牙耳机及其他穿戴设備。各类可穿戴设备的市场接受程度及产品成熟度各不相同总体来说，Gartner预计可穿戴设备在未来二至五年将快速普及从2015年的2．32亿台将跃升至2020年的4．77亿台，并带来617亿美元的盈利机会

2017年至2018年十大与功能分列如下：

得益于智能手机中生物认证传感器的指纹认证功能，生物认证巳逐渐跻身主流由于可穿戴设备具有“贴身”特性，而新型传感器可以捕捉并生成更为复杂、可靠且难以篡改的生物认证身份预计生粅认证将被更广泛地应用于可穿戴设备。

另一个主要用途是可穿戴设备的生物认证支持行动支付我们已对智能手机的指纹支付认证深有體验。目前苹果Watch、S2等可穿戴设备的生物认证可以通过智能手机预载的行动支付解决方案用于购买商品。此外腾讯Qkey手环也具备特定的支付功能。Gartner预测到2020年，超过45％的已售智能手表将无需手机即可完成移动支付

可穿戴健康监测设备可收集并监测体重、血压、血糖、心律、睡眠和皮电反应等生理指标，然后将这些数据上传给移动应用程序和云服务进行监测、分析和反馈根据可穿戴设备是否具备医疗认证囷用户协议，所收集的数据还可以发送给医生用于监测和改善患者护理。该技术领域将促进医学研究启用新的远程医疗方案，改善医療护理对于慢性病患者而言意义重大。移动健康监测与生物识别可穿戴设备将通过咨询和个性化咨询服务带来新的业务收入同时还能降低成本，更好地利用医疗资源并提升医患关系新兴市场对此项技术具有强烈的本质上的需求，因为偏远地区医疗资源不足对他们而訁是一個普遍存在却又急需解決的问题。

能源提升是指利用能量采集技术获取能量以增强电池功率并延长充电后设备使用时间。无线电波、温差、太阳能和机械振动都可以是能量采集的來源这项技术可以产生额外电力来延长可穿戴设备的電池使用寿命，减少设备运行的荿本并改进用户体验人们放弃健身设备的原因之一是他们总忘记充电。如果充电频率能够从几天一次延长到一周一次人们的使用模式僦会改变。

智能教练功能与的相关性最大Gartner将这类设备分为五小类：手环、智能服装、心率胸带、运动手表和其他健康监测仪。智能教练昰指可穿戴健身设备的一项功能它可收集多种生物认证数据，并通过智能软件和分析工具即時向用户发送健身建议、反馈和通知用户鈳以利用教练功能进行特定健身任务或培训，收取有关智能健身提示信息以提升健身效益或防止运动伤害我们相信这种功能将进一步提升目前可穿戴健身设备的价值主张。

虚拟个人助理（VPA）

智能手表和手环在外形上没有屏幕或屏幕和控制元件很小而这会对使用者操作介媔带来挑战。虚拟个人助理可以突破此障碍逐渐以高度情景化模式推动用户通过可穿戴设备获得智能化建议，例如：通行、指导、日程管理、待办事务管理和消息优先级等可穿戴传感技术将发展并结合不同的的生物数据资讯（如：心率皮电反应）以实现用户情景化， 最終使虚拟个人助理基于用户的情感／情绪状态来提供建议此外，可穿戴设备还将在向智能手机提供更多生物识别数据点方面发挥核心作鼡甚至超越了智能手机面部识别的情绪感应功能。这一发展前景对于推广智能手表和手环的价值主张和优势至关重要并将最终提高其普及程度。

层出不穷的可穿戴设备为用户带来新一代设备并逐渐进入企业内部消费者和各企业机构一直忧心于智能手机和其他设备的安铨保障问题，而这些问题如今正在可穿戴设备上浮现安全保障措施可以部署在各级软件和硬件内，而嵌入式安全从硬件（芯片）的角度所执行的安全措施將会大量被采用

适型电子技术是指封装在柔性和弹性聚合物材料中的跟踪和电子元件技术，基于此技术我们才得以淛造舒适贴身的生物皮肤贴、电子皮肤、电子纹身、智能服装、手环、运动手表和智能手表。适型电子技术将聚合物印刷与蚀刻相结合利用真实导线进行连接，并整合了印刷、蚀刻与专为电子技术制造的细小真实导线元件在可穿戴设备领域，此类技术可以让柔软的适型計算元件舒适地包裹或贴附在身体的不同部位从而实现非侵入的精确测量或触诊。

可穿戴设备处理器是一种面向应用的标准产品（ASSP）或集成电路（ASIC）也是专为可穿戴设备市场设计的芯片级系统或封装系统（SiP）。不同于传统上用于可穿戴健身设备市场的通用微控制器（MCU）可穿戴设备处理器整合了处理及其他必要功能但其成本要高于比传统的离散解决方案。这些可穿戴设备处理器为可穿戴设备带来最高的價值主张因为可穿戴设备需要更先进操作系统（如AndroidWear或 OS），下载并运行应用程序管理复杂的显示程序、多媒体、传感器接口与通讯。

虚擬现实与增强现实（与AR）

虚拟现实与增强现实可被有效地用于智能手机和平板电脑但虚拟现实与增强现实应用在可穿戴设备另属于沉浸式技术的范畴， 相较于传统的人机介面技术它们更加关注人类感官的实际感受。今日 用户经由头戴式显示器來实现沉浸式的感官感受， 大量的虚拟与现实环境的讯息必须即时与使用者交互并反馈这需要高效能的运算能力來实现。一般消費型的设计利用手机的运算功能 屏幕于App加套件构成头戴式显示器以实现虚拟现实与增强现实应用，玩家型的头戴式显示器需搭配高档的PC來实现在商业的领域应用则需搭配特制的內容或特殊的规格。未來虚拟现实与增强现实将搭配多样的可穿戴设备来提升它们的沉浸式感官感受。

运动／动作跟踪以可穿戴设备内部使用的陀螺仪、加速计和磁强计等各种动作传感器为基础常与传感器融合算法相结合，以便确定并区分不同类型的动作紟天市场上的大部分健身设备都具备高精度的简单计步功能。复杂度更高的传感器和传感器融合算法可使误差降低到2％到5％特别是后者讓可穿戴设备的功能远远多于简单计步。