2016年11月的文章

2016-11-19阅读(7019)评论(1)

最后一次任务，至此速战速决解决了这门快餐课程。心得是作为一个“懒惰的工程师”，对常见的深度学习模型、技巧、应用有了浅显的了解。但对“好奇的求知者”来讲，则只能说看了一张模糊不清的缩略图，许多理论和细节得通过正式一些的课程去补充。 任务 6:...

2016-11-17阅读(7151)评论(2)

课上讲的太简略了，原理参考《word2vec原理推导与代码分析》。谷歌给的代码也很简陋，只有负采样，没有哈夫曼树。另外单机word2vec已经那么高效了，我质疑上TF的意义。 任务 5: Word2Vec&CBOW 这次的任务是在t...

2016-11-17阅读(6217)评论(0)

课上浅显地介绍了卷积网络，以及配套的常用技巧。速成嘛，没深入探讨原理。编程任务直接给出了实现，要求也只是在其基础上做些小改进，过过干瘾。 任务 4: 卷积模型 设计并训练一个卷积神经网络。 前两次任务中，我们实现了较深的全连接多层神经网络，...

2016-11-16阅读(5021)评论(0)

这次的看点是怎么在TensorFlow里实现正则化、dropout和学习率递减的技巧；顺便演示了下自动调参。 任务 3: 正则化 使用正则化去优化深度学习模型 题目1 给上次练习实现的逻辑斯谛回归和神经网络加上L2正则，检查性能提升。 逻辑...

2016-11-16阅读(6108)评论(2)

三言两语讲完了反向传播，一个公式也没有，果然是面向“懒惰工程师”的快餐教程。比较喜欢“不提神经元，我们不是巫婆”的观点。这次不需要自己写算法，直接上TensorFlow了。 任务 2: 随机梯度下降 使用梯度下降和随机梯度下降训练一个全连接...

2016-11-14阅读(8038)评论(3)

这是谷歌在优达学城上开的公开课，感觉就是TensorFlow的宣传片。肉眼观测难度较低，作为入门第一课快速过掉也许还行。课程概述中说： 我们将教授你如何训练和优化基本神经网络、卷积神经网络和长短期记忆网络。你将通过项目和任务接触完整的机器学...

2016-11-11阅读(5097)评论(0)

斯坦福ML（Matlab）公开课最后一次编程练习，实现了异常检测算法并应用于服务器异常检测，然后利用协同过滤实现一个电影推荐系统。至此又填完一个坑，matlab感觉也入门了。 异常检测 你收集了一些服务器的流量与延迟数据，假设大部分服务器都...

2016-11-10阅读(5825)评论(4)

斯坦福ML（Matlab）公开课，这次练习先实现K-means聚类算法并应用于图像压缩，然后实现PCA并用于人脸图像，最后展示高维数据的可视化技巧。我发现matlab做动画特别方便，顺手把算法执行过程动画化了。 K-means聚类 循序渐进...

2016-11-10阅读(6215)评论(0)

译自《Implementing a Principal Component Analysis (PCA)– in Python, step by step》，一步步地实现了PCA，验证了散布矩阵和协方差矩阵可以得到同样的子空间，并友好地可视...

2016-11-10阅读(4711)评论(0)

斯坦福ML（Matlab）公开课，本次练习试验支持向量机，并应用于垃圾邮件分类。代码本身非常简单，理论知识参考《统计学习方法》或公开课视频。 支持向量机 这部分先在多个2D数据集上熟悉熟悉SVM和惩罚参数。 线性可分数据 简单的线性可分数据...