放牧代码和思想
专注自然语言处理、机器学习算法

机器学习

Structural Learning with Amortized Inference

Structural Learning with Amortized Inference

hankcs阅读(349)评论(0)

Chang et al. 2015提出加速结构化学习的近似算法AI-DCD,通过缓存整数线性规划中相似的问题及解,减少对ILP solver的调用次数,从而加速训练,同时不损失精度。 平摊推断 记$\mathbf{y}=\{y_1,y_2,...

从源码编译安装TensorFlow

从源码编译安装TensorFlow

hankcs阅读(1552)评论(3)

普通安装方法是pip官方的包,但这种大街货往往没有针对本地环境做优化。比如调用时会警告说你的机器支持一些可加速运算的指令,但编译时没有启用,让你心痒难耐。 2017-06-26 10:34:11.820609: W&nb...

Hinton神经网络公开课16 Recent applications of deep neural nets

Hinton神经网络公开课16 Recent applications of deep neural nets

hankcs阅读(800)评论(0)

Neural Networks for Machine Learning最后一课。 学习图像和标题的联合模型 这节课介绍最近一种利用图片标题和图片像素的特征向量训练联合模型的技术。这两种输入之间应当有联系,并将辅助图片检索。末尾展示一段输入...

Hinton神经网络公开课13 Stacking RBMs to make Deep Belief Nets

Hinton神经网络公开课13 Stacking RBMs to make Deep Belief Nets

hankcs阅读(1053)评论(0)

这次课比较轻松,先回顾反向传播的历史,探讨其在90年代遭到冷落的原因。然后过渡到概率图模型,讲了Deep Belief Net及其与RBM的异同、训练算法等。 反向传播简史 这个著名的算法在70和80年代被重复发明多次: Bryson &a...

Hinton神经网络公开课12 Restricted Boltzmann machines (RBMs)

Hinton神经网络公开课12 Restricted Boltzmann machines (RBMs)

hankcs阅读(1100)评论(0)

终于到了玻尔兹曼机的训练了,这种简单的模型拥有优雅的理论基础,训练起来却又慢又差,曾一度被认为不实用。这节课讲解几种高效的学习算法,以及RBM应用到协同过滤的例子。 学习目标 这是种无监督学习,只有输入向量的参与。我们想要最大化训练集中的二...

Hinton神经网络公开课11 Hopfield nets and Boltzmann machines

Hinton神经网络公开课11 Hopfield nets and Boltzmann machines

hankcs阅读(1075)评论(1)

这节课介绍Hopfield Nets,这是80年代神经网络复兴的主要原因之一。这种简单优美的模型将记忆储存为激活值中的模式。然后介绍带有随机隐藏单元的Stochastic Hopfield nets(即玻尔兹曼机),及其搜索算法,为下节课的...

我的开源项目

HanLP自然语言处理包基于DoubleArrayTrie的Aho Corasick自动机