Alg 深度学习优化器-优化Tricks
在前面两篇文章中,我们用一个框架梳理了各大优化算法,并且指出了以Adam为代表的自适应学习率优化算法可能存在的…
Alg 深度学习优化器-Adam两宗罪
在上篇文章中,我们用一个框架来回顾了主流的深度学习优化算法。可以看到,一代又一代的研究者们为了我们能炼(xun…
Alg 深度学习优化器-一个框架看懂优化算法
机器学习界有一群炼丹师,他们每天的日常是: 拿来药材(数据),架起八卦炉(模型),点着六味真火(优化算法),就…
math 关于矩概念有意思的描述
因为我们常常会将随机变量(先假定有任意阶矩)作一个线性变换,把一阶矩(期望)归零,二阶矩(方差)归一,以便统一…
Keras 学习keras 0x08–tf.data四种迭代器
tf.data四种迭代器 日常使用中单次迭代器应该是是用最多的,一般情况下数据量都是比较大,遍历一遍就搞定了。…
tech ssh-keygen生成rsa公钥问题
最近在配置一下ssh的公私钥,因为系统需要制定私钥的开头就是begin rsa 的方式,如果是openssh …
Alg 深度学习为什么需要大数据?
这个是一个朋友面试时遇到的问题,这个问题个人觉得算是一个开放性的问题,同时需要你对深度学习有着宏观的认识,并且…
Keras keras学习 0x07-Tfrecord 读取
很久没更新了,都已经忘记的差不多了,说实话是自己偷懒了,最近一段时间周末其实也是有时间来更新的。 上一篇文章写…
Keras Keras学习-0x06-Tfrecord相关
前面的描述中讲完了序列模型和函数式模型的理论,对于keras而言后面所有模型代码的实现都是基于这两种方式来实现…
tech redis_py_cluster读取redis遇到too many connections问题
最近项目中需要自己去往redis里面写数据,redis集群读写需要使用到redis_py_cluster这个p…
Keras Keras从零学习-函数式多输入与多输出-0x05
在工程实践中单输入的场景还是比较少的,这种单输入的理解仅是单个Input,并不是特征为1哈。 关于多输入这块还…
Keras Keras从零学习-函数式模型-0x4
序列模型的好处就是简单易理解,上一篇文章介绍了序列模型的简单使用模型定义序列模型 但是函数式模型定义会让你定义…
Keras Keras从零学习-模型定义(序列模型)-0x03
之前的文章是使用感知机作为引导,文章中也涉及到一点点的keras代码示例,从这篇开始主要以讲解keras代码为…
Keras Keras从零学习-多层感知机-0x02
多层感知机顾名思义,相比于单层感知机多了很多网络层,可以参考下图: 上面图中中间插入了两层网络,在DL中又称之…
Keras Keras从零学习-感知机-0x01
学习神经网络一般都是从感知机开始着手学习,那先从keras构建一个感知机开始。 感知机算法的原理比较简单 上面…
Keras keras从零学习-安装指引-0x00
安装方法 在安装 Keras 之前,请安装以下后端引擎之一:TensorFlow,Theano,或者 CNTK…