神经网络(TensorFlow)游乐场

TensorFlow游乐场是一个通过网页浏览器就可以训练的简单神经网络并实现了可视化训练过程的工具。可以去简单地模拟深度学习的过程。连线越粗表明权重越大。

网址:http://playground.tensorflow.org/

参数介绍

Epoch:迭代次数

Learning rate:学习率,为了能够使得梯度下降法有较好的性能,我们需要把学习率的值设定在合适的范围内。太大的学习速率导致学习的不稳定,太小值又导致极长的训练时间。自适应学习速率通过保证稳定训练的前提下,达到了合理的高速率,可以减少训练时间。根据经验,我们一般把学习率设置为0.01到0.8之间

Activation:激活函数,一般的激活函数有Sigmoid,ReLu,Linear,Tanh所谓激活函数(Activation Function),就是在人工神经网络的神经元上运行的函数,负责将神经元的输入映射到输出端。

Regularization:正则化,正则化的一个目标是为了降低过拟合程度

Regularization Rate:正则化率

Problem Type:有classification(分类)和regression(回归)

数据区域

选择你想进行分类(回归)的数据

下面调整测试集和训练集的比率(默认即可)

Noise:噪音一些不同寻常的数据,会增加分类或者回归的难度

Batch size:批尺寸,Batch_size不宜选的太小,太小了容易不收敛,或者需要经过很大的epoch才能收敛;也没必要选的太大,太大的话首先显存受不了,其次可能会因为迭代次数的减少而造成参数修正变的缓慢。

主界面

最左侧是输入的属性,包括X,Y,X^2,Y^2,sin(X),sin(Y)等

中间便是神经网路的可视化,每一列是一个隐藏层,此时由两个隐藏层,通过点击+来增加隐藏层或者神经元的数量。

最右侧是输出,输出的是损失(越小越好),一般来说训练集的损失要小于测试集的损失。

 

留下评论

您的电子邮箱地址不会被公开。 必填项已用 * 标注