基于BasicRNNCell的网络结构是什么？

Question

我想知道下面显示的递归神经网络中Tensorflow BasicRNNCell的结构是什么？在我看来，它是一个有3层和12个神经元的神经网络。但我不确定这种联系是怎样的？我不确定它是否是Hopfield网络？

cell = tf.contrib.rnn.BasicRNNCell(num_units=12)

states_series, current_state = tf.nn.dynamic_rnn(cell=cell,inputs=batchX_placeholder,dtype=tf.float32)

Answer 1

这是一层基本RNN单元，每个单元都有 12个隐藏单元。单元格数取决于您的batchX_placeholder占位符。

以下是一个例子：

n_steps = 2
n_inputs = 3
n_neurons = 5    
X = tf.placeholder(dtype=tf.float32, shape=[None, n_steps, n_inputs])
basic_cell = tf.nn.rnn_cell.BasicRNNCell(num_units=n_neurons)
outputs, states = tf.nn.dynamic_rnn(basic_cell, X, dtype=tf.float32)
print(tf.trainable_variables())

打印......

[<tf.Variable 'rnn/basic_rnn_cell/kernel:0' shape=(8, 5) dtype=float32_ref>, 
 <tf.Variable 'rnn/basic_rnn_cell/bias:0' shape=(5,) dtype=float32_ref>]

因此它创建了一个共享内核矩阵和一个共享偏向量。单元格数对应output.shape（源自X.shape），在此示例中为[?, 2, 5]。所以有2个细胞。

如果您想创建多个图层，则应使用接受每个图层中单元格列表的tf.nn.rnn_cell.MultiRNNCell函数。