私は深層学習と TFF の初心者です。EMNIST からの画像を分類するには、CNN を使用する必要があります。また、GitHub に Federated Learning for Image Classification という名前のチュートリアルが表示されます。CNN という名前のネットワークを作成し、次に forward_pass 関数を使用して cnn モデルをインスタンス化し、予測を計算します。しかし、TFF はモデル変数をトレーニング可能な変数として tff.learning.Model に渡す必要があります。CNN model.variables を出力します。名前の付け方がわからないので、cnn_conv2d_kernel を使用して cnn/conv2d/kernel を表します。これが私のコードです：
印刷された model.variables:
variables: [<tf.Variable 'cnn/conv2d/kernel:0' shape=(5, 5, 1, 32) dtype=float32>, <tf.Variable 'cnn/conv2d/bias:0' shape=(32,) dtype=float32>, <tf.Variable 'cnn/conv2d_1/kernel:0' shape=(5, 5, 32, 64) dtype=float32>, <tf.Variable 'cnn/conv2d_1/bias:0' shape=(64,) dtype=float32>, <tf.Variable 'cnn/dense/kernel:0' shape=(3136, 1024) dtype=float32>, <tf.Variable 'cnn/dense/bias:0' shape=(1024,) dtype=float32>, <tf.Variable 'cnn/dense_1/kernel:0' shape=(1024, 10) dtype=float32>, <tf.Variable 'cnn/dense_1/bias:0' shape=(10,) dtype=float32>]
訓練可能な変数と訓練不可能な変数を tff.learning.Model に渡すために作成された私の変数:
MnistVariables = collections.namedtuple(
'MnistVariables','cnn_conv2d_kernel cnn_conv2d_bias cnn_conv2d_1_kernel cnn_conv2d_1_bias cnn_dense_kernel cnn_dense_bias cnn_dense_1_kernel cnn_dense_1_bias num_examples loss_sum accuracy_sum'
)
def create_mnist_variables():
return MnistVariables(
# weights=tf.Variable(
# # lambda: tf.zeros(dtype=tf.float32, shape=(784,10)),
# lambda: tf.zeros(dtype=tf.float32, shape=(28,28,10)),
# name='weights',
# trainable=True),
# bias=tf.Variable(
# lambda: tf.zeros(dtype=tf.float32, shape=(10)),
# name='bias',
# trainable=True),
cnn_conv2d_kernel=tf.Variable(
# lambda: tf.zeros(dtype=tf.float32, shape=(784,10)),
lambda: tf.zeros(dtype=tf.float32, shape=(5,5,1,32)),
name='cnn_conv2d_kernel',
trainable=True),
cnn_conv2d_bias=tf.Variable(
# lambda: tf.zeros(dtype=tf.float32, shape=(784,10)),
lambda: tf.zeros(dtype=tf.float32, shape=(32,)),
name='cnn_conv2d_bias',
trainable=True),
cnn_conv2d_1_kernel=tf.Variable(
# lambda: tf.zeros(dtype=tf.float32, shape=(784,10)),
lambda: tf.zeros(dtype=tf.float32, shape=(5,5,32,64)),
name='cnn_conv2d_1_kernel',
trainable=True),
cnn_conv2d_1_bias=tf.Variable(
# lambda: tf.zeros(dtype=tf.float32, shape=(784,10)),
lambda: tf.zeros(dtype=tf.float32, shape=(64,)),
name='cnn_conv2d_1_bias',
trainable=True),
cnn_dense_kernel=tf.Variable(
# lambda: tf.zeros(dtype=tf.float32, shape=(784,10)),
lambda: tf.zeros(dtype=tf.float32, shape=(3136,1024)),
name='cnn_dense_kernel',
trainable=True),
cnn_dense_bias=tf.Variable(
# lambda: tf.zeros(dtype=tf.float32, shape=(784,10)),
lambda: tf.zeros(dtype=tf.float32, shape=(1024,)),
name='cnn_dense_bias',
trainable=True),
cnn_dense_1_kernel=tf.Variable(
# lambda: tf.zeros(dtype=tf.float32, shape=(784,10)),
lambda: tf.zeros(dtype=tf.float32, shape=(1024,10)),
name='cnn_dense_1_kernel',
trainable=True),
cnn_dense_1_bias=tf.Variable(
# lambda: tf.zeros(dtype=tf.float32, shape=(784,10)),
lambda: tf.zeros(dtype=tf.float32, shape=(10,)),
name='cnn_dense_1_bias',
trainable=True),
num_examples=tf.Variable(0.0, name='num_examples', trainable=False),
loss_sum=tf.Variable(0.0, name='loss_sum', trainable=False),
accuracy_sum=tf.Variable(0.0, name='accuracy_sum', trainable=False)
)
私の部分的な tff.learning.Model コード:
class MnistModel(tff.learning.Model):
def __init__(self):
self._variables = create_mnist_variables()
#所有的“tf.Variables”都应该在“__init__”中引入
@property
def trainable_variables(self):
#return [self._variables.weights, self._variables.bias]
return [self._variables.cnn_conv2d_kernel,
self._variables.cnn_conv2d_bias,
self._variables.cnn_conv2d_1_kernel,
self._variables.cnn_conv2d_1_bias,
self._variables.cnn_dense_kernel,
self._variables.cnn_dense_bias,
self._variables.cnn_dense_1_kernel,
self._variables.cnn_dense_1_bias
]
私の下手な英語を許してください。
今、私は新しい問題を抱えています:
ValueError: No gradients provided for any variable: ['cnn_conv2d_kernel:0', 'cnn_conv2d_bias:0', 'cnn_conv2d_1_kernel:0', 'cnn_conv2d_1_bias:0', 'cnn_dense_kernel:0', 'cnn_dense_bias:0', 'cnn_dense_1_kernel:0', 'cnn_dense_1_bias:0'].