tensorflow - “编译”时如何在渴望模式下执行 TensorFlow 2 Keras Sequential 模型？

Question

我想使用 TF2 的急切执行以“pythonic”方式构建损失，但即使在急切模式下，Keras 也会传递非急切张量。

代码：

    def conditional_loss(self, y_true, y_pred):
        print(y_true)
        return 0

    def define_model(self):
        self.model = keras.Sequential([
            keras.layers.Dense(units=768),
            keras.layers.BatchNormalization(),
            keras.layers.ReLU(),
            keras.layers.Dropout(0.2),
            keras.layers.Dense(units=128),
            keras.layers.BatchNormalization(),
            keras.layers.ReLU(),
            keras.layers.Dropout(0.2),
            keras.layers.Dense(units=5, activation='softmax')
        ])

        self.model.compile(optimizer='adam',
                           loss=self.conditional_loss,
                           metrics=[self.conditional_loss, 
                                    keras.metrics.sparse_categorical_accuracy]
                           )
        self.model.fit(
            self.train_dataset,
            epochs=10,
            validation_data=self.test_dataset,
            callbacks=[tensorboard_callback, model_callback],
        )

如果我y_true在conditional_lossTF 中打印会打印一个非急切的张量。

Tensor("metrics/conditional_loss/Cast:0", shape=(None, 1), dtype=float32)

如果我自己构建，我keras.Model()可以使用参数调用它dynamic=True以启用急切执行。（参考）。有办法做到keras.Sequential()吗？

Answer 1

为此，您必须model.compile()使用参数调用run_eagerly=True。按照问题示例：

self.model.compile(optimizer='adam',
                           loss=self.conditional_loss,
                           metrics=[self.conditional_loss, 
                                    keras.metrics.sparse_categorical_accuracy],
                           run_eagerly=True
                           )