我正在训练一个DataFeeder
有点慢的神经网络(因为它从 h5 文件中读取非连续数据);所以 GPU satay 有一半时间处于空闲状态(GPU-Util 为 0 %)。
在 TensorFlow 或 skflow 中,有没有办法让多个DataFeeder
s 并行运行,以避免这个瓶颈?
我正在训练一个DataFeeder
有点慢的神经网络(因为它从 h5 文件中读取非连续数据);所以 GPU satay 有一半时间处于空闲状态(GPU-Util 为 0 %)。
在 TensorFlow 或 skflow 中,有没有办法让多个DataFeeder
s 并行运行,以避免这个瓶颈?
Tensorflow 具有可以并行(和在 C++ 中)读取和排队数据的读取器库。这应该消除您正在谈论的瓶颈。
我们目前(本周/下周)将它的支持添加到 tf.learn(skflow 的新名称)以使其易于使用。您仍然需要将数据转换为阅读器支持的格式之一(固定长度向量,示例原型)。
如果你想尝试让它自己工作 - 你可以创建一个单独的 DataFeeder,它会在input_builder
函数中使用阅读器库中的操作并在get_feed_dict_fn
.