3

据我所知,TensorFlow 的设计目的是在单个tf.Session.run(). 是否有一个已知的理想位置来插入代码以即时更改操作设备的位置?

我知道 python 级别的静态方法,但我正在寻找 C++ 级别的东西,以便我可以做类似于负载平衡的事情。

例如,假设我希望 TensorFlow 以交替的方式调度 CPU 和 GPU 的操作(我知道这不太理想)。我如何在运行时执行此操作,以便解决操作依赖性并安排更多操作,将操作的环境更新为不同的设备?这是否最好在操作启动之前使用DeviceMgr为给定操作的环境更改执行设备来完成ExecutorState::Process(TaggedNode tagged_node, int64 scheduled_usec)(第 1651 行executor.cc)?还是我误解了何时计划通过 XLA 执行操作以及我可以更改设备放置的最晚时间是什么时候?

4

0 回答 0