在这里阅读这篇文章后：Azure 机器学习请求响应延迟 和评论中提到的文章我想知道当以批处理模式调用已发布的 Web 服务时，这种行为是否也是如此。特别是因为我在某处读到（抱歉，目前找不到链接）批处理调用不受“并发调用”配置的影响......
在我们的场景中，我们有一个自定义 R 模块上传到我们的工作区，其中包括一些默认情况下在 aML 上不可用的库。该模块获取数据集，训练二叉树，创建一些图并在 base64 中对其进行编码，然后将它们作为数据集返回。本地不需要超过 5 秒。但在 aML 网络服务中，它大约需要。90 年代，似乎批处理模式下的运行时在多次调用服务时没有改善。
此外，很高兴知道链接帖子中提到的容器会保持温暖多长时间。