0

在这里阅读这篇文章后:Azure 机器学习请求响应延迟 和评论中提到的文章我想知道当以批处理模式调用已发布的 Web 服务时,这种行为是否也是如此。特别是因为我在某处读到(抱歉,目前找不到链接)批处理调用不受“并发调用”配置的影响......

在我们的场景中,我们有一个自定义 R 模块上传到我们的工作区,其中包括一些默认情况下在 aML 上不可用的库。该模块获取数据集,训练二叉树,创建一些图并在 base64 中对其进行编码,然后将它们作为数据集返回。本地不需要超过 5 秒。但在 aML 网络服务中,它大约需要。90 年代,似乎批处理模式下的运行时在多次调用服务时没有改善。

此外,很高兴知道链接帖子中提到的容器会保持温暖多长时间。

4

0 回答 0