我创建了一个用于预测的自定义容器,并将模型成功上传到 Vertex AI。我还能够将模型部署到端点并成功地从端点请求预测。在自定义容器代码中,我使用此处parameters
描述的字段,然后在发出在线预测请求时提供该字段。我的问题是关于从自定义容器请求批量预测以进行预测。
我找不到任何文档来描述当我请求批量预测时会发生什么。例如,我使用
my_model.batch_predict
Python SDK 中的函数并将 设置instances_format
为“csv”并提供gcs_source
. 现在,我已经将我的自定义容器设置为预期的预测请求,/predict
如本文档中所述。Vertex AI 是否向此路径发出 POST 请求,将 cvs 数据转换为适当的 POST 正文?如何
parameters
像在线预测一样为批量预测指定字段?