OnlineRequestSettings interface
在線部署評分要求設定。
屬性
max |
每個節點允許每個部署的最大並行要求數目。 預設值為 1。 |
max |
(已淘汰受控在線端點)要求以 ISO 8601 格式留在佇列中的最大時間量。
預設為 500 毫秒。
(現在增加 |
request |
ISO 8601 格式的評分逾時。 預設為 5000 毫秒。 |
屬性詳細資料
maxConcurrentRequestsPerInstance
每個節點允許每個部署的最大並行要求數目。 預設值為 1。
maxConcurrentRequestsPerInstance?: number
屬性值
number
maxQueueWait
(已淘汰受控在線端點)要求以 ISO 8601 格式留在佇列中的最大時間量。
預設為 500 毫秒。
(現在增加 request_timeout_ms
以考慮任何網路/佇列延遲)
maxQueueWait?: string
屬性值
string
requestTimeout
ISO 8601 格式的評分逾時。 預設為 5000 毫秒。
requestTimeout?: string
屬性值
string