共用方式為


OnlineRequestSettings interface

在線部署評分要求設定。

屬性

maxConcurrentRequestsPerInstance

每個節點允許每個部署的最大並行要求數目。 預設值為 1。

maxQueueWait

(已淘汰受控在線端點)要求以 ISO 8601 格式留在佇列中的最大時間量。 預設為 500 毫秒。 (現在增加 request_timeout_ms 以考慮任何網路/佇列延遲)

requestTimeout

ISO 8601 格式的評分逾時。 預設為 5000 毫秒。

屬性詳細資料

maxConcurrentRequestsPerInstance

每個節點允許每個部署的最大並行要求數目。 預設值為 1。

maxConcurrentRequestsPerInstance?: number

屬性值

number

maxQueueWait

(已淘汰受控在線端點)要求以 ISO 8601 格式留在佇列中的最大時間量。 預設為 500 毫秒。 (現在增加 request_timeout_ms 以考慮任何網路/佇列延遲)

maxQueueWait?: string

屬性值

string

requestTimeout

ISO 8601 格式的評分逾時。 預設為 5000 毫秒。

requestTimeout?: string

屬性值

string