CompletionsUsageOutput interface

套件:

@azure-rest/ai-inference

針對完成要求所處理的令牌計數表示。 計數會考慮提示、選擇、替代選項、best_of層代和其他取用者之間的所有令牌。

屬性

completion_tokens	在所有完成排放中產生的令牌數目。
prompt_tokens	提供的令牌數目會提示完成要求。
total_tokens	完成要求和回應所處理的令牌總數。

屬性詳細資料

completion_tokens

在所有完成排放中產生的令牌數目。

completion_tokens: number

屬性值

number

prompt_tokens

提供的令牌數目會提示完成要求。

prompt_tokens: number

屬性值

number

total_tokens

完成要求和回應所處理的令牌總數。

total_tokens: number

屬性值

number