CompletionsUsageOutput interface

Pacote:

@azure-rest/ai-inference

Representação das contagens de token processadas para uma solicitação de conclusão. As contagens consideram todos os tokens em prompts, escolhas, alternativas de escolha, gerações best_of e outros consumidores.

Propriedades

completion_tokens	O número de tokens gerados em todas as emissões de conclusão.
prompt_tokens	O número de tokens nos prompts fornecidos para a solicitação de conclusão.
total_tokens	O número total de tokens processados para a solicitação e resposta de conclusão.

Detalhes de Propriedade

completion_tokens

O número de tokens gerados em todas as emissões de conclusão.

completion_tokens: number

Valor de Propriedade

number

prompt_tokens

O número de tokens nos prompts fornecidos para a solicitação de conclusão.

prompt_tokens: number

Valor de Propriedade

number

total_tokens

O número total de tokens processados para a solicitação e resposta de conclusão.

total_tokens: number

Valor de Propriedade

number