CompletionsUsageOutput interface

Pacote:

@azure-rest/ai-inference

Representação das contagens de tokens processadas para uma solicitação de conclusão. As contagens consideram todos os tokens entre prompts, opções, alternativas de escolha, best_of gerações e outros consumidores.

Propriedades

completion_tokens	O número de tokens gerados em todas as emissões de conclusão.
prompt_tokens	O número de tokens nos prompts fornecidos para a solicitação de conclusão.
total_tokens	O número total de tokens processados para a solicitação e a resposta de conclusões.

Detalhes da propriedade

completion_tokens

O número de tokens gerados em todas as emissões de conclusão.

completion_tokens: number

Valor da propriedade

number

prompt_tokens

O número de tokens nos prompts fornecidos para a solicitação de conclusão.

prompt_tokens: number

Valor da propriedade

number

total_tokens

O número total de tokens processados para a solicitação e a resposta de conclusões.

total_tokens: number

Valor da propriedade

number