CompletionsUsageOutput interface

Pakiet:

@azure-rest/ai-inference

Reprezentacja liczby tokenów przetworzonych dla żądania ukończenia. Liczby uwzględniają wszystkie tokeny w monitach, wyborach, alternatywnych opcjach, best_of generacjach i innych użytkownikach.

Właściwości

completion_tokens	Liczba tokenów wygenerowanych we wszystkich emisjach ukończenia.
prompt_tokens	Liczba tokenów w podanych monitach dotyczących żądania ukończenia.
total_tokens	Łączna liczba tokenów przetworzonych na potrzeby żądania ukończenia i odpowiedzi.

Szczegóły właściwości

completion_tokens

Liczba tokenów wygenerowanych we wszystkich emisjach ukończenia.

completion_tokens: number

Wartość właściwości

number

prompt_tokens

Liczba tokenów w podanych monitach dotyczących żądania ukończenia.

prompt_tokens: number

Wartość właściwości

number

total_tokens

Łączna liczba tokenów przetworzonych na potrzeby żądania ukończenia i odpowiedzi.

total_tokens: number

Wartość właściwości

number