CompletionsUsageOutput interface

패키지:

@azure-rest/ai-inference

완료 요청에 대해 처리된 토큰 개수의 표현입니다. 개수는 프롬프트, 선택 항목, 선택 대체 항목, best_of 세대 및 기타 소비자의 모든 토큰을 고려합니다.

속성

completion_tokens	모든 완료 배출에서 생성된 토큰 수입니다.
prompt_tokens	제공된 프롬프트에서 완료 요청에 대한 토큰 수입니다.
total_tokens	완료 요청 및 응답에 대해 처리된 총 토큰 수입니다.

속성 세부 정보

completion_tokens

모든 완료 배출에서 생성된 토큰 수입니다.

completion_tokens: number

속성 값

number

prompt_tokens

제공된 프롬프트에서 완료 요청에 대한 토큰 수입니다.

prompt_tokens: number

속성 값

number

total_tokens

완료 요청 및 응답에 대해 처리된 총 토큰 수입니다.

total_tokens: number

속성 값

number