共用方式為


TokenizerFunction type

可傳遞至 recognizeChoices()findChoices()findValues()之替代斷詞工具的簽章。

type TokenizerFunction = (text: string, locale?: string) => Token[];
type TokenizerFunction = (text: string, locale?: string) => Token[]

備註

defaultTokenizer() 相當簡單,而且只會打破空格和標點符號。