TokenizerFunction type
可傳遞至 recognizeChoices()
、findChoices()
或 findValues()
之替代斷詞工具的簽章。
type TokenizerFunction = (text: string, locale?: string) => Token[];
type TokenizerFunction = (text: string, locale?: string) => Token[]
備註
defaultTokenizer()
相當簡單,而且只會打破空格和標點符號。