WhiteSpace Classe
Définition
Important
Certaines informations portent sur la préversion du produit qui est susceptible d’être en grande partie modifiée avant sa publication. Microsoft exclut toute garantie, expresse ou implicite, concernant les informations fournies ici.
Pré-générateur de jetons qui fractionne le texte à la limite du mot. Le mot est un ensemble de caractères alphabétiques, numériques et de trait de soulignement.
public sealed class WhiteSpace : Microsoft.ML.Tokenizers.PreTokenizertype WhiteSpace = class
inherit PreTokenizerPublic NotInheritable Class WhiteSpace
Inherits PreTokenizer- Héritage
Constructeurs
| WhiteSpace() |
Pré-générateur de jetons qui fractionne le texte à la limite du mot. Le mot est un ensemble de caractères alphabétiques, numériques et de trait de soulignement. |
Champs
| Instance |
Obtient une instance singleton du pré-générateur de jetons WhiteSpace. |
Méthodes
| PreTokenize(String) |
Fractionne la chaîne donnée en plusieurs sous-chaînes à la limite du mot, en gardant le suivi des décalages de ces sous-chaînes par rapport à la chaîne d’origine. |