Partager via


Model Classe

Définition

Représente un modèle utilisé pendant la tokenisation (comme BPE ou Word Piece ou Unigram).

public abstract class Model
type Model = class
Public MustInherit Class Model
Héritage
Model
Dérivé

Constructeurs

Model()

Représente un modèle utilisé pendant la tokenisation (comme BPE ou Word Piece ou Unigram).

Méthodes

GetTrainer()

Obtient un objet formateur à utiliser pour l’entraînement du modèle.

GetVocab()

Obtient les jetons de mappage de dictionnaire aux ID.

GetVocabSize()

Obtient la taille du dictionnaire qui mappe les jetons aux ID.

IdToString(Int32, Boolean)

Représente un modèle utilisé pendant la tokenisation (comme BPE ou Word Piece ou Unigram).

IdToToken(Int32, Boolean)

Mapper l’ID jeton au jeton.

IsValidChar(Char)

Retourne true si la char est valide dans le générateur de jetons ; sinon, retournez false.

Save(String, String)

Enregistrez les données du modèle dans les fichiers de vocabulaire et fusionnez.

Tokenize(String)

Jetonsez une chaîne de séquence en une liste de jetons.

TokenToId(String)

Mapper le jeton à l’ID jeton.

S’applique à