Compartilhar via


AddedToken Estrutura

Definição

Represente um token adicionado pelo usuário sobre o vocabulário do Modelo existente. AddedToken pode ser configurado para especificar o comportamento que eles devem ter em várias situações, como:

  • Se eles devem corresponder apenas a palavras únicas
  • Se deseja incluir qualquer WhiteSpace à esquerda ou à direita
public struct AddedToken : IEquatable<Microsoft.ML.Tokenizers.AddedToken>
type AddedToken = struct
Public Structure AddedToken
Implements IEquatable(Of AddedToken)
Herança
AddedToken
Implementações

Construtores

AddedToken()

Crie um novo objeto AddedToken.

AddedToken(String, Boolean)

Crie um novo objeto AddedToken com base no conteúdo fornecido, especificando se ele se destina a ser um token especial. Tokens especiais não são normalizados por padrão.

Propriedades

Content

Obtém ou define o conteúdo do token adicionado

Métodos

Equals(AddedToken)

Determina se duas instâncias de token são iguais.

GetHashCode()

Retorna o código hash do token atual.

Operadores

Implicit(String to AddedToken)

Define uma conversão implícita de um objeto de cadeia de caracteres para AddedToken.

Aplica-se a