次の方法で共有


AddedToken 構造体

定義

既存のモデル ボキャブラリの上にユーザーによって追加されたトークンを表します。 AddedToken は、次のようなさまざまな状況で必要な動作を指定するように構成できます。

  • 1 つの単語にのみ一致する必要があるかどうか
  • WhiteSpace を左または右に含めるかどうか
public struct AddedToken : IEquatable<Microsoft.ML.Tokenizers.AddedToken>
type AddedToken = struct
Public Structure AddedToken
Implements IEquatable(Of AddedToken)
継承
AddedToken
実装

コンストラクター

AddedToken()

新しい AddedToken オブジェクトを作成します。

AddedToken(String, Boolean)

特定のコンテンツから新しい AddedToken オブジェクトを作成し、特殊なトークンを意図しているかどうかを指定します。 既定では、特別なトークンは正規化されません。

プロパティ

Content

追加されたトークンの内容を取得または設定します

メソッド

Equals(AddedToken)

2 つのトークン インスタンスが等しいかどうかを判断します。

GetHashCode()

現在のトークンのハッシュ コードを返します。

演算子

Implicit(String to AddedToken)

文字列オブジェクトから AddedToken への暗黙的な変換を定義します。

適用対象