TokenizerResult.Tokens 属性

参考

定义

命名空间:: Microsoft.ML.Tokenizers

程序集:: Microsoft.ML.Tokenizers.dll

包:: Microsoft.ML.Tokenizers v0.21.1

重要

一些信息与预发行产品相关，相应产品在发行之前可能会进行重大修改。对于此处提供的信息，Microsoft 不作任何明示或暗示的担保。

获取生成的令牌。它们是 ID 的字符串表示形式。

public System.Collections.Generic.IReadOnlyList<string> Tokens { get; }

member this.Tokens : System.Collections.Generic.IReadOnlyList<string>

Public ReadOnly Property Tokens As IReadOnlyList(Of String)

属性值

IReadOnlyList<String>

适用于