directml.h) (DML_MATRIX_MULTIPLY_INTEGER_OPERATOR_DESC 结构
对整数数据执行矩阵乘法函数。
此运算符要求矩阵乘法输入张量为 4D，格式为 { BatchCount, ChannelCount, Height, Width }。 矩阵乘法运算符将执行 BatchCount * ChannelCount 独立矩阵乘法的数目。
例如，如果 ATensor 的 Size 为 { BatchCount, ChannelCount, M, K }， BTensor 的 Size 为 { BatchCount, ChannelCount, K, N }， OutputTensor 的 Size 为 { BatchCount, ChannelCount, M, N }，则矩阵乘法运算符将执行维度 {M，K} x {K，N} = {M，N} 的 BatchCount * ChannelCount 独立矩阵乘法。
语法
struct DML_MATRIX_MULTIPLY_INTEGER_OPERATOR_DESC {
const DML_TENSOR_DESC *ATensor;
const DML_TENSOR_DESC *AZeroPointTensor;
const DML_TENSOR_DESC *BTensor;
const DML_TENSOR_DESC *BZeroPointTensor;
const DML_TENSOR_DESC *OutputTensor;
};
成员
ATensor
类型： const DML_TENSOR_DESC*
包含 A 数据的张量。 此张量的尺寸应为 { BatchCount, ChannelCount, M, K }。
AZeroPointTensor
类型：_Maybenull_ const DML_TENSOR_DESC*
包含 ATensor 零点数据的可选张量。 如果需要按张量量化，则 的预期维度 AZeroPointTensor 为 { 1, 1, 1, 1 } ; { 1, 1, M, 1 } 如果需要按行量化，则 为 。 这些零点值用于取消 ATensor 值的量化。
BTensor
类型： const DML_TENSOR_DESC*
包含 B 数据的张量。 此张量的尺寸应为 { BatchCount, ChannelCount, K, N }。
BZeroPointTensor
类型：_Maybenull_ const DML_TENSOR_DESC*
包含 BTensor 零点数据的可选张量。 如果需要按张量量化，则 的预期维度 BZeroPointTensor 为 { 1, 1, 1, 1 } ; { 1, 1, 1, N } 如果需要每列量化，则为 。 这些零点值用于对 BTensor 值进行量化。
OutputTensor
类型： const DML_TENSOR_DESC*
用于写入结果的张量。 此张量的尺寸为 { BatchCount, ChannelCount, M, N }。
可用性
此运算符是在 中 DML_FEATURE_LEVEL_2_1引入的。
张量约束
- ATensor、 BTensor 和 OutputTensor 必须具有相同的 DimensionCount。
- BTensor 和 BZeroPointTensor 必须具有相同 的数据类型。
- ATensor 和 AZeroPointTensor 必须具有相同的 数据类型。
张量支持
DML_FEATURE_LEVEL_5_2 及更高版本
| 张 | 种类 | 维度 | 支持的维度计数 | 支持的数据类型 |
|---|---|---|---|---|
| ATensor | 输入 | { [BatchCount]， [ChannelCount]， M， K } | 2 到 4 | INT8、UINT8 |
| AZeroPointTensor | 可选输入 | { [1]， [1]， AZeroPointCount， [1] } | 1 到 4 | INT8、UINT8 |
| BTensor | 输入 | { [BatchCount]， [ChannelCount]， K， N } | 2 到 4 | INT8、UINT8 |
| BZeroPointTensor | 可选输入 | { [1]， [1]， [1]， BZeroPointCount } | 1 到 4 | INT8、UINT8 |
| OutputTensor | 输出 | { [BatchCount]， [ChannelCount]， M， N } | 2 到 4 | INT32 |
DML_FEATURE_LEVEL_4_0 及更高版本
| 张 | 种类 | 维度 | 支持的维度计数 | 支持的数据类型 |
|---|---|---|---|---|
| ATensor | 输入 | { [BatchCount]， [ChannelCount]， M， K } | 2 到 4 | INT8、UINT8 |
| AZeroPointTensor | 可选输入 | { [1]， [1]， AZeroPointCount， [1] } | 1 到 4 | INT8、UINT8 |
| BTensor | 输入 | { [BatchCount]， [ChannelCount]， K， N } | 2 到 4 | INT8、UINT8 |
| BZeroPointTensor | 可选输入 | { [1]， [1]， 1， BZeroPointCount } | 2 到 4 | INT8、UINT8 |
| OutputTensor | 输出 | { [BatchCount]， [ChannelCount]， M， N } | 2 到 4 | INT32 |
DML_FEATURE_LEVEL_2_1 及更高版本
| 张 | 种类 | 维度 | 支持的维度计数 | 支持的数据类型 |
|---|---|---|---|---|
| ATensor | 输入 | { BatchCount， ChannelCount， M， K } | 4 | INT8、UINT8 |
| AZeroPointTensor | 可选输入 | { 1， 1， AZeroPointCount， 1 } | 4 | INT8、UINT8 |
| BTensor | 输入 | { BatchCount， ChannelCount， K， N } | 4 | INT8、UINT8 |
| BZeroPointTensor | 可选输入 | { 1， 1， 1， BZeroPointCount } | 4 | INT8、UINT8 |
| OutputTensor | 输出 | { BatchCount， ChannelCount， M， N } | 4 | INT32 |
要求
| 最低受支持的客户端 | Windows 10内部版本 20348 |
| 最低受支持的服务器 | Windows 10内部版本 20348 |
| 标头 | directml.h |