インテルのみ表示可能 — GUID: fhb1563850758315
Ixiasoft
インテルのみ表示可能 — GUID: fhb1563850758315
Ixiasoft
5.3. 固定小数点演算の最大入力データ幅
ax | ay | bx | by | cx | cy | dx | dy | chainin |
---|---|---|---|---|---|---|---|---|
9 (符号付き) 8 (符号なし) |
9 (符号付き) 8 (符号なし) |
9 (符号付き) 8 (符号なし) |
9 (符号付き) 8 (符号なし) |
9 (符号付き) 8 (符号なし) |
9 (符号付き) 8 (符号なし) |
9 (符号付き) 8 (符号なし) |
9 (符号付き) 8 (符号なし) |
64 |
演算モード | 最大入力データ幅 | ||||||
---|---|---|---|---|---|---|---|
ax | ay | az | bx | by | bz | chainin | |
前置加算器または内部係数なしの場合 | |||||||
m18×18_full | 18 (符号付き) 18 (符号なし) 8 |
19 (符号付き) 18 (符号なし) |
使用しない | 18 (符号付き) 18 (符号なし) |
19 (符号付き) 18 (符号なし) |
使用しない | 使用しない |
m18×18_sumof2 | 18 (符号付き) 18 (符号なし) 8 |
19 (符号付き) 18 (符号なし) |
使用しない | 18 (符号付き) 18 (符号なし) 8 |
19 (符号付き) 18 (符号なし) |
使用しない | 64 |
m18×18_systolic | 18 (符号付き) 18 (符号なし) 8 |
19 (符号付き) 18 (符号なし) |
使用しない | 18 (符号付き) 18 (符号なし) 8 |
19 (符号付き) 18 (符号なし) |
使用しない | 44 |
m18x18_plus36 | 18 (符号付き) 18 (符号付き) |
19 (符号付き) 18 (符号なし) |
使用しない | 36 (符号付き) 36 (符号付き) |
使用しない | 使用しない | 64 |
前置加算器機能のみの場合 | |||||||
m18×18_full | 18 (符号付き) 18 (符号なし) 8 |
18 (符号付き) 17 (符号なし) |
18 (符号付き) 17 (符号なし) |
18 (符号付き) 18 (符号なし) 8 |
18 (符号付き) 17 (符号なし) |
18 (符号付き) 17 (符号なし) |
使用しない |
m18×18_sumof2 | 18 (符号付き) 18 (符号なし) 8 |
18 (符号付き) 17 (符号なし) |
18 (符号付き) 17 (符号なし) |
18 (符号付き) 18 (符号なし) 8 |
18 (符号付き) 17 (符号なし) |
18 (符号付き) 17 (符号なし) |
64 |
m18×18_systolic | 18 (符号付き) 18 (符号なし) 8 |
18 (符号付き) 17 (符号なし) |
18 (符号付き) 17 (符号なし) |
18 (符号付き) 18 (符号なし) 8 |
18 (符号付き) 17 (符号なし) |
18 (符号付き) 17 (符号なし) |
44 |
内部係数機能のみの場合 | |||||||
m18×18_full | 使用しない | 19 (符号付き) 18 (符号なし) |
使用しない | 使用しない | 19 (符号付き) 18 (符号なし) |
使用しない | 使用しない |
m18×18_sumof2 | 使用しない | 19 (符号付き) 18 (符号なし) |
使用しない | 使用しない | 19 (符号付き) 18 (符号なし) |
使用しない | 64 |
m18×18_systolic | 使用しない | 19 (符号付き) 18 (符号なし) |
使用しない | 使用しない | 19 (符号付き) 18 (符号なし) |
使用しない | 44 |
前置加算器および内部係数機能ありの場合 | |||||||
m18×18_full | 使用しない | 18 (符号付き) 17 (符号なし) |
18 (符号付き) 17 (符号なし) |
使用しない | 18 (符号付き) 17 (符号なし) |
18 (符号付き) 17 (符号なし) |
使用しない |
m18×18_sumof2 | 使用しない | 18 (符号付き) 17 (符号なし) |
18 (符号付き) 17 (符号なし) |
使用しない | 18 (符号付き) 17 (符号なし) |
18 (符号付き) 17 (符号なし) |
64 |
m18×18_systolic | 使用しない | 18 (符号付き) 17 (符号なし) |
18 (符号付き) 17 (符号なし) |
使用しない | 18 (符号付き) 17 (符号なし) |
18 (符号付き) 17 (符号なし) |
44 |
演算モード | 最大入力データ幅 | ||||||
---|---|---|---|---|---|---|---|
ax | ay | az | bx | by | bz | chainin | |
前置加算器または内部係数なしの場合 | |||||||
m27×27 | 27 (符号付き) 27 (符号なし) 9 |
27 (符号付き) 27 (符号なし) |
使用しない | 使用しない | 使用しない | 使用しない | 64 |
前置加算器機能のみの場合 | |||||||
m27×27 | 27 (符号付き) 27 (符号なし) 9 |
26 (符号付き) 26 (符号なし) |
26 (符号付き) 26 (符号なし) |
使用しない | 使用しない | 使用しない | 64 |
内部係数機能のみの場合 | |||||||
m27×27 | 使用しない | 27 (符号付き) 27 (符号なし) |
使用しない | 使用しない | 使用しない | 使用しない | 64 |
前置加算器および内部係数機能ありの場合 | |||||||
m27×27 | 使用しない | 26 (符号付き) 26 (符号なし) |
26 (符号付き) 26 (符号なし) |
使用しない | 使用しない | 使用しない | 64 |