インテルのみ表示可能 — GUID: kly1441615065066
Ixiasoft
インテルのみ表示可能 — GUID: kly1441615065066
Ixiasoft
6.2. 固定小数点演算の最大入力データ幅
動作モード | 最大入力データ幅 | |||||||
---|---|---|---|---|---|---|---|---|
ax | ay | az | bx | by | bz | COEFSELA | COEFSELB | |
前加算または内部係数がない場合 | ||||||||
m18×18_full | 18 (符号付き) 18 (符号なし) |
19 (符号付き) 18 (符号なし) |
使用しません | 18 (符号付き) 18 (符号なし) |
19 (符号付き) 18 (符号なし) |
使用しません | 使用しません | 使用しません |
m18×18_sumof2 | 18 (符号付き) 18 (符号なし) |
19 (符号付き) 18 (符号なし) |
使用しません | 18 (符号付き) 18 (符号なし) |
19 (符号付き) 18 (符号なし) |
使用しません | 使用しません | 使用しません |
m18×18_systolic | 18 (符号付き) 18 (符号なし) |
19 (符号付き) 18 (符号なし) |
使用しません | 18 (符号付き) 18 (符号なし) |
19 (符号付き) 18 (符号なし) |
使用しません | 使用しません | 使用しません |
m18×18_plus36 | 18 (符号付き) 18 (符号なし) |
19 (符号付き) 18 (符号なし) |
使用しません | 18 (符号付き) 18 (符号なし) |
18 (符号なし) 4 |
使用しません | 使用しません | 使用しません |
m27×27 | 27 (符号付き) 27 (符号なし) |
27 (符号付き) 27 (符号なし) |
使用しません | 使用しません | 使用しません | 使用しません | 使用しません | 使用しません |
前置加算器機能のみの場合 | ||||||||
m18×18_full | 18 (符号付き) 18 (符号なし) |
18 (符号付き) 17 (符号なし) |
18 (符号付き) 17 (符号なし) |
18 (符号付き) 18 (符号なし) |
18 (符号付き) 17 (符号なし) |
18 (符号付き) 17 (符号なし) |
使用しません | 使用しません |
m18×18_sumof2 | 18 (符号付き) 18 (符号なし) |
18 (符号付き) 17 (符号なし) |
18 (符号付き) 17 (符号なし) |
18 (符号付き) 18 (符号なし) |
18 (符号付き) 17 (符号なし) |
18 (符号付き) 17 (符号なし) |
使用しません | 使用しません |
m18×18_systolic | 18 (符号付き) 18 (符号なし) |
18 (符号付き) 17 (符号なし) |
18 (符号付き) 17 (符号なし) |
18 (符号付き) 18 (符号なし) |
18 (符号付き) 17 (符号なし) |
18 (符号付き) 17 (符号なし) |
使用しません | 使用しません |
m27×27 | 27 (符号付き) 27 (符号なし) |
26 (符号付き) 26 (符号なし) |
26 (符号付き) 26 (符号なし) |
使用しません | 使用しません | 使用しません | 使用しません | 使用しません |
内部係数のみの場合 | ||||||||
m18×18_full | 使用しません | 19 (符号付き) 18 (符号なし) |
使用しません | 使用しません | 19 (符号付き) 18 (符号なし) |
使用しません | 3 | 3 |
m18×18_sumof2 | 使用しません | 19 (符号付き) 18 (符号なし) |
使用しません | 使用しません | 19 (符号付き) 18 (符号なし) |
使用しません | 3 | 3 |
m18×18_systolic | 使用しません | 19 (符号付き) 18 (符号なし) |
使用しません | 使用しません | 19 (符号付き) 18 (符号なし) |
使用しません | 3 | 3 |
m27×27 | 使用しません | 27 (符号付き) 27 (符号なし) |
使用しません | 使用しません | 使用しません | 使用しません | 3 | 使用しません |
前置加算器および内部係数機能がある場合 | ||||||||
m18×18_full | 使用しません | 18 (符号付き) 17 (符号なし) |
18 (符号付き) 17 (符号なし) |
使用しません | 18 (符号付き) 17 (符号なし) |
18 (符号付き) 17 (符号なし) |
3 | 3 |
m18×18_sumof2 | 使用しません | 18 (符号付き) 17 (符号なし) |
18 (符号付き) 17 (符号なし) |
使用しません | 18 (符号付き) 17 (符号なし) |
18 (符号付き) 17 (符号なし) |
3 | 3 |
m18×18_systolic | 使用しません | 18 (符号付き) 17 (符号なし) |
18 (符号付き) 17 (符号なし) |
使用しません | 18 (符号付き) 17 (符号なし) |
18 (符号付き) 17 (符号なし) |
3 | 3 |
m27×27 | 使用しません | 26 (符号付き) 26 (符号なし) |
26 (符号付き) 26 (符号なし) |
使用しません | 使用しません | 使用しません | 3 | 使用しません |