＞XDNA 2はBlock FP16という、FP16の正確性とINT8での処理能力を両立できる新しい浮動小数点の精度に対応している。Block FP16は、符号(Sign)、指数(Exponent)、仮数(Mantissa)の3つで表現される浮動小数点のうち、指数を共通指数という固定した指数にして8bitの要素にしてそのデータを最初に処理し、その後符号+仮数で8bitの要素8つと合わせて合計で72bitのデータにして処理していく。
8つのデータで指数部を共用か!ソフトウェアを組む側で8つのデータのダイナミックレンジを正解に見積もってないと仮数部ゼロに丸められちゃって予想外の結果になるな。int8よりは良いけど
もっと詳しく