この方法で行列を量子化するために uencode を使用しています。
quantized = uencode(impact_factor_matrix,5);
ここで、impact_fator_matrix は 512x512 の浮動小数点値のマトリックスで、基本的に 0 から 3 の間です。このマトリックスの小さなフラグメントは次のようになります。
0,0199035905058660 0,0172736449099186 0,0180819705503344
0,0622572806364690 1,13389341902768 1
0,0606586901989121 1,27920429813366 1
したがって、uencodeを使用すると必要なレベルが得られますが、この3x3の例に固有の量子化レベルに値を割り当てるために、この関数でどの範囲が使用されているかわかりません
16 16 16
16 31 31
16 31 31
量子化レベルの割り当てに使用される範囲がわかりません。これはどのように計算されますか。前もって感謝します。