1) 私が知っているように、コンピューターは10 進数を2進数に変換して処理します。たとえば、コンピューターの電卓で「12」や「37」などの10 進数を足す場合。それが正しいか？
2) 最初の質問が正しい場合、以下のバイナリ式は CPU によって単精度でどのように解釈されますか? (結果はどのように表示されるのか? コンピューターは、浮動小数点数に変換されたこの式を 10 進数に変換する方法と、浮動小数点数に変換されたこの式を10 進数に戻すにはどうすればよいでしょうか?)
0 ll 01111110 ll 01100110011001100110100
つまり、次の式で結果が単精度で 0.70000005 であることをどのように知ったかを意味します:浮動小数点演算
3) 私が知っているように、コンピューターの電卓で 0.1 と 0.6 を10 進数で加算すると、コンピューターは私が共有したビデオと同じトランザクションを実行します。ただし、電卓は .0000005バイナリ セクションを非表示にし (ビデオの結果のように)、結果として10 進数の「0.7」を表示しますが、そのセクションを非表示または削除する方法は? 四捨五入して 0.71 のような数値が表示されなかったのはなぜですか。
0 ll 01111110 ll 01100110011001100110100浮動小数点数?