問題タブ [precision]

HLSL を使用して GPU にアルゴリズムを実装することに興味がありますが、主な懸念事項の 1 つは、可変レベルの精度が必要なことです。GPU に実装できる 64 ビット以上の精度をエミュレートする手法はありますか。

ありがとう！

MS SQL Server 2008 BULK INSERT を datetime 列に実行すると、秒部分の小数点第 3 位にエラーが発生します。データベース。

入力テキスト ファイルの内容は次のとおりです。

BULK INSERT 後のテーブルは次のようになります。

コードは次のとおりです。

次の C コードを検討してください。

194 ( ) が正しく出力され0xc2ます。同じことを に書くとwcalc、結果は 195、つまり0xc3. これはある種の精度エラーですか？これは予想される動作ですか？floorおよびceiling関数は機能しません...または、より具体的にfloorは、0xa3では機能しますが、たとえば、では機能しません0xa1。

どんな助けでも感謝します。ありがとう。

eの値を任意の精度で概算したいと思います。これを行うための最良の方法は何ですか？私が得ることができた最も多くはe=2.7182818284590455です。次のコードの変更に関する例をいただければ幸いです。

99% を超えない限り、小数点以下 3 桁までパーセンテージを表示したいと考えています。次に、使用可能なすべての 9 と 9 以外の 3 文字を含む数字を表示したいと思います。

これをPythonで書くにはどうすればよいですか？文字列の"%.8f"書式設定は適切に機能しますが、最後の 9 の文字列の後の最後の 3 文字を保持する必要があります。

つまり:
54.8213% -> 54.821%
95.42332% -> 95.423%
99.9932983% -> 99.99330%
99.99999999992318 -> 99.9999999999232%

次のコードが生成されると思っていました: " Both are equal" ですが、" Both are NOT equal" になりました:

これの理由は何ですか？

System.TimersのTimerクラスの精度は2倍であるため、疑問に思っています（これは、ミリ秒の何分の1かを指定できることを示しているようです）。それは何ですか？

日時を定義するために、予想外に複雑なプロセスを実行しました。

基になるデータの精度はミリ秒よりも優れています。

最終的に、最も近い秒に中間の日時を作成し、その値をティック（10000からミリ秒）で読み取り、ティックを調整してから、実際に必要な日時を作成しました。

私は、秒をdoubleとして取り、文字列の日付/時刻形式指定子をとるコンストラクターを期待していました。どちらも存在しないようです。

誰かが良い代替アプローチを手に入れましたか？

次のコードスニペットを使用します。

Haskell '98標準プレリュードを使用して、結果を小数点以下2桁で表すにはどうすればよいですか？

ありがとう。