問題タブ [floating-point-conversion]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
4 に答える
4439 参照

c - Cでの浮動小数点の不正使用

変数が空かnullかをチェックする行で文字が不正に使用され続けました。

なぜこれが起こったのか誰かが知っていますか?

ここでのエラーポイント:

何がこのエラーを引き起こしているのかわからない前に動作しましたが。

編集:

コードを変更しました。エラーは関数sinfaのパラメーターが少なすぎます。

この関数に一度に1つのパラメーターのみを渡したいのですが、それを行うために別の関数を作成して、個別に対応できるようにする必要がありますか?

ありがとうございました。:)

0 投票する
2 に答える
16644 参照

c - Cでコンマを使用してフロートを印刷する

重複の可能性:
1000000を1,000,000として出力します。

xxxxxxxx.xx(例:11526.99)の形式のfloat変数があります。カンマ付きで11,562.99と印刷したいのですが。Cにカンマを挿入するにはどうすればよいですか?

0 投票する
2 に答える
2043 参照

c - Turbo C の scanf() と浮動小数点数

次のような構造を作成しました。

そして次のように関数を作成しました:

main から次のように関数を呼び出しました。

scanfに達すると実行が停止します。float を int に置き換えれば、問題は解決します。この振る舞いは何ですか?私の問題に float を使用する方法はありますか?

プログラムは、MS-WINDOWS XP の Turbo C でコンパイルされました。

0 投票する
1 に答える
411 参照

python - floatをdecimalに置き換えると、エラーが発生します

プログラムは、連続反応A-> B->C->..における試薬の濃度を時間で表す方程式を解釈します。

http://en.wikipedia.org/wiki/Rate_equation#Consecutive_reactions

アルゴリズムは私自身が考案したものであり、濃度関数を取得するために微分方程式を解く必要性を完全に無視することができます。これらの方程式を綿密に調べると現れるパターンを利用します。

動作するコードは浮動小数点数を使用しますが、欠点があります。任意の2つの与えられたn値の速度定数k_nの値が類似している場合、浮動小数点数の不正確さが始まり、結果はエラー増幅の海に溺れます。

グラフ

float()をdecimal()に置き換えるとこの問題が解決するはずだと思いましたが、残念なことに、この変更により予期しないエラーが発生しました。

float()をdecimal()に置き換えた後:

そして、NumPy exp()を同等の10進数に置き換えたときのこのエラー:

Googleまたはdecimalモジュールの公式ドキュメントを使用して何も見つかりませんでした。

参考のために、手付かずのコードを次に示します。

http://pastebin.com/mfuwVq7B

そして、これを変更する私の試みは次のとおりです。

http://pastebin.com/xde4gvHu

これは私が見ることができない非常に基本的なものかもしれません。私は化学部の学生であり、プログラミングに関しては初心者です(以前の経歴はありません)。どうもありがとうございます。

0 投票する
2 に答える
40321 参照

c - パディング付きのprintf形式のfloat

次のテストコードは、幅パラメーターを使用したにもかかわらず、望ましくない出力を生成します。

出力


このような出力を実現するには、どのフォーマット文字列を使用しますか?

0 投票する
1 に答える
11823 参照

c - cを使用してfloatするsscanf

だから私は複数の文字列を持つファイルを持っています。fgets各行を読み取りsscanf、文字列を分割して構造体に処理するために使用することになっています。これが例です。

1 番目は ID、2 番目は名前、最後は gpa です。sscanf を使用して gpa を読み取ろうとすると、2.8 ではなく 0.0 と表示されます。これが私のコードです。

誰かが私が間違っていることと、この問題を解決する方法を説明できますか?

0 投票する
5 に答える
1217 参照

c - フロート値条件

私は次のコードを作成し、奇妙な出力を得ました。誰かがそれがどのように機能するか説明できますか?

そして、私が得た出力は驚くほどです

前もって感謝します

0 投票する
3 に答える
9323 参照

c - 2 進浮動小数点 "1101.11" を 10 進数 (13.75) に変換する正しいアルゴリズムは?

2 進数 ( )で表される1101.11浮動小数点数を10 進数 ( )に変換するプログラムを C で作成しました13.75

ただし、アルゴリズムから正しい値を取得できないようです。

2 進浮動小数点数を 10 進数に変換する正しい方法は何ですか?

Dev CPP コンパイラ (32 ビット) を使用しています。アルゴリズムは次のように定義されています。

0 投票する
3 に答える
28747 参照

python - 科学表記法を10進数に変換する - python

科学表記法を浮動小数点数に変換するにはどうすればよいですか? これが私が避けたいものの例です: