問題タブ [floating-point-conversion]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
6 に答える
20926 参照

python - ユーザー入力が float かどうかを確認する方法

私は Learn Python the Hard Way の演習 35 を行っています。以下は元のコードで、0 と 1 だけを含まない数字を受け入れるように変更するよう求められています。

これは私のソリューションであり、正常に動作し、浮動小数点値を認識します。

同様の質問を検索すると、次のコードに示す別のソリューションを作成するのに役立ついくつかの回答が見つかりました。問題は、 isdigit() を使用すると、ユーザーが float 値を入力できないことです。したがって、ユーザーが 50.5% を受け取りたいと言った場合、数字の入力方法を学ぶように指示されます。それ以外の場合は整数に対して機能します。どうすればこれを回避できますか?

0 投票する
1 に答える
59 参照

floating-point-conversion - float を使わずに浮動小数点演算を行う方法

私たちのプロセッサでは、float は許可されていません (u32 または int データ型は許可されています)。実装には浮動小数点の加算が必要ですが、float を使用せずに 2 つの実数の加算を行うにはどうすればよいですか?

0 投票する
4 に答える
31689 参照

python - Python でフロートのリストを文字列に変換する

Python でフロートのリストがあり、それを文字列に変換すると、次のようになります。

これらのフロートは、私が作成したときの小数点以下が 2 桁でした (私はそう信じています)。

それから私は使用しました

小数点以下 2 桁の文字列を取得するにはどうすればよいですか?

======================

より具体的に言えば、最終結果を文字列にして、区切り記号を保持したいのです。

その後、いくつかの文字列操作を行う必要があります。たとえば+="!\t!"

@senshinに触発されて、たとえば次のコードが機能しますが、もっと良い方法があると思います

0 投票する
1 に答える
87 参照

c# - VS2012 を使用した C# での不正な float 変換

ここで C# を使用すると、非常に奇妙な動作が発生します。

私も試してみました

なぜそれが起こるのですか?

0 投票する
2 に答える
1220 参照

python - value != float または value != int は機能しません

ユーザーが入力した値を加算、減算、乗算、除算、平方根の 5 つのプロセスを実行できる電卓を作成しようとしています。私がやったすべてのことですが、値を!= floatとintにしようとすると、入力値がfloatとintの場合にエラーが発生します... value == strを試した後、エラーが発生しました。しかし、それでもうまくいきません...誰か助けてください。

例えば

上記の2つの両方を試しましたが、うまくいかないようです。プログラムのように、float、int、および string の間を読み取ることができません。

入力したら

結果はエラーを言います.....

'print type(value[0], [1]) を持っている理由は、発生し続けるエラーのタイプを確認するためです。`

`

0 投票する
2 に答える
23001 参照

ruby-on-rails - postgres の列の型を文字列から浮動小数点数に変換する方法

私は基本的な postgres db を備えた Rails アプリを持っていますが、列の一部が文字列であり、それらが float であることが最善であることに気付きました。緯度と経度の列を varchar から浮動小数点に変換しようとしています。

この投稿Rails - gmaps4rails gem on postgresを試しましたが、このエラーが発生し続けましたERROR: invalid input syntax for type double precision: ""。私は他のことを試してみたいと思っています.postgresクエリでそれを行う方法の解決策を見てきましたが、それらを実装する方法がわかりません. これは簡単な問題です。「-73.88537758790638」 -73.88537758790638になりたい。実用的な解決策や、実装方法を理解している解決策が見つからないようです。

0 投票する
2 に答える
1907 参照

opengl - Haskell で double を GLfloat に変換する

Double を GLfloat に変換したい。比較に使いたい。

モブは方法でいっぱいです。

コンパイルしようとすると、次のエラーが表示されます。

「タイプ 'Foreign.C.Types.CDouble' と 'Foreign.C.Types.CFloat' を一致させることができませんでした 予期されるタイプ:GLfloat

実際の型: GLdouble

- - -解決: - - -

私はこのコードを使用します: