問題タブ [numeric]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票する
2 に答える
5831 参照

scala - Scala-IntからNumeric[Int]への暗黙の変換

数値に変換できるものなら何でもパラメータ化できるクラスを作成しました

次に、コードの他の場所で試してみます。

(驚くべきことに)IntとNumeric [Int]の間、またはIntとIntegral [Int]の間でさえ暗黙の変換がないため、これによりコンパイルエラーが発生します。

私は何かが足りないのですか?私が見ていないところに暗黙の変換がありますか?

Numeric.scalaで定義されたIntIsIntegralと呼ばれる暗黙のオブジェクトがあります。これを使用して、独自の暗黙的な変換メソッドを作成してみました。

これが必要であることに驚いています。とにかく、.fromIntメソッドへの無限再帰につながるようです。

私は基本的なものが欠けていると確信しています(あなたが言うことができるように、私はScalaに不慣れです)ので、正しい方向へのポイントをいただければ幸いです。

例からわかるように、私は任意の数値タイプを受け入れて機能できる複素数の実装を機能させようとしています。これをscalala(線形代数)プロジェクトに貢献したいと思っています。続いて、行列内の要素(主に+演算子と*演算子のみ)の責任と、複素数のサポートを行列操作ライブラリに後付けする特性を紹介します。

0 投票する
1 に答える
43 参照

numeric - ソフトウェアでの数値演算のエミュレート

プログラムで行う数値演算は、特定のデータ型 (またはハードウェアがサポートするもの) に対して言語が指定するバイト数によって制限されます。整数を使用して給料の計算を行うことができるとします (「短い」ものでも、1 年間の収入には十分すぎる!!! ;)) が、ビル ゲイツの富については同じことができません。それで、私たちは長い長いものなどに行きます。しかし、私たちはまだ与えられたビット数に翻弄されていませんか。

では、ソフトウェアで数値演算をエミュレートしたらどうでしょうか。数千桁の数値を抽象化し、数値演算を実行できるクラスを考えてみましょう...もちろん遅すぎますが、複雑さについてはあまり心配していませんが、計算可能性だけを見てください...

多分私はそれを使って PI を 1 ヶ月で 1000 桁の精度で計算するか、数年で Mersenne Primes を計算し、10 万ドルを家に持ち帰ることができます ;)

だから今、私の質問は、1)この種のことを行うためのそのようなライブラリはすでにありますか(C / C ++で)。2) 実装する場合、何か提案はありますか? (+、-、​​、/、%、<<、>> 操作で十分だと思います)


PS:

  1. 私は C/C++ プログラマーです。

  2. そして、この制限は学生時代から私を悩ませ始めました。

0 投票する
2 に答える
1863 参照

string - OWL: プロパティ値を数値文字列に制限する

私のデータベースには、文字列プロパティを持つものがあります。一部のプロパティ値は、数値文字列 (数字のみを含む) と一致します。これらのものに特別なタイプ (サブタイプ) を与えたいと思います。そんなことがOWLで可能なのでしょうか?

0 投票する
2 に答える
507 参照

ios - 精度を損なうことなく`NSDecimalNumber`を`SInt64`に変換します。(SInt64、iOSの範囲内)

現在、[NSDecimalNumber longLongValue]文字列で作成されたものは。を@"9999999999999999"返します10000000000000000

これは、クラスがその値を最初に変換し、 ()doubleに再変換することを意味しますSInt64signed long long

この動作を回避する方法は?の範囲内で正確な整数を取得したいSInt64

PS。またはに変換しNSStringて再変換することを検討しましたが、もっと良い方法があると思います。しかし、他に方法がないと確信している場合は、それを教えてください。SInt64NSScannerstrtoll

0 投票する
2 に答える
470 参照

validation - Rails3.フォームに整数属性の間違った値を残す

モデル' Human 'があり、このモデルには整数属性:ageがあります。
たとえば、この整数属性:ageの検証を使用します。

:ageの値が間違っている新しい' Human 'を追加すると(たとえば、 "2aaa3" )、エラーで返されますが、 "2"のように:ageもカットされます。しかし、私はそれを望んでいません。最後の間違った値「2aaa3」を残したい。

だから、質問は「どうすればいいの?」です。

0 投票する
3 に答える
2959 参照

jquery - jQueryは貼り付け後に数値を検証します

数値のフィールドを検証する方法は知っていますが、フィールドに無効な文字が貼り付けられている場合、フィールドを検証するにはどうすればよいですか。多くの場合、数値フィールドとアクション ボタンがあり、アクション ボタンがクリックされたときに数値フィールドがぼかしイベントを発生させないことがあります。この場合、どのように (再) 検証を強制できますか? アクションボタンのクリックイベントでもう一度行いますか、それとももっと洗練された解決策がありますか?

0 投票する
4 に答える
1575 参照

.net - SQLデータ型数値の利点は何ですか?

SQL数値データ型(numeric(10,2)など)の利点は何ですか。10進数と数値の違いは何ですか?また、数値の.netでの型の一致は何ですか?

0 投票する
2 に答える
2786 参照

python - Python の警告/エラーを numpy と scipy の行番号まで追跡する

エラーが発生しています:

Pythonから、numpy(バージョン1.5.0を使用)によってエラーがスローされると思います。しかし、いくつかの場所で「ログ」関数を呼び出しているため、エラーがどこから発生しているのかわかりません。このエラーを生成した行番号を出力するために numpy を取得する方法はありますか?

警告は、0 以下 (負) に丸めるのに十分小さい数のログを取ることによって引き起こされると思います。そうですか?これらの警告の通常の原因は何ですか?

0 投票する
3 に答える
1197 参照

c++ - numeric_limitsの問題

なぜこれが機能しないのですか?

エラーが発生しました:エラー1エラーC2057:期待される定数式
それについて定数ではないものは何ですか?long intの制限はコンパイル時にわかっているので、何が問題なのでしょうか。

0 投票する
5 に答える
10101 参照

c# - C#で指数定数を指定するには?

指数を定数として定義する C コードがあります。これを C# で記述するにはどうすればよいですか?