No.1ベストアンサー
- 回答日時:
>これは計算の桁が大きすぎるためなのでしょうか。
そんなところです。
例えば、
a=1E1000 # 10の1000乗
とすると、
warning: Float 1e1000 out of range
という警告が出て、a の値は Infinity (無限大) になります。
>ルビーは計算の桁がメモリーの許す限り無限と聞いたのですが。
違います。きっと、聞き間違い、読み間違いですね。
整数の計算はメモリーの許す限り無限桁です。
通常の浮動小数点数の値は普通の他の言語と同じ。
BigDecimalライブラリを使うと、任意の桁数で浮動小数点数計算できます。
No.2
- 回答日時:
http://oshiete1.goo.ne.jp/qa5646276.html
>rubyの整数
です。Floatは無限ではないです。
コンビネーションの計算ということだったので、整数演算のみが必要なので、紹介いたしました。
なにやら、確率計算をしているようですが
nCm * (p^m) * ((p-1)^(n-m))
みたいな計算を、この式通りに計算しようとしてませんか?
コンピュータで計算するときは、公式のまま計算するのではなく、式を変形して、コンピュータが計算しやすいようにすることも大切です。
参考URL:http://www.ruby-lang.org/ja/man/html/Rational.html
>rubyの整数
です。Floatは無限ではないです。
コンビネーションの計算ということだったので、整数演算のみが必要なので、紹介いたしました。
なにやら、確率計算をしているようですが
nCm * (p^m) * ((p-1)^(n-m))
みたいな計算を、この式通りに計算しようとしてませんか?
コンピュータで計算するときは、公式のまま計算するのではなく、式を変形して、コンピュータが計算しやすいようにすることも大切です。
参考URL:http://www.ruby-lang.org/ja/man/html/Rational.html
お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!
似たような質問が見つかりました
- 工学 Pythonの3Dグラフ表示に関する質問です。 1 2022/12/06 15:03
- Ruby パイソンエラーについて 1 2022/12/24 14:07
- C言語・C++・C# C言語: ポインタ 5 2022/06/01 08:33
- その他(プログラミング・Web制作) pythonのエラーについて 2 2022/08/17 17:17
- C言語・C++・C# キャスト演算について。 1 2023/07/15 15:28
- 高校 有効数字計算 確定した値を含む 2 2023/01/18 06:03
- 英語 文の構造をご教示ください 2 2023/01/01 18:03
- Google+ 5+9+24+32+128=? 各数字が2秒ほど表示されます。暗算できますか? 1 2023/02/05 20:16
- 英語 Left wholly out of consideration is the realm of i 2 2022/04/24 16:05
- PDF C#でfloatを整数部、小数部とも桁数固定で文字表示したい 2 2022/07/28 09:37
関連するカテゴリからQ&Aを探す
デイリーランキングこのカテゴリの人気デイリーQ&Aランキング
-
1、Rstudioで回帰直線を求める...
-
ビーリアルのユーザー名を変え...
-
C言語の入力した文字を反転させ...
-
ぱいソン
-
英数字を含む文字列(0-9,A-Z)...
-
プログラミング
-
pandasでsqlite3にテーブル作成...
-
Beautiful Soupのインストール...
-
pythonのerrorコード
-
VBScriptでExcel(2019)上のデー...
-
情報の表現。()内がどうしても...
-
三項でたとえば交換って
-
WinSCPで画像のように puttyを...
-
パソコンのスクリーンセーバー...
-
こういう問題分をよんだとき
-
バーチャルボックスが使えなく...
-
なんで if __name__ == "__main__"
-
GitHubは初年度以外は有料にな...
-
クリスタルレポートで困ってい...
-
パイソンのクラスについて
マンスリーランキングこのカテゴリの人気マンスリーQ&Aランキング
-
ruby の Σ計算
-
バーコードのチェックデジット...
-
rubyのエラー out of float ra...
-
Ruby / passenger のインストー...
-
システムエンジニアの適正について
-
小文字wと大文字Wの区別
-
初心者 パイソンプログラム
-
プログラミング講師はまだ需要...
-
VB.NETで階乗を求めるプログラ...
-
web上のhtmlファイルから文字デ...
-
RubyでNo such file or directo...
-
プログラミング言語で大文字と...
-
Rubyの.soについて
-
九九の表示
-
CかC++どちらを覚えるべきですか?
-
Rubyのpopen3について
-
We're sorry, but something we...
-
ruby.exeとrubyw.exeに違いがあ..
-
WinXP+Apache2にerubyを入れま...
-
大学生のプログラミングバイト...
おすすめ情報