［浮動小数点実数］についての検索結果(約2329件中 201〜220件を表示)

コンピューターは指数関数をどのように解いている？

…昔、CPUが行う計算について習ったとき、確か、足し算しかできなかった記憶があります（間違っていたらすみません）。指数関数EXP(x)などの複雑な（？）数式を計算するとき、CPUはどのよ...…

…EXCELで例えば、A1セルに7320000　B1セルに156　C1セルに26と入力してA1/B2*C1とすると電卓では、121.9999と続きますが、EXCEL計算では122.0000と勝手に四捨五入されてしまいます。四捨五入されず、実際...…

…関数電卓にDEGやHYPやF-Eが表示されていますが、この意味と使い方がわかりません。…

…平面のときはtは媒介変数と書いてあったのですが、実数でいいのですか？…

…R\{0} って、0を除く実数って意味で合ってますか？…

…エクセルのMATCH関数についての質問ですが、どうしてもエラーが表示され悩んでいます。どうか教えていただければと思います。たとえば下記のような場合なぜかエラーが発生してしまいま...…

…自然数　整数　有理数　実数加法　乗法　減法　除法をペアノの公理から定義していくとき、どの順番が綺麗にできると思いますか？自然数　加法　整数　乗法　有理数　有理数の加法　...…

…Microsoft Excel や MATLABを使って数値計算をしているのですが、数値が非常に小さくなる時に、Eの入った形で表示されるのですが、これは大体いくつくらいを意味しているのでしょうか。下にEx...…

…お世話になります。 Btrieve から MS SQL Server 2008へデータの移行を行いたいと考えています。現在、手元に xxxxxx.btr というファイル名のBtrieveのテーブルデータ（？）があります。 NetWere上（？...…

…商品の平均単価が小数点（100．3円など）になり売上があった際、売上額が小数点を含んだ数字になった時は扱いはどうするのでしょうか？四捨五入すればよいのでしょうか？それだ...…

…次の条件を満たす実数kの値の範囲を求めよ。（1）全ての実数xに対して不等式 kx²－kx＋2＞0 が成り立つ。（2）ある実数xに対して不等式 x²－2x＋9＜kxが成り立つ。この...…

…過去質『すべての自然数とすべての実数を1対1に対応させる方法：ファイナル』 https://oshiete.goo.ne.jp/qa/13655137.html で、「『とは言えない』というような曖昧な言い方しかできないが、いずれ...…

…画像の通り、数値の表で右にスペースが空くセルがあります。インデント設定や文字そろえの設定を確認しますが、原因ではなさそうです。表示形式は数値、小数点以下2桁まで表示させ...…

…経験者の方にお尋ねします。切り捨て計算をしたいので、fix関数を使っていたのですが、先輩から、fix関数やint関数はよく計算間違いを起こすので、使用禁止と言われました。代わりに...…

…Excelで小数点以下の桁数を合わす機能は知っているのですが、データの有効数字の合わせ方がわかりません。ヘルプで調べても出てこなかったのでお手上げです。どなたかご存知のかたは教...…

…たとえば１０００円（税抜）の商品は税込で１０５０円となります。ここから５％割引をする時に、電卓で計算すると１０５０×５％－＝９９７．５というように小数点以下がでてきます...…

…エクセルの計算式で困ってます。 =IF(K25"",(5-K25+$C26)/5*100,"") という計算式があって C26には「-0.005」が入ります。「5-K25」という式の答えからマイナス0.05を引きたいのですが苦し紛れに...…

…０，３６５の小数点第3位を四捨五入すると、０．３７かとおもったんですけど、解答では０，３７４でした。。。。普通０，３７ではなかったでしたっけ？？？初歩的な質問で申し訳...…

…　A列　　　　B列計　　　　　1,702,481 調整金　　　 -12481　←セルに直接-12481を入力計　　　　　1,690,000　←オートSUMで計～調整金を計算工事金額 1,690,000　←上記「計」を参照消費税　...…

…エクセルで1.001の小数点1位を切り上げる式として以下のようなものを入れたのですが、2になってしまいます・・・。小数点1の位を切り上げるんだから1ではないかと思うのですがいかがな...…