単精度 の検索結果 (1,000件 1〜 10 件を表示)

Octaveで単精度で計算するには

…数値解析ソフトOctaveで単精度で数値計算を行うには、どうしたらいいでしょうか。…

解決

Accessクエリの整数型と単精度型の演算について

…Accessのクエリで長整数型と単精度浮動小数点型を 加算すると答えが一致しません。 理由を知っている人いますか? ちなみに長整数型と倍精度浮動小数点型を加算したときは答えが一致しま...…

締切

単精度計算と倍精度計算

…F(x)=(1-x・x) 1/2乗において、xの値を0.9、0.99、…0.99999と変化させた場合の単精度計算と倍精度計算の結果を求めるプログラムを教えてください。…

解決

FFTの単精度と倍精度の計算時間

…FFTのプログラミングで計算時間を短縮するため、三角関数の計算にチェビシェフの三項漸化式を用いたところ、計算時間はかなり短縮されました。 ただ精度が心配なので、組み込み関数の三...…

解決

VB2005で単精度実数を変換するには?

…VB2005で単精度実数を変換するには? 三菱のシーケンサとパソコンをEther通信させてパソコンでPLCデバイスを読み取り表示するアプリを VB2005で作成中です。 今、行き詰っているのが2WORD(単精...…

解決

単精度と倍精度

…「10進表示で0.3をIEEE745規格の 単精度(32ビット)と倍精度(64ビット)で表示しなさい。 ただし、表示数値<0.3となるように。」 という問題が課題が与えられたのですが、わかりますでしょう...…

解決

単精度計算を必要とする分野、またアプリケーション(自由意見求む)

…はじめまして。 私は計算機科学専門の学生です。 単精度計算を得意とするハードウェア(GPU)を用いて修士論文を書こうとしています。 というものの、守備範囲が非常に広く、なかなか論文...…

解決

単精度実数の範囲を求める方法を教えて下さい

…ご教授願います。 単精度実数では1ビットの符号部、7ビットの指数部、24ビットの仮数部で表し、-3.40282×10^38〜3.40282×10^38の範囲を表すとあります。 この、-3.40282×10^38〜3.40282×10^38はどのよ...…

解決

-5.75をIEEE754単精度実数表現

…-5.75(10進数)をIEEE754単精度実数表現する問題なんですが、 ・負だから符号ビット(1)…(1) ・5.75=(101.11000…) →1.0111000…×2^2 ・2=b-127 , b=129=(10000001)…(2) ・5.75を2bitで表したやつの小数点以下(0111...…

解決

OleDbDataReaderで単精度浮動小数点項目の取得について

…VB.netと(Access OfficeXP版) MDBでプログラミングしています。 DBアタッチは、OleDb関連でやっています。 今、データベース内の単精度浮動小数点の項目(小数点以下2桁設定)が正確に取得できず悩...…

解決

検索で見つからないときは質問してみよう!

Q質問する(無料)

おすすめ情報

Q&A検索履歴

カテゴリ