単精度

の検索結果 (1,000件 1〜 20 件を表示)

Octaveで単精度で計算するには

…数値解析ソフトOctaveで単精度で数値計算を行うには、どうしたらいいでしょうか。…

解決

Accessクエリの整数型と単精度型の演算について

…Accessのクエリで長整数型と単精度浮動小数点型を 加算すると答えが一致しません。 理由を知っている人いますか? ちなみに長整数型と倍精度浮動小数点型を加算したときは答えが一致しま...…

締切

単精度計算と倍精度計算

…F(x)=(1-x・x) 1/2乗において、xの値を0.9、0.99、…0.99999と変化させた場合の単精度計算と倍精度計算の結果を求めるプログラムを教えてください。…

解決

FFTの単精度と倍精度の計算時間

…FFTのプログラミングで計算時間を短縮するため、三角関数の計算にチェビシェフの三項漸化式を用いたところ、計算時間はかなり短縮されました。 ただ精度が心配なので、組み込み関数の三...…

解決

VB2005で単精度実数を変換するには?

…VB2005で単精度実数を変換するには? 三菱のシーケンサとパソコンをEther通信させてパソコンでPLCデバイスを読み取り表示するアプリを VB2005で作成中です。 今、行き詰っているのが2WORD(単精...…

解決

単精度と倍精度

…「10進表示で0.3をIEEE745規格の 単精度(32ビット)と倍精度(64ビット)で表示しなさい。 ただし、表示数値<0.3となるように。」 という問題が課題が与えられたのですが、わかりますでしょう...…

解決

単精度計算を必要とする分野、またアプリケーション(自由意見求む)

…はじめまして。 私は計算機科学専門の学生です。 単精度計算を得意とするハードウェア(GPU)を用いて修士論文を書こうとしています。 というものの、守備範囲が非常に広く、なかなか論文...…

解決

単精度実数の範囲を求める方法を教えて下さい

…ご教授願います。 単精度実数では1ビットの符号部、7ビットの指数部、24ビットの仮数部で表し、-3.40282×10^38〜3.40282×10^38の範囲を表すとあります。 この、-3.40282×10^38〜3.40282×10^38はどのよ...…

解決

-5.75をIEEE754単精度実数表現

…-5.75(10進数)をIEEE754単精度実数表現する問題なんですが、 ・負だから符号ビット(1)…(1) ・5.75=(101.11000…) →1.0111000…×2^2 ・2=b-127 , b=129=(10000001)…(2) ・5.75を2bitで表したやつの小数点以下(0111...…

解決

OleDbDataReaderで単精度浮動小数点項目の取得について

…VB.netと(Access OfficeXP版) MDBでプログラミングしています。 DBアタッチは、OleDb関連でやっています。 今、データベース内の単精度浮動小数点の項目(小数点以下2桁設定)が正確に取得できず悩...…

解決

フォートランの変数型と組み込み関数について

…倍精度複素数型の変数を定義しました.それにexpを作用させる組み込み関数cexpを作用させたら,cexpは単精度複素数型のみに対応しているようです. 倍精度複素数型でも対応できるexpの関数がな...…

解決

Accessのフィールドサイズに関する素朴な質問です。

…Accessのテーブルで、フィールドサイズに[単精度浮動少数型]を設定して、そのフィールドを使って、クエリで演算フィールドを作成します。 単純な引き算でも、びっくりするくらい小数点以...…

解決

VBAのdoubleについて

…ExcelのVBAで使用する、ユーザー定義関数について知りたい。 数学的知識が乏しいので、初心者にもわかる説明をいただけるとありがたいです。(単精度と倍精度の違いもよくわかりません)…

解決

EXCEL16進⇒浮動小数変換したい

…EXCELで8桁の16進文字列を単精度浮動小数点数に変換する方法を教えてください。…

締切

vbについてです。

…Visual Basic 2008での質問です。 単精度実数0.1を小数点以下18桁の表示の仕方を教えてください。 お願いします。…

締切

テーブルに小数点以下の値を入れたい場合

…アクセスのテーブルに0.001と入力したい場合、 データ型を数値型にし、 フィールドサイズは 単精度浮動小数点型と倍精度浮動小数点型では どちらを選べばいいのでしょうか? どちらも小...…

解決

浮動小数点数型

単精度浮動小数点型と倍精度浮動小数点数型、それぞれ値がとりうる範囲を教えてください。 単精度浮動小数点型 負の値は -3.4028235E+38 〜 -1.401298E-45、 正の値は 1.401298E-45 〜 3.4028235E+38 ...…

解決

浮動小数点の変換手順

単精度の浮動小数点の演算で、符号無しの2進数に変換した後、バイアスとして127を加えて嵩上げする理由は何でしょうか?…

解決

ACCESS データ型の一括変更

…ACCESSのデータ型の変更について質問です。 よそからいただいているACCESSファイルがあるのですが、データがテキスト型で入っていまして、数値型(単精度浮動小数点型)に変更し、IIF関数でチ...…

締切

情報系の問題を解いていただきたいです。

…情報系の問題を解いていただきたいです。 「IEEE754形式、単精度実数」で表現できる正数と負数のそれぞれの最大値と最小値を求めよ。 途中式もなるべく詳しくお願いします。 よろしくお...…

締切

検索で見つからないときは質問してみよう!

Q質問する(無料)

Q&A検索履歴