ウォッチ
32bit float
の検索結果 (62件 1〜 20 件を表示)
floatの有効桁数
…floatの有効桁数を調べていると(インターネット)、6桁や7桁というように、サイトによって異なっていました。 私はc言語でfloatが32bitの時を知りたいのですが、どのサイトが本当なのかなどが...…
小数点入りの文字列をfloat型に変換
…例えば、 32.1 のように4文字の文字列が、あるchar型配列に入っている場合、この値を使って計算したいので、float型などに変換したいのですが、どんな方法がありますか？…
floatで保存したRAWファイルをImageMagickでconvertしたい
…0.0～255.0の輝度値で32ビットfloat型で保存したRAWファイルfloat.raw(256x4608)をImageMagickでconvertしてtifまたはgifファイルに変換したいのですが、うまくいきません。 convert -depth 32 -size 256x4608 gray:flo...…
double型からfloat型への型変換について
…double型で-999.999という数字をfloat型へキャストして 少数以下6桁をprintf文で表示すると、それぞれ以下の様になりました。 double -999.999000 float -999.999023 これは、単純にfloatの精度の問題...…
float型とdouble型の変数の違いを教えてほしいです
…float型とdouble型の変数の違いを教えてほしいです 2Dゲームを作っててdoubleの変数を使ってたんですが使ってはだめだと先輩に言われたんです。 理由を聞いたら、先生が「doubleは使わないほう...…
24bit サイズの変数
…すみません教えていただけますか？ c 言語（winではありません）で24bit サイズの変数を 使用したいのですがvoid*しかおもいつきません 24bit float を使用できますか？ よろしくお願いしま...…
audacityでの24bit/96kHzでの書き出し
…レコードをDigital Music SX でデジタル化し、パソコンには、24bit/96kHzで保存しておきたいと思っています。audacityでは、24bit/96kHzでの保存は出来ないのでしょうか。設定の非圧縮書き出しフォー...…
float型の精度（有効桁と実数）について
…float型を使った演算の結果で０．００２４５６８という８桁の結果でてきました。 IEEE754の規格により、float型は６～７桁とあるのにナゼ８桁が出てきたのか解りません。 ここで言ってる７...…
css floatでdivがずれる
…divを使ってレイアウトを組んでいて、最初はなんの問題もなく、綺麗に左と右に分かれていました。 しかし、いつの間にかずれていて、なんとか戻そうといろいろいじっていたら、たまに...…
10次の多項式を求めるプログラムについて
…ARMコア(32bit)を使ったCPUで多項式を求める演算をさせています(C)。 Y軸0-4095、X軸0-4095の範囲にプロットされる点が（整数値）11点で、非線形の点の集りです。多項式近似を使ってこの式を求...…
浮動小数点の比較について
…たとえば、以下のコードで、「違う」と表示されるように、浮動小数点の比較に失敗します。 #include int main() { float f = 0.1; if (f == 0.1) { std::cout …
c言語プログラミングで1から100までの数字の合計ちと平均値を求めるプログラムを作成をできる...
…c言語プログラミングで1から100までの数字の合計ちと平均値を求めるプログラムを作成をできるかたお願いします ２つの値をfloat型でお願いします…
【Excel VBA】10進数を2進数に直したい
…ExcelのVBAで単精度浮動点小数(以下、小数)を16進数に直すためにコードを書いています。 頭の中では、小数→整数部分と小数点以下に分解→2進数→16進数に変換処理という流れはできていま...…
DirectX ～テクスチャに値を書き込む～
…m_pDevice->CreateTexture( 128, 128, 1, 0, D3DFMT_A32B32G32R32F, D3DPOOL_MANAGED, &pTex, NULL ); で生成したテクスチャに浮動小数点の値を 自分で書き込みたいのですが、うまくいきません。 ...…
Audacityでファイルサイズを小さくしたい
…Audacity 2.0.0 での録音が今日で3回目の初心者です。 次の設定でマイク録音して .mp3 形式で書き出しました。 サンプリング周波数 44100Hz サンプル形式 32-bit float 入力チャンネル 1（モノラ...…
ビットパーフェクトとは…？
…この言葉の意味を知りたいと思っています。 32bit、192kHzにアップサンプリングされる、ということではないようですね。 ビットパーフェクトとはどういうことなのでしょうか？ （WASAPI排他...…
2の補数の計算について
…C言語のプログラム中で得られた10進数の値を，固定長16ビットの2進数に変換したいと考えています． しかしながら，得られた10進数の値が負数であった場合，それを負数と判断し，2の補数...…
要素数・要素の値が未定の配列の宣言について（Ｃ言語）
…要素数・要素の値が未定の配列の宣言について（Ｃ言語） タイトルの通りプログラムの内容上、要素の数とその数値がプログラムの途中で算出されるため 最初の宣言の段階では両方ともそ...…
組み込みCプログラムで実数型
…8～16bit、32bitのマイコンでCの組み込みプログラムを仕事で作りはじめました。 その中で、floatやdoubleといった実数型は使わないようにと教わりました。コードサイズが大きくなること、処理...…
背景差分法における正規化距離
…よろしくお願いします。 現在、人の検出を勉強しており、 背景差分法で静止画、グレースケールから抜き出そうと頑張っています。 しかし、やはり照明や影の影響が大きいです。 そこ...…
検索で見つからないときは質問してみよう！
質問する（無料）
