［単精度］についての検索結果(約41件中 21〜40件を表示)

Vba 実数および実数タイプの変数について教えてください

…いつもお世話になりますすみません、昔のプログラムの改良を頼まれたのですが実数表記と変数表記について、確認の為に教えてくださいまずは実数表記ですが通常、プログラムス...…

FLOPSとGHzの違いについて

…以前UDがん研究プロジェクトに参加しておりました。賛同者の方で、みなさんにこのプロジェクトをもっと知ってもらいたいと、動画を作りになられた方もいます。しかし、私がみた動...…

エクセルVBA データ型 SingleとDouble

…SingleとDoubleともに、整数部分の範囲についてはどのように考えればよいのでしょうか？例えば、小数点以下4桁までを正確に計算できれば良く、変数の値が　54321.****　となる場合は Single...…

２進数のバイアス表現について

…浮動小数の計算でバイアス表現ってのがありますが、これってなんなんですか？いろんなサイトを見て回ったのですが理解できませんでした。負の表現をなくすらしいですが、バイアスは...…

2011/06/25 21:52
数学
回答数(5)

2D機械図面を描くためにAutocadとJw_ｃadのどちらにするか迷っています。

…２Dの機械図面を描くことになり、AutocadかJw_ｃadの使用を検討中です。当方、CADに関しては全くの初心者です。お金については気にせず、性能、使いやすさ、JPEGへの変換方法(最終的に図...…

2007/02/15 22:26
CAD・DTP
回答数(6)

floatの有効桁数

…floatの有効桁数を調べていると(インターネット)、6桁や7桁というように、サイトによって異なっていました。私はc言語でfloatが32bitの時を知りたいのですが、どのサイトが本当なのかなどが...…

2009/12/18 20:59
C言語・C++・C#
回答数(4)

datファイルの読み込み

…初歩的な質問ですみません。今、819200行のファイルをfscanfで読み込んで配列に格納しているのですが、実行してみるとBus errorが出力されてしまい、うまく格納できません。どなたか至急教え...…

2010/11/24 01:47
C言語・C++・C#
回答数(3)

Ａｃｃｅｓｓの桁区切りについて教えてください。

…アクセスのレポートの金額に、桁区切りのカンマを付けたいと思っています。プロパティの書式を通貨にすると￥マークがついてしまいます。合計は付いてもいいのですが、内訳には￥マ...…

３次元座標上の２直線の交点判定について

…座標A(x1,y1,z1)から座標B(x2,y2,z2)への線分ABと座標C(x3,y3,z3)から座標B(x4,y4,z4)への線分CDがあり、線分ABと線分CDが交点を持つかどうかのプログラムを作りたいです。 C言語かVBかFortranで記述され...…

ExcelでPC（パソコン）によって計算結果（演算結果）が違う

…Excel2003　SP2　を使用しています。類似の質問は見つけられませんでした。以下のような表の中で、※☆の部分は配列数式を用いているのですが、上司のPC（甲と呼びます）と私のPC（乙と...…

JW ＣＡＤと Auto CAD の違いについて

…ＪＷはそこそこ扱えるのですが、ＪＷではＣＡＤを扱えるとは言えないような気がしています。そこで、Auto CAD を勉強しようと思っているのですが、ＪＷとAutoはどのような違いがあるので...…

PS4のGPU性能はMacのGT650Mの何倍？

…今の一般的なノートパソコンのグラフィックスIntel HD 4000は7600GT相当でこれはPS3と同等性能らしいですが、今、8万程度で売られてるゲーム用ノートに搭載されてるGT650MってPS4の７８５０の何...…

C言語で-23乗を取り扱うには

…C言語でボルツマン定数 1.38*10^(-23) を取り扱いたいと思っています。 k = 1.38/pow(10, 23); あるいは k = 1.38/100000000000000000000000; としても、コンパイルはできますが実行したときに『1.#INF00』と...…

2010/11/18 22:25
C言語・C++・C#
回答数(8)

16進数どうしの乗算

…Excel2003で、16進どうしの乗算をしたいです。もちろん関数は知っています(Sheet,VBA共に)。しかしデータが掛ける数掛けられる数どちらも64bitあるので計算が出来ません。そこでVBAを使ってコ...…

浮動小数点の正規化の必要性について

…　浮動小数点の正規化の必要性について教えてください。　浮動小数点で数を表す際に、正規化は必ずしも必要なもの（行わなければならないもの）なのでしょうか？　　また浮動小...…

10次の多項式を求めるプログラムについて

…ARMコア(32bit)を使ったCPUで多項式を求める演算をさせています(C)。 Y軸0-4095、X軸0-4095の範囲にプロットされる点が（整数値）11点で、非線形の点の集りです。多項式近似を使ってこの式を求...…

2006/08/24 10:08
C言語・C++・C#
回答数(6)

単精度