ウォッチ
固定小数点演算
の検索結果 (1,429件 1〜 100 件を表示)
浮動小数点演算を固定小数点演算へ変換する
…あるプログラムの処理を高速化するために浮動小数点数を固定小数点数に変換したいので、皆様の力を貸してください。 以下のようなプログラムがあります。 -------------------------------------...…
固定小数点数、浮動小数点数について
…学校から課題が出ているのですがさっぱりなので教えていただければ幸いです。 課題：11051120 この数を３２bitの固定小数点数、浮動小数点数であらわせ (1)固定小数点数、浮動小数点数と...…
FP4という浮動小数点演算4桁の割り当ては？
…NVIDIAのBlackwellはFP4という浮動小数点演算4桁で行うみたいですが、これらのbitの割り当てってどうなっていますか？ 符号部 指数部 仮数部の割り当てです。…
固定小数点表現で表せる整数の範囲
…超初級者ですが、検索しても分からなかったので よろしくお願いします。 ２進法、nビットの場合、 －２（n-1）乗～２(n-1)乗－１ と書いてあるのですが、 何故－２(n-1)乗＋１～ で...…
１６ビットの符号付固定小数点の使い方について
…１６ビットの符号付固定小数点について 最上位(15)ビットが符号ビットで１４～０ビットが少数部という データフォーマットだった場合、－０，２５を表すとしたら、 ０．２５に符号ビッ...…
「不正な浮動小数点数演算命令」エラーでDVD-RWへ書き込みが出来ません。
…以前、TDKのDVD-RW CPRMのメディアをDVDレコーダー（パナソニック）にて 地デジ放送を録画していましたが、そのメディアを自分でカメラ撮りしたビデオ編集の DVD記録へ使おうとしてDVDオーサ...…
選択演算と直積演算について教えてください
…データベースの選択演算と直積演算の問題について質問です。 以下のように選手表とチーム表があり、 Ｆ２＝年齢＜２５ （σF2(選手))×チーム という条件の場合、以下の計算であって...…
剰余演算を論理演算と加減算に置き換える方法
…剰余(割算の余り)を求める演算を論理演算と加減算とビットシフトのみで行う方法がありましたら教えてください。 言語はC/C++ではなくても大丈夫です(ロジックだけでも)。…
バタフライ演算
…現在、c言語でバタフライ演算を行っているのですが、要素が8個のときはうまくいくのですが、16や32個以上になるとうまくいきません。どこが間違っているのかわからないのですが、わかる...…
「小数点以下２桁」と「小数点２桁」
…「小数点以下２桁」と「小数点２桁」 「小数点以下２桁」という表現は正しいかと思うのですが、 同じ意味で「小数点２桁」という記載は正しいのでしょうか？ できれば、出展を添えて...…
Delphi Like 演算子
…MS Access ＶＢＡ のLike 演算子みたいなものは、Delphiにないでしょうか？ 2 つの文字列の比較を行なう演算子です。 例えば s1:='中野'; s2:='東京都中野区'; if s1 like s2 then flg=true; s2の文字列...…
XANDという演算について
…現在、Webでの検索システムについて勉強をしているのですが、そこでXANDという演算方法について詳細がわからずにGoogleなどで調べても情報がなく困っています。 どなたか詳しい解説が載...…
キャスト演算について。
…以下のプログラムで、キャスト演算とは、データの型を変換して、計算すること。で合っているのでしょうか？ で、一時的に型変換が行われるが、本来のプログラムのデータの型を変換する...…
!(否定)演算子について
…!演算子の動きが知りたいです。 !0なら1になる !1なら0になる のは解るのですが !3など数値を入れた場合、0になるのはどの様な内部処理なのでしょうか？ ビット演算 0011 ↓ 0 or 0 or...…
小数点入力チェック
…以下の処理を入力チェックしたいのですが、どうしたら宜しいのでしょうか？お願いします。 num="1.999" →OK num="1.11" →OK num="1" →OK num="11.11" →NG if(!num.match(/[0-9]*\.[0-9][0-9][0-9]+/)){ aler...…
小数点切捨て表示
…printf（printf以外でもＯＫです）にて浮動小数点を画面に表示するときに、小数点第3位以下を切り捨てて表示したいのですが、書式指定等をどのように指定すればよいでしょうか。 回答よろ...…
エクセルのセル表示。整数は整数、小数点は小数点で。
…エクセル2003です。 セルに数値を入力した際、以下のようにすることは可能でしょうか。 (1)5と入力→5と表示 (2)5.5と入力→5.5と表示 セルの書式設定で小数点表示の設定、例えば小数点1...…
excelで、小数点
…初心者です。 会社ですでにあるデータを元に、新しい表を作成しなくてはならなくなりました。 そこで質問です。 ３４４００００→３．４４ というふうに数値を変更したいのですが...…
【VBA】複合代入演算子
…よろしくお願いします。 ごく基本的なことではありますが、VBAには複合代入演算子（ +=, -= など）は 無いのでしょうか？ Googleで検索しましたが該当記事がみつからず、こちらに質問を上...…
ＶＢＡ 小数点の割り算
…お世話になります。 以下のように計算をしたいのですが。 Dim A_DATE As Single Dim B_DATA AS Single Dim C_DATA AS Single A_DATA = 69.63 B_DATA = 1651.8 C_DATA = A_DATA / B_DATA とすると C_DATAには希望は0.0421...…
VBの小数点周り
…以前から思っていたのですが、VBの小数点ってあやしくないですか？ 変な現象を見つけたので、知っている方がいたら教えていただきたいのです。 小数点以下、四捨五入をしようと思い...…
確認申請 小数点 四捨五入？
…ちょっと、おしえてください。 今、申請書を書いています。 今時、考えられない急ぎの申請です。 まだ、余裕をもつという事を知らない人々がいるのです（笑）。 私は、ずっと、面積...…
掛け算演算を使わない掛け算
…java初心者です。 2つの正の整数を入力して、それらを掛け合わせた答えを表示したのですが、 掛け算演算を使わないということになると、どういうソースを書けばいいんでしょうか。…
2進数データのビット演算
…vb.netにて 0と1からなる2進数で記録した2つの値をビット演算したいと思っております。 Convert.ToInt32("1111101000", 2) などを使って、一度数値に変換して演算すれば、計算可能なことはわかった...…
関係演算子が無効です。
…オラクルで作成しているのですが、関係演算子が無効です。と出ます。 どこを修正すればよいでしょうか SELECT * FROM 表, ( SELECT col FROM 表 WHERE col1,col2 > ) WHERE col = MIN(col);…
Access クエリ IN演算子について
…初めて質問します、よろしくお願いします。Access2007にて開発をしています。 リストボックスにて商品を選んだ際に隠しテキストボックスに´商品名1´,´商品名2´と入力し、クエリのwhere句に...…
エクセルマクロ小数点桁数
…テキストデータからエクセルマクロで吸出しを行う中で 数値データをNumberFomatLocalでカンマと小数点を指定したいのですが 小数点以下がセルによって2桁3桁だったり、なかったりとバラバラ...…
perl 矢印演算子 -> の使い方
…-> という矢印演算子が勉強しているスクリプト中に出てきて書籍などで調べたのですが、 よく分かりませんでした。 連想配列で便利な面がある？のでしょうか？ 何かを省略できる書き方...…
char型での演算子
…畏れ入ります。 X番目の文字を調べたいとき strにStringbufferで文字列が入っていた場合 if(str.charAt != "") とすることができません。 互換性のない型、と出てしまいます。 また、""を’...…
[VBS] 素早くローテート演算したい
…教えて下さい。 VBSで出来るだけ高速でローテート演算を行いたいです。 当方ではシフトJISの1バイトコード(16進数)を一度、10進数に直して さらにそこから2進数へ変換した後にローテートを...…
演算子法なににつかう
…演算子法とかってなににつかいますか？ 読まなくていいですか？ あと存在性定理とか一意性の証明のところはむずかしいからとばしてもいいですか？ 常微分方程式は難しい話をしないと...…
電卓の小数点
…今晩は。 先日、授業でVisual Studio(C#)を使い、 電卓を製作したのですが、 実行して０が表示されている状態で （普通の電卓の場合電源を入れた直後の状態） 小数点のキー"."を押すと、 ...…
小数点第1位切り上げ?
…小数点第1位を切り上げしなさい?問いに質問です。 5.04の場合,答えは5ですか?それとも6ですか? 私は5と思っていたのですが,エクセルで表計算したときにこの答えでは 6になりますので自身...…
論理演算子”||”またはの入力方法
…私はjavaを勉強中の初心者です。if文で論理演算子のまたは”||”はどのように入力すればよいか分かりません。わたしはshiftキーと￥を同時に押してその後変換して、または”||”を作ってい...…
足し算と引き算だけでつくる演算
…半分数学の問題なのですが、考え方はプログラミングなのでこちらのカテゴリで質問しました。 大学で計算の可能性という講義を受けています。 この講義ではwhileプログラムというプロ...…
CASLIIのADDAとADDLの演算
…次の問題があっているのかわかりません。 次のCASLIIプログラムの実行後のレジスタ(GR1,FR)とメモリ(AA,BB,CC番地） の内容を16進表示および符号付き10進表示せよ。 PGM START LD GR1,AA ...…
シフト演算を用いた変換
…シフト演算を用いて、データを変換したいのです。 例えば、「00 01 0B 0A」となっているデータを、「0A 0B 01 00」となるようにシフト演算を用いて、変換したいのです。 0Aで1byteとなってい...…
【SQL】existsでの商演算
…閲覧ありがとうございます． 現在SQLでデータベースの勉強をしているのですが，existsを用いて商演算を行おうとしてわからない箇所が出てきたので，その点に関しての質問をさせて頂きま...…
maxの演算を教えてください
…引数の中でそれより小さい数が存在しない数を選び出す(要するに最大値なんですけど)、max()と言う記号がありますよね？これの演算の際の基本法則を簡単にまとめて教えていただきたいです...…
delete演算子によるメモリ解放について
…MFC MDIプログラミングで、 Genericクラスで点、線、面クラスを作って、 オブジェクトを組み合わせて ３次元図形を作っています。 図形を削除する際、 delete演算子で各オブジェクトの ...…
エクセルの演算子の利用について
…エクセルの算術演算子の入力についてです。 以下のURLに記載されている演算子の画像で添付している部分がエラーになってしまいます。この演算子は利用できるものでしょうか？ ちなみ...…
EXCEL VBA Like演算子 パターンマッチング について
…平素お世話になっております。 Like演算子のパターンマッチングを利用して以下の５個の記号を判断したいと考えております。 ()[]- 以下のように記述を行っても Like "[()[]-]" 当然のごとく[...…
jsp double型の小数点表示
…質問させて下さい。 計算結果の表示でdouble型を使いたいのですが、 「1.5」、「2.5」などは小数点を表示させて問題ないのですが、 「1」、「2」と表示させたい時に「1.0」、「2.0」と小数...…
小数点第一位とは・・・
…小数第一位とは、小数のどの位ですか？ Ｗｉｋiを見てもさっぱりです。 例えば、1.23456・・・とあると、どの数字が小数点第一位で、第2位なのかわかりません。 数学と言うより、...…
小数点の掛け算(暗算）の仕方…
…小数点の掛け算を暗算でしたいのですが、自分は暗算が得意な方ではありません。。 せめて小数第１位、できて第２位までの計算がしたいのですが、今のところ小数どうしの掛け算が暗算...…
２つ分数の四則演算を行うプログラム
…＜要求事項＞ 分数は、 例）1|3 のように表す。 １．分母がゼロの時はエラーとする。 ２．除算において、除数がゼロの入力エラーに対しては、再入力するように促す。 ３．以下範囲の整...…
AES_ENCRYPTとLIKE演算子の利用
…AES_ENCRYPTされた文字列の曖昧検索をしたいと思っています。AES_ENCRYPTで暗号化した文字列をBLOB型のフィールドに書き込んでいますが、SELECT文で文字列を抽出時、完全に一致する文字列しか抽...…
小数点第3位を四捨五入
…０，３６５ の小数点第3位を四捨五入すると、 ０．３７かとおもったんですけど、 解答では０，３７４でした。。。。 普通０，３７ではなかったでしたっけ？？？ 初歩的な質問で申し訳...…
数字（小数点付き）の取り出し方
…お世話になります。 次のような文字列から「81.59」を数字として取り出したいのですが Perlを始めたばかりで途方に暮れています。 81.59円 上記から81.59を数字として取り出す方法を教えて...…
演算子オーバーロードのプログラムで
…今、C++でテンプレートクラスや演算子オーバーロードを使ったプログラムの練習をしているのですが、どうしてもうまく動かなく質問させてもらうことにしました。 大まかに言えば、int型...…
C言語のビット演算子に関して
…はじめまして、今C言語の学習(半月ほど)を行っている者ですが ビット演算子のところで悩んでおります。 問題文に 変数ｃの2ビット目と3ビット目をONにする、 あるいはOFFにするといっ...…
論理演算子がわかりません
…X OR Ｙ をNANDだけを使って表した論理式はどれか ア ((X NAND Ｙ)NAND X) NANDＹ イ (X NAND X)NAND(Ｙ NAND Ｙ) ウ (X NAND Ｙ)NAND(X NAND Ｙ) エ X NAND(Ｙ NAND(X NAND Ｙ)) 答えはイになるらしいですが、解説...…
C言語における複素数の四則演算について
…複素数の四則演算(a+biとc+diの四則演算)について、for文を用いて表示するプログラムについて、???の部分に何を入れたらよいかわからず、うまく実行することができません。和・差・積・商の...…
四則演算プログラム（入力式の表示版）
…プログラミング初心者の大学生です。よろしくお願いいたします。 計算式入力し、計算結果を表示するプログラムの作成方法がわかりません。 条件としては、数値は実数の入力を可能...…
算術シフト演算が成り立つ理由がイマイチ・・・
…算術シフト演算で右シフトにしても左シフトにしてもシフトで空いたビットに符号ビットと同じ物を入れたり0を入れたり、溢れたビットを破棄したり・・・ というのがどうして成り立つの...…
アクセス（2003）のVBAでビット演算方法
…エクセルのマクロではビット演算ができましたが、アクセスではどのような方法があるのでしょうか？ where in 文で値の自動生成も考えられますが、VBやVCでアドインも可能でしょうか教えて...…
C言語 アロー演算子について質問です。
…こんにちわ C言語初心者です。 C言語の教科書を見ていたら 双方向リストへの挿入というところで struct CELL{ struct CELL *prev; struct CELL *next; int value; } x->prev=p; x->next=p...…
量子力学 演算子の交換関係について
…ユニタリ演算子U とハミルトニアンH があるとします．UとHが交換可能であることは U^(-1)HU=H で表せると思いますが，上式が 「HがUに対して不変である」 ということを示しているのが良く...…
構文エラー : 演算子がありません。
…アクセスからデータをひっぱってくる、ＳＱＬ文で、 以下エラーメッセージが発生します。 [Microsoft][ODBC Microsoft Access Driver] クエリ式 'D_time …
0による不動小数点数除算. ?
…「0による不動小数点数除算.」というエラーはなぜ発生するのか。 それを回避する方法は何か、教えてください。 ネットで調べてみましたが、勉強不足でよくわからないのです。 Windoes7 32bit...…
浮動小数点の定数
…基本的なことで恐縮ですが、 float f = 1; float f = 1.f; および double d = 1; double d = 1.0; これらは、違いがあるのでしょうか。…
Access 倍精度浮動小数点型について。。。
…アクセスの、倍精度浮動小数点型で定義したテーブルを作成しました。 で、その項目に 99999999 とデータを入力した場合にデータが100000000 に自動変換されてしまいました。 このよう...…
微分演算子の基本公式に関する質問です
…質問１ 公式 1/Φ（D）*e^ax*f(x)=e^ax*1/Φ(D+a)*f(x) を使うのでしょうが、 e^x*1/D＾ｎ*1=e^x*1/(D+1)^n*1 と導く過程 質問2 上記との関連ですが、1/（D-1）＾n*e^ax*1=e^ax*1/D*1 この導出過程 以上二点...…
エクセルの小数点以下表示
…エクセルの小数点以下表示でツールバー、セルの書式設定などは表示されていない部分（例えば小数点以下２位までの表示なら３位以下の部分）は四捨五入されているのでしょうか？デフォ...…
ACCESS 除算での小数点切上げ方法
…こんにちは。 ACCESSを使った入力フォームにて、除算の自動計算を考えております。 テキストボックスAに入力された数値÷テキストボックスBに入力された数値 の結果をテキストボッ...…
小数点以下の入力規則
…！教えてください！ セルの中に数値を入力するときに、小数点第２位までは数値が入力でき、小数点第３位に数値が入ると入力規則エラーがかかり入力できないように設定したいのですが...…
エクセルで、小数点以下がないときに小数点を表示させない方法 ＋語尾に「（半角スペース）%...
…エクセルで、小数点以下がないときに小数点を表示させない方法 ＋語尾に「（半角スペース）%」を表示させる方法を教えてください。 ↓このようにしたいです。 入力 表示 50 ...…
Excel 入力規則 小数点数とは
…Excel 入力規則の「小数点数」という言葉の意味がよくわかりません。 どういう数値の、どういう小数点の入力条件を決めるのでしょうか。 教えてください、よろしくお願いします。…
差し込み印刷での小数点表示について
…マイクロソフト2010での差し込み印刷で困っています。 エクセルの数字のデータをワードで差し込み印刷しようとすると、小数点以下が１０桁くらい表示されてしまいます。 エクセルのデ...…
ファイルメーカーで小数点以下の切り上げ
…ファイルメーカーで小数点以下の切り上げをするに、どのような関数を使えばよろしいでしょうか？ 四捨五入と切り捨ては標準であるのですが、切り上げが見当たらず、またどのように計...…
エクセル DEC2BIN 範囲外数値の演算
…エクセルの2進数変換関数の「DEC2BIN」について、 -32768から32767の範囲の数値を符号付の16bitへ変換したく、 調べたところDEC2BIN関数にたどり着いたのですが、 -512から511の範囲外では、使用で...…
Reluの誤差逆伝播法の行列演算
…初歩的な質問なのですが、Reluの誤差逆伝播法の行列演算がよくわかりません。 http://qiita.com/Ugo-Nama/items/04814a13c9ea84978a4c ここの「勾配消失とRectifier Linear Unit」を参考に書いているのですが、...…
C言語：２つの複素数(分数)の四則演算
…下記のプログラムを組んでみて、発展として分数の形で複素数の四則演算のプログラムを作りたいのですが、どうにもややこしく、困っています。 よろしければ御指導よろしくお願いします...…
SQLServerで変数を含んだ数式の演算
…動的に数式を計算する方法を探しています。 SQLServerのエンジンを使うのが簡単そうです。 ADO.NETでSELCECT文を投げることにより、数式を計算することは可能です。 SELECT 1+2 質問は、変数...…
COBOLの論理演算子について質問です
…長いブランクの後、不定期にCOBOLのソースを読むこともある仕事に就いた者です。 本日見た、 IF 区分1 NOT = "001" AND "002" という記述について質問致します。 区分1は3桁の数字（でも文字...…
４の倍数を論理演算で表す。。
…/*Prog32.cキーボードから整数型変数ａへデータを入力し、ａの値が４の倍数のときは“４の倍数です”と表示し、そうでないときは、“４の倍数ではありません”と表示する。ただし、整数デ...…
C# 演算 奇数と偶数 表現の仕方
…問題：forループを用いて、１から100までの乱数を5回発生させて表示し、その中にあらわれた、奇数の数と偶数の数を表示しなさい。 C#の問題に以上のような問題があるのですが、考えても...…
エクセル 小数点第2位 切捨て方法
…エクセル（XPです）で小数点第2位の切捨てをしたいのですが （何もしないと四捨五入してしまいます） どなたか教えていただけますでしょうか？ 例えばなのですが、 7900/34700*100＝22.7665...…
浮動小数点の比較について
…たとえば、以下のコードで、「違う」と表示されるように、浮動小数点の比較に失敗します。 #include int main() { float f = 0.1; if (f == 0.1) { std::cout …
アクセスでの小数点の切り上げについて
…分かる方、教えてください。 アクセスで小数点を切上げて、整数にする場合、 上手い方法はあるのでしょうか？ 少数 整数 0.5 → 1 1.1 → 2 1.5 → 2 よろし...…
物理演算エンジンをつくる会社に就職したい
…私は現在大学４年生です。就職活動は全くしておらず、今の大学の研究に不満があるので、大学院に進学するつもりです。（試験があるので進学できるかどうかはまだわかりませんが・・・...…
エクセル VBA 小数点を含む数字抽出について
…下記の条件の元 数字のみを抽出するマクロは分かったのですが、少数点を含めるとうまく抽出できません 小数点を含む数字を抽出する方法をご教授願えませんでしょうか 条件 Ｂ11-B15...…
Accessで小数点以下の桁数を・・？
…教えてください。 Accessで小数点以下の桁数を表示したいのですが、プロパティで小数点以下の桁数を表示することができるのですが、実際に入力すると値が四捨五入されてしまい小数点以...…
検索で見つからないときは質問してみよう！
質問する（無料）
