数値演算コプロセッサ
の検索結果 (10,000件 61〜 80 件を表示)
Accessのクエリで、Left関数を使用して、7桁の数値を抜き出す方
…Accessのクエリで、Left関数を使用して、7桁の数値を抜き出す方法。 IDが8桁で入力されているのですが、左から7桁だけを抜き出して、全てのレコードを表示させたかったのですが、誤って入力...…
四則演算プログラム(入力式の表示版)
…プログラミング初心者の大学生です。よろしくお願いいたします。 計算式入力し、計算結果を表示するプログラムの作成方法がわかりません。 条件としては、数値は実数の入力を可能...…
perl:文字列を数値として変換 警告でないように
…ある変数に 文字列として 数値が格納されている。 ノイズがあり、時には その変数に 英字数字のごちゃ混ぜ文字列が入るときがある。 文字列には数字だけが入っている前提で処理す...…
Excelで数値が文字列になっています
…Excel2010で「このセルにある数値がテキスト形式か、またはアポストロフィで始まっています」という警告が表示されたりして、計算が出来ません。 打ち直ししたり、「エラーチェックルール...…
演算子を対角化するとはどういう意味ですか?
…量子力学を学んでいます。 テキストを読んでいてよく「ハミルトニアンHを対角化して・・・」のような表現に出会います。 線型代数を学んだときには、行列Mを対角化することとは、あ...…
輸出貿易管理令の「単事象障害」と「実効テラ演算」
…輸出貿易管理令 別表第1 8項の項目別対比表というものを、多言語に翻訳する仕事がきたのですが、用語の意味がわからず、困っています。ご存知の方がいらっしゃったら教えてくださ...…
エクセルで同じ式なのに、数値によって値が変わる
…助けてください。 非常に簡単な式ですが、数値によって結果が違い困っています。 a-bが許容内であるか場合"OK"、許容差外の場合"NG" という数式を以下のように作りました。 (本当はもう少...…
Excelの数値の桁数が増えてしまいます。
…こんにちは。Excel2000を使用しています。新規のブックのセルに「34819.7389」と入力するとセル上での表示は変わらないのですが、数式バーには入力されている数値が「34819.7388999999」となって...…
C言語で32Bit*32Bitの演算は出来ますか?
…初めまして、現在、組み込みマイコンの開発で、アルテラ社のNios2を使用して他の人がコーディングした日立SH2から置換え作業をしています。 いままではinline_asmを利用して、64Bit演算をして...…
算術シフト演算が成り立つ理由がイマイチ・・・
…算術シフト演算で右シフトにしても左シフトにしてもシフトで空いたビットに符号ビットと同じ物を入れたり0を入れたり、溢れたビットを破棄したり・・・ というのがどうして成り立つの...…
maxの演算を教えてください
…引数の中でそれより小さい数が存在しない数を選び出す(要するに最大値なんですけど)、max()と言う記号がありますよね?これの演算の際の基本法則を簡単にまとめて教えていただきたいです...…
数値のパック10進数の変換について(vb6)
…こんにちは 現在、vb6で開発を行っております。 早速ですが、困っていることがあります。 データベースを読み込んで、その値をテキストファイルに出力しているのですが、ある項目(...…
16桁以上の「0」に変換されてしまった数値を読み取る方法
…エクセル2003です。 17桁の社員コードをセルに入れていたのですが 16桁以上から0になってしまいました。 A1に「12312312312312312」と入力すると 数式バーでは「12312312312312300」になり セルの表...…
VBScript 数値の少数化
…VBScript (ASP)での開発です。 3→3.0 10→10.0 1.005→1.0 以上のように、数値を小数第一位で固定して 表示したいと思っています。 で、FormatNumber(数値,1)というようにしてみたのですが、 小数値が...…
Excel関数-文字列で自動作成された関数を実行する方法
…以下のセル情報がある場合に 文字列で生成された数式を自動計算されるようにする関数の作成に難航しております。 ※Excel2019 ※VBAではなく関数でお願いします。 ★★★★★★★★★★...…
スーパーのレジの面接で四則演算?かよくわかりませんが、計算のテストがあ
…スーパーのレジの面接で四則演算?かよくわかりませんが、計算のテストがあるって本当ですか?経験のあるかたなど、どんな問題が何題でたとか、分かる方回答お願いします。…
2つのテーブルをLIKE演算子のように結合させたい
…こんにちは DB2 ver 8.1 fixPak5 VB6 にて開発を行っております。 TABLEa の NAMAEa KANKEIa TABLEb の ADANAb FLAG というテーブルがあるとします そしてそれぞれのテーブルに TABLEa のNAMAEa に '山田' TAB...…
検索で見つからないときは質問してみよう!