重要なお知らせ

「教えて! goo」は2025年9月17日(水)をもちまして、サービスを終了いたします。詳細はこちら>

電子書籍の厳選無料作品が豊富!

エクセルでi(虚数)の1乗(=impower("i",1))をすると、

6.72256846544206E-015+i
の解が得られます。

なぜこうなるのですか?

A 回答 (2件)

PC内部では数値を2進法で表しますが、二進法で0.1は無限小数となり誤差が発生します


2進法で0.1は0.0 0011 0011 0011 ・・・・となり、
0.1+0.1+0.1+・・・+0.1は
0.11111111111111・・・となるので有効桁数に丸めたときに誤差が発生します。

10進で1/3*3を電卓で計算しても0.999・・・となって誤差が発生するのと同じことです。
    • good
    • 0

誤差じゃないでしょうか?



例えば、私のエクセル2千SP3では、
 =((0.1+0.1+0.1+0.1+0.1+0.1+0.1+0.1+0.1+0.1)-1)

 -1.11022E-16
(-1.11022×10^(-16))などと表示されます。
    • good
    • 0

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!