プロが教える店舗&オフィスのセキュリティ対策術

エクセルの三角関数(SIN,COS)で得られる値の精度はどのくらいでしょうか?
当方はOffice2003 SP3を使用しています。

A 回答 (4件)

マイクロソフトがこの件に関しては公開してません。


以前にVBAでプログラム組んだときに、同じところで制度が出てないのに気づきました。
表示桁数にもよると思いますが、どこで四捨五入されているかが見当つきませんでした。

手で計算した値と、会わなかったので、色々試したのですが、有効表示桁数に対し無効表
示桁数小数点第4位で四捨五入されているようには感じましたが、そこまで詳しく見るつも
りは無かったので、それ以上は見ていません。
    • good
    • 0
この回答へのお礼

なるほど、そういう意味でしたか。
情報ありがとうございます。

お礼日時:2012/06/30 19:29

切り捨て、切り上げ、四捨五入の関数しだいでしょ?



四捨五入切り捨て切り上げ、などの関数どうすかうかだと思います。
何桁目で、四捨五入するとか、設定次第でパーセンテージは変わります。
エクセルまかせなら、制度云々は分からないとしかいいようがない。

VBA組んで、検証してみれば分かります。

この回答への補足

ROUND()関数などの関数を使わない。SIN()関数が出力する生の値が
どのくらいの精度があるのかが気になっています。

補足日時:2012/06/30 17:59
    • good
    • 1
この回答へのお礼

ありがとうございました。

お礼日時:2012/07/07 06:19

No.1です。


100% が最高「精度」ということであれば、99.9999999999999% に相当するのかな?

この回答への補足

私もそのぐらいだとは思いますが、
なにか公表されているデータでありませんかね?
たとえばPI()関数は確か15桁としっかり書かれていました。

補足日時:2012/06/30 17:57
    • good
    • 0

0.0000000000001%


くらいだと思います。
    • good
    • 0

お探しのQ&Aが見つからない時は、教えて!gooで質問しましょう!