タイトル | : Re: 誤差 |
投稿日 | : 2011/10/21(Fri) 06:52 |
投稿者 | : おちゃっこ |
HSPのデフォルトの状態では
小数はdoubleです。
E3DInitを呼ぶと小数がfloatになります。
floatは確か有効数字が7桁くらいだったと思います。
メタセコイアとやり取りする場合はもう一個気をつけなくてはいけません。
mqoファイルをテキストエディタで開くと分かりますが
mqoに書かれている数値はfloatよりも更に桁数が少ないです。
なので普通にやると
プラグイン中の数値とmqoにしてから読み込む数値に違いが出る可能性があります。