おちゃっこLAB Easy3D 過去ログ(投稿不可)
[記事リスト] [新着記事] [ワード検索] [過去ログ] [管理用]

タイトル Re: 誤差
投稿日: 2011/10/21(Fri) 06:52
投稿者おちゃっこ

HSPのデフォルトの状態では
小数はdoubleです。
E3DInitを呼ぶと小数がfloatになります。

floatは確か有効数字が7桁くらいだったと思います。

メタセコイアとやり取りする場合はもう一個気をつけなくてはいけません。
mqoファイルをテキストエディタで開くと分かりますが
mqoに書かれている数値はfloatよりも更に桁数が少ないです。

なので普通にやると
プラグイン中の数値とmqoにしてから読み込む数値に違いが出る可能性があります。


- 関連一覧ツリー (▼ をクリックするとツリー全体を一括表示します)