ガイド浮動小数点コンバータが失敗する理由 (および 10 進数演算でそれを解決する方法)
浮動小数点コンバータが失敗する理由 (および 10 進数演算でそれを解決する方法)
2 進浮動小数点で奇妙な変換残差が生じる理由、それらのエラーが重要な場合、および 10 進数または有理数の算術演算によって単位コンバータの信頼性がどのように維持されるかを理解します。
古典的な 0.1 + 0.2 問題と単位の出会い
ほとんどの CPU は、非整数を 2 進浮動小数点 (IEEE 754) で保存します。 10 進数では単純に見える分数 (0.1、0.001、2.54) は、多くの場合、2 進数では正確に表現できません。保存された値は最も近い表現可能な近似値であり、近似値の算術演算により小さな残差が蓄積されます。
単位変換では、これらの値の乗算と除算を繰り返します。インチをミリメートルに変換して逆変換したり、リットルを立方メートルに変換して逆変換したりすると、3 ではなく 2.9999999997 が表示される場合があります。物理的な変換係数は正確でした。コンピュータ表現はそうではありませんでした。
多くのディスプレイでは、四捨五入後の違いは見えません。財務に隣接したドージング、CNC ツールパス、法的土地領域、または正確な同等性を期待する自動テスト アサーションの場合、これらの残差は実際のバグになります。
紙の上ではどの変換係数が正確ですか
国際インチは正確に 25.4 mm です。国際フィートは正確に 0.3048 m です。リットルは正確に0.001立方メートルです。通常の実験室の感覚では、1 立方センチメートルは正確に 1 mL (1 cm3 = 10⁻⁶ m3) です。これらは定義であり、測定値ではありません。
ソフトウェアが 25.4 をバイナリ浮動小数点として保存する場合、変換が実行される前にすでにわずかに間違っている可能性があります。別の不正確な係数を乗算すると、誤差がさらに大きくなります。厳密な等価性を主張するラウンドトリップ テストは、アルゴリズムが概念的に正しい場合でも失敗します。
温度によりオフセットが追加されます: 摂氏 ↔ ケルビンは 273.15 を使用します。この定数は 10 進数値でもあり、バイナリ浮動小数点数は近似するだけです。アフィン変換は、不正確なオフセットを追加するとすべての結果がシフトするため、特に注意が必要です。
実際に浮動小数点エラーが発生する場所
UI コンバーターは、固定の小数点以下の桁数に四捨五入することで問題を隠すことがよくあります。ユーザーはクリーンな結果を確認し、内部ノイズに気づくことはありません。別のシステム (CAD カーネル、CSV エクスポート、または完全精度の文字列を比較する単体テスト) が raw float を使用すると、問題が発生します。
連鎖的な変換は問題を増幅させます。各ステップでバイナリ浮動小数点数を使用してマイル→ヤード→フィート→インチ→ミリメートル→メートルに変換することは、高精度係数を使用して単一のマイル→メートルに変換するよりも悪くなります。各ホップは中間値を再四捨五入します。
2 乗や 3 乗した量は誤差を悪化させます。面積と体積は長さのスケールを倍増するため、(1+ε)ⁿ を拡張すると、長さの小さな相対誤差が面積または体積の相対的な誤差で 2 倍または 3 倍大きくなります。
10 進数、有理数、および固定小数点の代替案
10 進数ライブラリ (decimal.js、Big.js、または言語固有の 10 進数など) は、数値を基数 10 で保存します。0.3048 や 0.001 などの正確な小数因数は、選択した精度内で正確に維持されます。正確さを重視する単位変換器は、多くの場合、10 進数の基本単位を使用して変換します。
有理算術では、因数を整数の小数として格納します。 1 インチ = 127/5000 メートルである場合 (25.4 mm = 127/5000 メートルであるため)、乗算は正確にキャンセルできます。 Rational は純粋なスケール変換に最適です。オフセットは温度に関しては依然として慎重な取り扱いが必要です。
固定小数点演算では、すべてを最小目盛り (ナノメートル、マイクロリットル、または 1000 分の 1 インチ) の整数カウントにスケールします。整数の演算はオーバーフローするまで正確です。これは、測定量が明確なドメインに適しています。
信頼できるコンバーターのための実践的なルール
正確な法的因数を、性急に入力した 2 進数浮動小数点としてではなく、小数または有理数として保存します。入力→ベース→出力をできるだけ少ないステップで変換します。人間向けにフォーマットする場合にのみ丸め、丸めモードを文書化します。
バイナリ浮動小数点で厳密に等価なコンバータをテストしないでください。絶対許容誤差または相対許容誤差内で比較するか、指定された精度で 10 進文字列形式を比較します。 1 インチ = 25.4 mm など、既知の正確なペアを使用するゴールデン テストを優先します。
電卓 UI を構築する場合は、役に立つのに十分な精度を示しますが、浮遊ノイズが信号のように見えるほど桁数が多くないようにします。浮動小数点を介して変換した後に小数点以下 12 桁を表示する長さツールは、その表現エラーを通知します。
バイナリ浮動小数点数がまだ問題ない場合
大まかな比較、ゲーム、データ視覚化、および多くの科学シミュレーションでは、モデルの不確実性が表現誤差を小さくするため、浮動小数点誤差が許容されます。重要なのは、自分の許容範囲を知ることです。ミリメートルが重要な場合は、フロートを訓練するか交換する必要があります。
ハードウェア アクセラレーションと GPU パイプラインでは、フロートが強制されることがよくあります。このような場合は、CPU またはサーバー上で 10 進数での正式な変換を維持し、GPU 浮動小数点数を表示または中間近似値として扱います。
優れたエンジニアリングとは、数値表現とその数値を使って行う意思決定を一致させることです。製造、医療、法定計量における単位変換には、10 進数または合理的な計算が必要です。都市の気温を変換する天気予報ウィジェットはそうではありません。疑わしい場合は、より厳密な表現を選択してください。通常、小数のパフォーマンス コストは、サイレント ラウンドトリップ バグのコストよりも小さくなります。
関連コンバーター
よくある質問
前後に変換すると番号が変わるのはなぜですか?
2 進浮動小数点では、多くの小数要素を正確に表現できません。乗算または除算を行うたびに、小さな丸め誤差が追加されます。浮動小数点数による往復変換では、変換係数が概念的に正確であっても、多くの場合、元のビットを復元できません。
単位変換には倍精度で十分ですか?
倍精度 (float64) は、表示の丸め後の多くの日常的な変換には十分ですが、ビット安定したラウンドトリップ、法定計測、または厳密な自動テストが必要な場合には、正確な小数要素の代わりにはなりません。信頼できるコンバーターには、小数または有理数を優先します。
テストでコンバーターの結果を比較するにはどうすればよいですか?
宣言された精度で比較するか、10 進文字列の等価性を使用するか、絶対許容誤差と相対許容誤差をアサートします。いくつかの算術ステップを経た後に、正確な 2 値の等価性を期待することは避けてください。