解像度とは、フィーチャを認識し、区別する能力のことです。カバレッジの重要な特性の 1 つに、地理フィーチャの位置または形状を格納するための解像度または精度があります。たとえば、1 メートルの解像度とは、座標の正確な地表面上の位置が、格納されている座標値から 1 メートル以内の距離にあることを意味します。
カバレッジの解像度は、3 つの要因に左右されます。それらの要因とは、指定された座標精度、入力デバイス (デジタイズ タブレットなど) の精度、そして入力ドキュメントの縮尺およびカバレッジ処理の許容値 (特に多くのジオプロセシング コマンドで使用されるファジー許容値) です。
座標精度
座標精度とは、座標の数学的な正確さを表すもので、各座標に対して格納できる有効桁数に基づきます。カバレッジ データセットは、単精度または倍精度座標で格納されます。単精度では、各座標に対して最大で 7 桁の数字が格納されます。つまり、4,999,999.6 単位または 5,000,000.4 単位の値を単精度で格納すると、5,000,000 単位に丸められます。これに対し、5,000,000.6 の値を単精度で格納すると、5,000,001 に丸められます。倍精度を使用すると、この問題を簡単に解決することができます。倍精度では、数字が 15 桁まで (通常は 13 ～ 14 桁) 格納されるため、グローバルな範囲で 1 メートルよりもはるかに小さな数学的精度が維持されます。数学精度は精度を定義するものではなく、カバレッジ解像度における重要な要因であることに注意してください。
使用する精度に応じて、コンピューターが認識できる小数点以下の桁数が制限されます。単精度数の場合、7 桁を超える数字は無視されるため、1.2345678 と 1.23456789 の値はコンピューターによって同等と見なされます。各座標のまわりに、コンピューターの座標ストレージの解像度と等しい非常に小さな円があると想像してください。円が重なる座標は、コンピューターからは同じ場所を表すものと見なされます。
コンピューターは、円が重なる 2 つの座標を同等と見なします。
可能な場合は常にカバレッジに倍精度座標を使用してください。これにより、すべての処理にきわめて小さなファジー許容値 (0.00000001 など) を設定することができ、それにより座標シフトへのファジー処理の影響を最小限に抑えることができます。
シェープファイルをカバレッジに変換する場合は、[フィーチャクラス → カバレッジ (Feature Class To Coverage)] ツールを使用して、([カバレッジ設定] の [環境] ダイアログ ボックスで) 精度を [Double] に設定します。シェープファイルは常に倍精度なので、カバレッジを [Double] に設定し、変換プロセスで精度が失われないようにしてください。
デバイスの精度と入力ドキュメントの縮尺
解像度は、入力デバイスの解像度と入力ドキュメントの縮尺によっても制限されます。たとえば、デジタイズ タブレットの解像度が 0.002 インチ (デジタイザのポイント間の最小距離が 0.002 インチ) であり、1:63,360 の縮尺でマップをデジタイズしているとします。この場合は、マップ縮尺を次の方法で示すことができます。
- マップ上の 1 インチ = 地表面上の 63,360 インチ
- マップ上の 1 インチ = 地表面上の 5,280 フィート (63,360/12)
- マップ上の 1 インチ = 地表面上の 1,609 メートル
- マップ上の 0.002 インチ = 地表面上の 10.56 フィート
最後の等式は、デジタイザ解像度と地面上の距離を同等と見なします。カバレッジをデジタイザの解像度よりも正確にすることはできないため、デジタイズされた座標と 1:63,360 縮尺のマップを区別する最小距離は地面上で 10.56 フィートを表します。カバレッジ座標がフィートで格納されている場合、カバレッジの解像度が 10.56 フィートを超えることはありません。この解像度が適切でなければ、より大きな縮尺のマップをデジタイズする必要があります。