許容値は、カバレッジの単位で表され、カバレッジの登録、フィーチャのスナップ、座標間隔など、カバレッジの自動化や更新手順に使用されます。これらの許容値は、操作時の座標の移動可能距離を指定するため、カバレッジの解像度に影響を与えます。移動可能な距離が長ければ長いほど、最終的な解像度は低くなります。たとえば、デジタイズや編集の際にノードのスナップをオンにすると、2 つのノードが互いに指定された距離範囲内にある場合、それらはまとめて自動的にスナップされます。この距離をノード スナップ許容値と呼びます。フィーチャの座標がデジタイザ単位で表される場合、許容値は一般にインチで表されます。フィーチャが投影されている場合、許容値は一般にフィートまたはメートルで表されます。設定した許容値は、ArcInfo Workstation の ArcEdit アプリケーションでの編集時の振舞いを制御します。
[カバレッジ プロパティ] ダイアログ ボックスに、ファジー許容値とダングル許容値に関する現在のトポロジが表示されます。各値の横にある [確認済み] または [未確認] のラベルは、許容値が編集プロセス中に明示的に設定されたかどうかを示しています。デフォルトの許容値をカバレッジのフィーチャのタイプまたは縮尺に適した値に変更したい場合は、[許容値] タブでこの値を変更すると、[デフォルト値] は表示されなくなります。[許容値（Tolerance）] ツールを使用して許容値を設定することも可能ですが、このジオプロセシング ツールを使用するには Advanced ライセンスが必要です。ツールまたはコマンドの実行後に [カバレッジ プロパティ] ダイアログ ボックスを開くと、使用された許容値の横に [確認済み] というラベルが表示されます。
カバレッジのクリーン時または編集時に理解しておくべき 8 つの許容値を次に示します。
- アークのスナップ許容値: 新たに追加されたアークを延長する距離。
- ダングル: ダングルの長さよりも短いダングル アークをクリーン操作で削除します。
- ファジー許容値: クリーン、バッファ、オーバーレイ操作の際にシフトできる最大距離。この距離は、アークの頂点を削除し、交差部分を検出するために使用されます。
- グレイン許容値: スプラインやカーブ（クルドサックなど）を追加する際の頂点間の制御された距離。
- ノード スナップ許容値: 新しいノードを既存のノードにスナップする距離範囲。
- 2 乗平均平方根（RMS）誤差: デジタイズやカバレッジ変換の際のティック登録精度の目安。
- TIC マッチ許容値: デジタイザにマップを登録する際に許可される最大登録誤差。マップを正確に登録する（RMS 誤差を低く抑える）ために使用されます。
- ウィード許容値: デジタイズの際や既存のアークを単純化するために使用されるアーク内のポイント間の最小距離。
カバレッジは ArcInfo Workstation でしか編集できないことにご注意ください。
カバレッジの許容値の処理
アークのスナップ許容値
アークのスナップ許容値とは、新しいアークを既存のアークと交差するまで延長する距離のことです。アークの新しい交差位置にノードが作成されます。
アークのスナップ許容値に推奨される値は、0.05 インチ（0.127 センチメートル）または特定の入力マップ縮尺でそれに相当するカバレッジ単位です。
ダングルの長さ
ダングル アークは、アークの左右両側に、ポリゴンの内部番号で定義された同じポリゴンを持ち、ダングル ノードを少なくとも 1 つ持ちます。ダングルの長さは、カバレッジ内のダングル アークに許可される最小の長さを定義します。[クリーン（Clean）] ツールを実行すると、ダングルの長さよりも短いダングル アークが削除されます。
ダングルの長さに推奨される値は、多くの場合、自動化されるマップ フィーチャのタイプによって異なります。一般に、カバレッジに線形フィーチャが含まれる場合は、ダングルの長さを 0 にすることが推奨されます。ポリゴンの場合は、ダングルの長さを 0.05 インチ（0.127 センチメートル）にするか、同等のカバレッジ単位を使用することをお勧めします。負の値は許可されません。
ファジー許容値
カバレッジの解像度はファジー許容値による影響を受けます。ファジー許容値は、カバレッジ内のすべてのアーク座標（ノードおよび頂点）を引き離す最小距離を表します。ファジー許容値は、特定の操作で座標を移動できる距離も定義することになっています。コンピュータの算術精度には限りがあるため、ファジー許容値は不正確な交差位置を解決するために使用されるきわめて小さな距離です。ファジー許容値は、通常、カバレッジの bnd.adf ファイルで定義されたカバレッジ範囲の幅の 1/10,000 ～ 1/1,000,000 倍の値となります。
カバレッジの処理に特定のツール（[クリーン（Clean）] など）を使用する場合、互いのファジー許容値内にある座標は等しい（つまり同じ位置にある）と見なされます。したがって、座標によっては他の座標の位置に移動されるものがあります。この移動を小さく保つには、ファジー許容値を小さく（つまり 0.02 インチよりも小さく）します。カバレッジに倍精度座標を使用すると、きわめて小さなファジー許容値を設定することができます。ファジー許容値の計測単位は入力カバレッジの単位と同じになります。
アーク座標はファジー許容値の距離だけ移動できるため、ファジー許容値を使用するツールでカバレッジを処理すると、カバレッジの潜在的な問題の多くを解決することができます。これには、きわめて小さな座標値の修正、重複した線分の自動削除、およびアーク沿いの座標の間引きが含まれます。
ファジー許容値は [クリーン（Clean）] ツールで使用されます。この値は、[クリーン（Clean）] ツールがフィーチャを移動したり、重複したノードを削除したり、ラインの交差する場所にノードを作成したり、重複したフィーチャを削除したりすることができる距離範囲です。ファジー許容値は、カバレッジ単位で計測されます。[クリーン（Clean）] ツールを使用する際には、必要なフィーチャが誤って削除されないように、適切なファジー許容値を割り当てることが重要になります。ファジー許容値が小さすぎると、アークの交差が作成されない、または非常に小さいスリバーがうまくクリーンされないという、2 種類の問題が発生する原因となります。逆に、ファジー許容値が大きすぎると、一部のフィーチャが移動しすぎたり（土地区画単位グリッド内の調査セクションの角など）、ポリゴンが崩壊したり、マージすべきでないアークがマージされたりすることがあります。
ファジー許容値は、さまざまなツール（[クリーン（Clean）]、[クリップ（Clip）]、[バッファ（Buffer）]、[イレース（Erase）]、[インターセクト（Intersect）]、[アイデンティティ（Identity）]、[スプリット（Split）]、[ユニオン（Union）] など）の変数として指定されます。値を指定するか、カバレッジ許容値ファイルのデフォルト値を使用することができます。ArcGIS for Desktop は、次の順序でデフォルトのファジー許容値を計算します。
- ファジー許容値が指定されない場合は、許容値（TOL）ファイルから読み取ります。許容値ファイルがない、またはファイルにファジー許容値に対する値が含まれていない場合は、エラー メッセージが生成され、処理が中止されます。
- bnd.adf ファイルでカバレッジ範囲が指定されていない場合は、コマンド ラインまたは許容値ファイルでファジー許容値が指定されていても、ファジー許容値は 0.001 に設定されます。
- ツールが（[クリーン（Clean）] などに対する）線分交差操作を実行し、カバレッジ座標が単精度である場合は、カバレッジ境界範囲と最大範囲値に基づいて最低限必要なファジー許容値が計算されます。この許容値が上記の 2 つの手順によって得られる許容値よりも大きい場合は、この値が使用され、許容値ファイルが新しい値で更新されます。そうではない場合、ファジー許容値は変更されません。
デジタイザ精度が 0.002 インチのファジー許容値は、次のように計算されます。
（縮尺分母/カバレッジ単位あたりのインチ数）* 0.002
たとえば、フィートのカバレッジ単位での 1:250,000 は、次のようになります。
(250,000/12) * 0.002 = 41.660
小さなファジー許容値（1/100,000 ×bnd.adf の範囲）を使用することが推奨されます。指定したファジー許容値が小さすぎる場合は、最小許容値が自動的に計算されます。これは、単精度カバレッジで最もよく行われます。
一般的なファジー許容値
| デジタイズの入力縮尺 | カバレッジ単位 | ファジー許容値（地表面の） |
|---|---|---|
1:250,000 | フィート | 41.660 |
メートル | 12.700 | |
1:100,000 | フィート | 16.620 |
メートル | 5.080 | |
1:63,360 | フィート | 10.560 |
1:62,500 | メートル | 3.210 |
1:24,000 | フィート | 4.000 |
メートル | 1.219 | |
1:6,000 | フィート | 1.000 |
メートル | 0.304 |
グレイン許容値
グレイン許容値は、アークの頂点の数と曲線沿いの頂点間の距離を制御します。グレイン許容値が小さければ小さいほど、頂点間の距離が縮まります。グレイン許容値は、曲線のアークの数を増やし、密度を高める目的でも使用されます。グレイン許容値は新規作成されるカーブに反映されますが、既存のアークの密度を高めるために使用した場合、シェープには影響しません。
推奨されるグレイン許容値は、0.02 インチ（0.0508 センチメートル）またはカバレッジ単位でそれに相当する値です。これはウィード許容値に対して推奨される値と同じです。新しいアークを作成する際、ウィード許容値は直線アークに沿った頂点間の距離を制御し、グレイン許容値は曲線アークに沿った距離を制御します。
ノード スナップ許容値
ノード スナップ許容値は、2 つのノードを結合して（マッチングさせて）1 つのノードを形成するための最小距離です。
マッチングは、アークが追加または編集されたとき、またはノードが移動または追加されたときに実行されます。たとえば、上記の図に破線で表されたアークが追加されると、そのノードはノード スナップ許容値内にある既存のノードに自動的にスナップされます。
ノード スナップに推奨される値は、0.05 インチ（0.127 cm）またはカバレッジ単位でそれに相当する値です。これは正確なカバレッジの自動化を実現するのに十分なノード スナップ許容値です。
RMS 誤差
2 乗平均平方根値は、元の座標位置と変換プロセスによって計算された新しい座標位置間の誤差を表します。ArcGIS for Desktop Advanced は、ティックを使用してマップをデジタイザに登録する際や、変換（投影）操作を実行する際に、RMS 誤差（またはティック登録誤差）を自動的に計算します。RMS 誤差が少ないほど、デジタイズや変換の精度が高くなります。
マップを登録するには、ティック位置をデジタイズし、カバレッジ ティックのために格納された x、y 位置と比較します。このプロセスは、座標変換、つまり変換縮尺、回転、および変換（シフト）を、x および y 方向で定義します。この変換はデジタイザで入力されたすべての座標に適用され、それらはカバレッジ単位としてレンダリングされます。
RMS はデジタイザ単位とカバレッジ単位の両方で報告されます。高精度の地理データを維持するために、RMS を 0.004 インチ（または使用している座標系でそれに相当する計測値）よりも低く保つようにしてください。精度の低いデータについては、0.008 インチまたは同等の計測値に設定することができます。（次に説明する）TIC マッチ許容値を使用して、RMS 誤差を低く抑えることができます。
RMS 誤差は、[トランスフォーム（Transform）] ツールによっても計算されます。[トランスフォーム（Transform）] ツールを使用する際、RMS は古いカバレッジ座標を新しいカバレッジに変換する精度を表します。この値は、古いカバレッジのティック位置を新しいカバレッジの入力ティックと比較することによって計算されます。変換と RMS 誤差の詳細については、[トランスフォーム（Transform）] ツールのヘルプ ファイルをご参照ください。
TIC マッチ許容値
TIC マッチ許容値は、カバレッジ単位で報告され、デジタイザにマップを正確に登録するために使用されます。これは、既存のティックとデジタイズされているティックの間で許可される最大距離を表します。この距離を超えるデジタイズ エラーは容認されず、マップを再登録する必要があります。TIC マッチ許容値は、デジタイザでマップを登録するときに RMS 誤差を低く抑えるために使用されます。この値は、カバレッジの各ティック位置をデジタイズされた位置とどれくらい正確に一致させるかを表します。ティック登録誤差は、マップがデジタイザに登録される際に、ティックごとに自動的に計算されます。ティックからマッチ許容値よりも離れているティック位置を登録するかどうかを指定する必要があります。
この例では、ティック 3 が期待されるティック位置から TIC マッチ許容値よりも離れているため、再登録が必要になります。
推奨される TIC マッチ許容値は、自動化されるデータの品質に応じて異なります。高精度マップ データの場合は 0.004 インチ（0.01016 センチメートル）、それほど高い精度を必要としないマップでは 0.008 インチ（0.02032 センチメートル）よりも低い値に抑えてください。
TIC マッチ許容値は、[許容値（Tolerance）] ツールで設定します。設定した許容値は、ティックが ArcGIS for Desktop で再デジタイズされるときに使用されます。
ウィード許容値
ウィード許容値は、アークに沿った任意の 2 つの頂点間で許可される最小距離です。ウィード許容値は、アークの座標の数を削減するために使用され、アーク フィーチャを追加する前に、または既存のアークを単純化するために設定できるパラメータです。
新しいアークを追加する際、前の頂点からウィード許容値内にある新しい頂点は無視されます。
既存のアークを間引く際には、Douglas-Peucker アルゴリズムを使用して、各アークの座標を間引きます。各アークの始点からアークの他の頂点へのトレンド ラインが作成され、ウィード許容値に基づいて各トレンド ラインの許容値内にある頂点の間引きが処理されます。
ウィード許容値には、0.02 インチ（0.0508 センチメートル）またはカバレッジ単位でそれに相当する値が推奨されます。
カバレッジ TOL ファイル
カバレッジの許容値ファイル（tol.adf）には、カバレッジのファジー許容値、ダングルの長さ、TIC マッチ許容値の値が含まれています。これらの許容値はカバレッジの処理に影響をおよぼし、カバレッジの解像度の定義に役立つため、それらの値を把握しておくことが重要です。ArcGIS for Desktop では、多くの操作に対して許容値を設定することができます。たとえば、ファジー許容値とダングルの長さはどちらもカバレッジ ツール（[クリーン（Clean）]、[バッファ（Buffer）]、すべてのオーバーレイ ツールなど）の入力として指定され、それらの値に基づいて地理解析が実際され、トポロジが作成されます。
[許容値（Tolerance）] ツールで設定された許容値は、カバレッジの実際の解像度を直ちに反映するわけではありません。新しい許容値にカバレッジ解像度を正確に反映させるには、新しい許容値を使用してカバレッジを処理しなければなりません。このため、許容値にはそれぞれ検証インジケータがあります。指定された許容値が検証されているのは、カバレッジがその許容値で処理されている場合だけです。各許容値の検証状態は、許容値リストに示されます。
カバレッジの許容値は、ArcCatalog でも表示することができます。ArcCatalog で、[カバレッジ プロパティ] ダイアログ ボックスの [一般] タブに移動して、カバレッジのファジーおよびダングル トポロジ許容値を表示できます。
マップ縮尺での許容値の計算
次の式を使用して、さまざまな入力マップ縮尺をフィートまたはメートル単位で計算することができます。
カバレッジがフィートで格納される場合:
tol(feet) = tol(inches) * scale / 12カバレッジがメートルで格納される場合:
tol(meters) = tol(centimeters) * scale / 100これらの式の縮尺が表示端数の分母であることに注意してください（たとえば、マップ縮尺が 1:250,000 での値 250,000）。
たとえば、1:63,360 のマップ縮尺で 0.002 インチは 10.56 フィートまたは 3.218 メートルに相当します。