容差以 coverage 的单位表示,用于 coverage 的自动化处理和更新步骤,如 coverage 配准、要素捕捉和坐标间距。这些容差可以影响 coverage 的分辨率,这是因为容差可以指定执行操作期间坐标的允许移动范围。允许的移动范围越大,得到的分辨率越低。例如,在结点捕捉开启的情况下进行数字化或编辑时,如果两个结点落在彼此的给定距离内,则这两个结点将自动捕捉到一起;这个距离就是结点捕捉容差。如果要素的坐标使用的是数字化仪单位,则容差很可能使用英寸作为单位;如果要素已投影,则容差很可能使用英尺或米作为单位。设置的容差可以控制 ArcInfo Workstation ArcEdit 应用程序中的编辑行为。
“Coverage 属性”对话框列出了“模糊”和“悬挂”容差值的当前拓扑。每个值旁边的“已校验”或“未校验”可以表明在编辑过程中是否对容差进行了显式设置。如果想将默认容差更改为更适合 coverage 中要素的类型和比例的值,则在“容差”选项卡上进行更改时,默认容差将消失。可以使用容差工具来设置容差;不过,使用此地理处理工具需要Advanced许可。当您运行该工具或命令后打开“Coverage 属性”对话框时,在使用过的容差旁边将显示“已校验”。
下面列出了清理或编辑 coverage 时应了解的 8 个容差:
- 弧捕捉容差:新添加的弧为关闭未及情况而需要延伸的距离。
- 悬挂:短于悬挂长度的悬挂弧将在执行清理操作时删除。
- 模糊容差:最大距离坐标可在执行清理、缓冲和叠加操作时发生平移。模糊容差是用于移除弧折点和检测交叉点的距离。
- 颗粒容差:添加样条和曲线(例如,死胡同)时折点之间的受控距离。
- 结点捕捉容差:一个距离。在这个距离内,新折点将捕捉到现有的折点。
- 均方根 (RMS) 误差:数字化和 coverage 变换期间控制点配准精度的量度。
- 控制点匹配容差:在数字化仪上配准地图时允许的最大配准误差。该容差有助于确保精确的地图配准(即,保持 RMS 误差最低)。
- 去点容差:数字化期间弧上两点之间的最小距离,用于概化现有的弧。
注意,只能使用 ArcInfo Workstation 来编辑 coverage。
处理 coverage 的容差
弧捕捉容差
弧捕捉容差是新弧为与现有的弧相交需要延伸的距离。结点在连接弧线的新交叉点处创建。
对于给定的输入地图比例,弧捕捉容差的建议值是 0.05 英寸(0.127 厘米)或 coverage 单位的对等长度。
悬挂长度
悬挂弧左右两端的面相同(由面内部数量定义),并且至少包含一个悬挂结点。悬挂长度定义了 coverage 中悬挂弧的最小允许长度。清理工具可以删除短于悬挂长度的悬挂弧。
随正在自动处理的地图要素的类型的不同,悬挂长度的建议值也经常有变化。通常,当 coverage 含有线状要素时,悬挂长度的建议值为 0。对于面,悬挂长度的建议值通常为 0.05 英寸(0.127 厘米)或 coverage 单位的对等长度。不接受负值。
模糊容差
Coverage 分辨率受模糊容差影响,此模糊容差可以表示分隔 coverage 中的所有弧坐标(结点和折点)的最小距离。根据定义,它还定义坐标在某些操作过程中可以移动的距离。模糊容差是一个极小的距离值,用于解决由于计算机的算术精度有限而引发的相交位置不精确问题。模糊容差值的范围通常是 coverage bnd.adf 文件中定义的 coverage 范围宽度的 1/10,000 到 1/1,000,000 倍。
使用某些工具(例如“清理”)处理 coverage 时,处于彼此的模糊容差范围内的坐标会被视为相等坐标(即位于同一位置)。因此,某些坐标会被移动至其他坐标的位置。为了使此类移动幅度较小,应保持模糊容差较小(即,小于 0.002 英寸)。当 coverage 使用双精度坐标时,可以定义极小的模糊容差。模糊容差的测量单位与输入 coverage 的测量单位相同。
由于弧坐标可以移动与模糊容差距离相同的距离,因此通过使用模糊容差的工具来处理 coverage,可以解决 coverage 中的许多潜在问题。这包括极小的过伸或未及的处理、重复线段的自动分离删除以及沿弧线的坐标细化。
模糊容差由清理工具使用。它表示“清理”工具可在多大的范围内移动要素、消除重复结点、在线相交处创建结点,以及消除重复要素。模糊容差以 coverage 单位来度量。使用“清理”工具时,指定合适的模糊容差从而避免错误地消除必要的要素至关重要。模糊容差过小会导致以下两种问题:可能没有创建弧交点,或者可能没有成功地清理极小的碎屑点。相反,模糊容差过大可能导致一些要素移动幅度过大(例如,Township Range 格网内的被测区域拐角)、面折叠或不该合并的弧合并。
模糊容差可以指定为许多工具(例如,清理、裁剪、缓冲区、擦除、相交、标识、分割和联合)中的变量。您可以指定一个值或使用 coverage 容差文件中的默认值。ArcGIS for Desktop 将按照下面的顺序计算默认模糊容差:
- 如果未指定模糊容差,那么将从容差 (TOL) 文件中读取模糊容差。如果没有容差文件或者文件内没有模糊容差的值,那么将生成错误消息并停止处理。
- 如果在 bnd.adf 文件中没有指定 coverage 范围,那么即使已经在命令行或容差文件内指定了模糊容差值,模糊容差也将被设置为 0.001。
- 如果某个工具执行了线段相交操作(如为了“清理”)并且 coverage 坐标是单精度的,那么 coverage 边界范围及最大范围值将用于计算所需的最小模糊容差。如果该容差大于从上面两个步骤中得到的容差,那么将使用较大的那个值,并使用新值对容差文件进行更新。否则,将不会更改模糊容差。
数字化仪精度为 0.002 英寸的模糊容差的计算过程如下:
(比例分母/每一个 coverage 单位中的英寸数) * 0.002
例如,以英尺作为 coverage 单位,比例为 1:250,000,则计算过程如下:
(250,000/12) * 0.002 = 41.660
建议模糊容差的值取得小一些(如 bnd.adf 范围的 1/100,000 倍)。如果指定的模糊容差过小,那么将自动计算最小容差。单精度 coverage 最容易出现这种情况。
常用的模糊容差值
用于数字化处理的输入比例 | Coverage 单位 | 模糊容差(地面上) |
---|---|---|
1:250,000 | 英尺 | 41.660 |
米 | 12.700 | |
1:100,000 | 英尺 | 16.620 |
米 | 5.080 | |
1:63,360 | 英尺 | 10.560 |
1:62,500 | 米 | 3.210 |
1:24,000 | 英尺 | 4.000 |
米 | 1.219 | |
1:6,000 | 英尺 | 1.000 |
米 | 0.304 |
颗粒容差
颗粒容差可以控制弧的折点数以及沿曲线的折点之间的距离。颗粒容差越小,折点距离得越近。颗粒容差还用于增加曲线中弧的数量。尽管颗粒容差将影响新创建的曲线的形状,但用于增密现有的弧时对形状却没有影响。
颗粒容差的建议值为 0.02 英寸(0.0508 厘米)或 coverage 单位的对等长度,同时该值也是去点容差的建议值。创建新弧时,去点容差可以控制沿直弧的折点间的距离,而颗粒容差可以控制沿弯曲弧的折点间的距离。
结点捕捉容差
结点捕捉容差是一个最小距离,在这个距离内,将连接(匹配)两个结点以形成一个结点。
添加或编辑弧且移动或添加结点时,将进行这种匹配过程。例如,添加上图中由虚线表示的弧段时,该弧段的结点将自动捕捉到结点捕捉容差内的任意现有结点。
结点捕捉的建议值为 0.05 英寸(0.127 厘米)或 coverage 单位的对等长度。对于精确的 coverage 自动化处理而言,该结点捕捉容差不是很准确。
RMS 误差
均方根的值表示由变换过程计算出的原始坐标位置和新坐标位置之间误差的大小。当控制点用于在数字化仪上配准地图时以及在执行变换(投影)操作期间,ArcGIS for Desktop Advanced将自动计算均方根误差(或控制点配准误差)。RMS 误差越小,数字化或变换越精确。
要配准地图,需要数字化控制点的位置并将控制点的位置与存储的 coverage 控制点的 x,y 位置进行比较。该过程定义了一个坐标变换,即:变换比例、旋转以及 x 方向和 y 方向上的平移。然后,该变换将应用于在数字化仪中输入的所有坐标,将这些坐标以 coverage 单位的形式进行渲染。
RMS 将以数字化仪单位和 coverage 单位进行报告。要保持地理数据高度精确,RMS 应保持低于 0.004 英寸(或所使用的坐标系中的对等测量值)。对于精度较低的数据,该值可高达 0.008 英寸或其对等测量值。控制点匹配容差(如下所述)可用于确保较小的 RMS 误差。
RMS 误差也由变换工具计算。使用“变换”工具时,RMS 表示旧 coverage 坐标变换为新 coverage 坐标所采用的精度。可通过将旧 coverage 中的控制点位置与新 coverage 中的输入控制点位置进行比较来计算 RMS。在“变换”工具的帮助文件中,您可以了解有关变换和 RMS 误差的详细信息。
控制点匹配容差
控制点匹配容差以 coverage 单位进行报告,用于确保地图在数字化仪上精确配准。它是现有控制点和所数字化的控制点之间允许的最大距离。如果超出控制点匹配容差,则数字化误差不可接受,需要对地图重新配准。控制点匹配容差用于确保地图在数字化仪上配准时的 RMS 误差较小。它可以度量 coverage 中的每个控制点位置与经过数字化处理的位置的匹配精度。当地图在数字化仪上进行配准时,将自动计算每个控制点的控制点配准误差。您需要重新配准与期望的控制点距离大于匹配容差的所有控制点位置。
在上面的示例中,控制点 3 必须重新配准,因为它与期望的控制点位置之间的距离大于控制点匹配容差。
根据正在自动处理的数据质量的不同,控制点匹配容差的建议值也不同。对于精确要求很高的地图数据,该值不应大于 0.004 英寸(0.01016 厘米);对于精度要求较低的地图,该值不应大于 0.008 英寸(0.02032 厘米)。
使用“容差”工具对控制点匹配容差进行设置。设置完毕后,在 ArcGIS for Desktop 内重新数字化控制点时,可随时使用该容差。
去点容差
去点容差是沿弧线的两折点间允许的最小距离。去点容差用于减少弧中坐标的数量,是在添加弧要素或概化现有弧之前可进行设置的参数。
添加新弧时,将忽略前一折点的去点容差内的新折点。
对现有弧进行去点操作时,将使用道格拉斯-普克算法去除每条弧内的坐标。将从每条弧段的起点到弧中的其他折点创建趋势线;去点容差用于标识落在每条趋势线的容差内的要去除的折点。
建议去点容差的值为 0.02 英寸(0.0508 厘米)或 coverage 单位的对等长度。
coverage TOL 文件
coverage 的容差 (tol.adf) 文件含有 coverage 的模糊容差、悬挂长度和控制点匹配容差的值。由于这些容差可以影响 coverage 的处理并有助于定义 coverage 的分辨率,因此跟踪这些容差的值很重要。在 ArcGIS for Desktop 中,可对许多操作设置容差值。例如,可将模糊容差和悬挂长度都指定为某些 coverage 工具的输入,在这些 coverage 工具中,将执行地理分析并创建拓扑(如清理、缓冲区和所有“叠加分析”工具)。
利用容差工具设置的容差不会立即反映 coverage 的实际分辨率。必须用新的容差对 coverage 进行处理方可准确地反映 coverage 的分辨率。因此,每个容差都将具有一个“已校验”指示器。只有通过指定的容差对 coverage 进行了处理,该容差才是已校验的容差。每个容差的校验状态将显示在容差列表中。
在 ArcCatalog 中,还有一种方法可以查看 coverage 的容差。在 ArcCatalog 中,您可以访问“Coverage 属性”对话框的“常规”选项卡,以查看 coverage 的模糊和悬挂拓扑容差。
计算给定地图比例的容差
下列公式可用于计算以英尺或米为单位的各种输入地图比例的测量值。
如果 coverage 以英尺存储
tol(feet) = tol(inches) * scale / 12
如果 coverage 以米存储
tol(meters) = tol(centimeters) * scale / 100
注意,这些公式中的比例是数字比例的分母(例如,对于地图比例 1:250,000,该值为 250,000)。
例如,当地图比例为 1:63,360 时,0.002 英寸相当于 10.56 英尺或 3.218 米。