La resolución hace referencia a la capacidad de reconocer y distinguir entidades. Una característica importante de una cobertura es la resolución o la precisión con la que se almacenan la ubicación y la forma de entidades geográficas. Por ejemplo, una resolución de 1 metro significa que la coordenada que indica la posición real de un terreno está dentro de 1 metro de los valores de coordenadas almacenados.
La resolución de la cobertura depende de tres factores: la precisión de coordenada especificada, la precisión del dispositivo de entrada (por ejemplo: una tableta de digitalización) y las tolerancias de la escala de los documentos de entrada y de los procesamientos de cobertura, particularmente la tolerancia difusa que se utiliza en varios comandos de geoprocesamiento.
Precisión de coordenada
La precisión de la coordenada hace referencia a la exactitud matemática de una coordenada y se basa en el número de dígitos significativos posible que se puede almacenar para cada coordenada. Los datasets de cobertura se almacenan en coordenadas de precisión simple o doble. La precisión simple almacena hasta siete números de dígitos significativos para cada coordinada. Esto significa que un valor de 4.999.999,6 de unidades o de 5.000.000,4 de unidades será redondeado en 5.000.000 de unidades cuando se almacenen en precisión simple. Por otro lado, un valor de 5.000.000,6 será redondeado en 5.000.001 de unidades cuando se almacene en precisión simple. Esto se puede evitar fácilmente utilizando la precisión doble. La precisión doble almacena hasta 15 números de dígitos significativos (generalmente, de 13 a 14), por lo que conserva una precisión matemática mucho menor que 1 metro en una extensión global. Tenga en cuenta que aunque la precisión matemática no defina la exactitud, es un factor fundamental en la resolución de la cobertura.
El equipo sólo puede discernir un número limitado de posiciones decimales, según la precisión que se utiliza. Para los números de precisión simple, los valores como 1,2345678 y 1,23456789 son considerados iguales por el equipo ya que se ignoran los números que están después del séptimo dígito. Puede imaginarse un halo muy pequeño que rodea a cada coordenada que es igual a la resolución del almacenamiento de coordenadas en el equipo. El equipo interpreta que las coordenadas con halos superpuestos representan la misma ubicación.
El equipo equipara dos coordenadas cuando tienen halos superpuestos.
Debe utilizar coordenadas de precisión doble para las coberturas cuando sea posible. Esto le permite configurar tolerancias difusas extremadamente pequeñas para todos los procesamientos (por ejemplo: 0,00000001), lo que se minimiza los efectos del procesamiento difuso en el cambio de coordenadas.
Si desea convertir un shapefile a una cobertura, utilice la herramienta De clase de entidad a cobertura y configure la precisión en Doble (en el cuadro de diálogo Entornos en Configuración de cobertura). Un shapefile siempre es doble, por lo que la cobertura debe está configurada en Doble para evitar la pérdida de exactitud en el proceso de conversión.
Precisión del dispositivo y escala de los documentos de entrada
La resolución también está limitada por la resolución del dispositivo de entrada y la escala del documento de entrada. Por ejemplo, supongamos que la tableta de digitalización tiene una resolución de 0,002 pulgadas (la distancia mínima entre puntos en un digitalizador es de 0,002 pulgadas) y está digitalizando un mapa en una escala de 1:63.360. La escala el mapa se puede expresar de varias formas:
- 1 pulgada del mapa = 63.360 pulgadas del terreno
- 1 pulgada del mapa = 5.280 pies del terreno (63.360/12)
- 1 pulgada del mapa = 1.609 metros del terreno
- 0,002 pulgadas del mapa = 10,56 pies del terreno
La última línea equipara la resolución del digitalizador con la distancia del terreno. Debido a que no es posible que una cobertura sea más exacta que la resolución del digitalizador, la distancia mínima que separa las coordinadas digitalizadas de un mapa en escala 1:63.360 representa 10,56 pies del terreno. Si las coordenadas de la cobertura se almacenan en pies, la resolución de la cobertura no puede ser mejor que 10,56 pies. Si esta resolución no es aceptable, se debe digitalizar un mapa en una escala mayor.