La résolution fait référence à la capacité de reconnaître et à distinguer des entités. Une caractéristique importante d'une couverture est sa résolution, ou la précision à laquelle la localisation et la forme d'entités géographiques sont stockées. Par exemple, une résolution de 1 mètre signifie que la position réelle sur le terrain d'une coordonnée est située dans un rayon de 1 mètre par rapport aux valeurs de coordonnées mémorisées.
La résolution d'une couverture est influencée par trois facteurs : la précision de coordonnées spécifiée, la précision du périphérique en entrée (par exemple, une tablette à numériser) et l'échelle des documents en entrée, ainsi que les tolérances de traitement de la couverture, en particulier la tolérance floue utilisée dans de nombreuses commandes de géotraitement.
Précision des coordonnées
La précision des coordonnées se rapporte au haut degré de précision des coordonnées, évalué en fonction du nombre de chiffres significatifs pouvant être stockés pour chaque coordonnée. Les jeux de données de couverture sont stockés dans des coordonnées à simple ou double précision. La simple précision mémorise jusqu'à sept chiffres significatifs pour chaque coordonnée. Ceci signifie qu'une valeur comme 4 999 999,6 unités ou 5 000 000,4 unités est arrondie à 5 000 000 unités lorsqu'elle est mémorisée en simple précision. Par contre, la valeur 5 000 000,6 est arrondie à 5 000 001 unités lorsqu'elle est stockée en simple précision. Ce problème peut facilement être évité en utilisant la double précision. La double précision stocke jusqu'à 15 chiffres significatifs (en règle générale, 13 à 14 chiffres), ce qui permet de conserver une précision mathématique très inférieure à 1 mètre sur une emprise globale. Notez que même si la précision mathématique ne définit pas, en soi, la précision, il s'agit d'un facteur majeur dans la résolution d'une couverture.
L'ordinateur ne peut discerner qu'un nombre limité de décimales, selon la précision utilisée. Pour des coordonnées à simple précision, des valeurs telles que 1,2345678 et 1,23456789 sont considérées comme étant égales par l'ordinateur parce que les nombres au-delà du septième chiffre ne sont pas pris en compte. Vous pouvez imaginer un très, très petit halo entourant chaque coordonnée qui est égal à la résolution du stockage de coordonnées sur l'ordinateur. Pour l'ordinateur, les coordonnées avec des halos superposés représentent le même emplacement.
L'ordinateur égalise deux coordonnées quand leurs halos se chevauchent.
Vous devez utiliser des coordonnées à double précision pour les couvertures lorsque cela est possible. Cela vous permet de définir des tolérances floues extrêmement faibles pour l'ensemble du traitement (par exemple, 0,00000001), ce qui minimise les effets du traitement flou sur le déplacement de coordonnées.
Si vous convertissez un fichier de formes en une couverture, utilisez l'outil Classe d'entités vers couverture et définissez la précision sur Double (dans la boîte de dialogue Environnements sous Environnement des couvertures). Un fichier de formes a toujours une double précision ; par conséquent, la couverture doit avoir la valeur Double pour éviter toute perte de précision dans le processus de conversion.
Précision du périphérique et échelle de documents en entrée
La résolution est également limitée par la résolution du périphérique en entrée et l'échelle du document en entrée. Par exemple, supposons que votre tablette à numériser a une résolution de 0,002 pouce, que la distance minimale entre les points sur le numériseur est de 0,002 pouce et que vous numérisez une carte à une échelle de 1:63 360. L'échelle de carte peut être indiquée de nombreuses façons :
- 1 pouce sur la carte = 63 360 pouces sur le terrain
- 1 pouce sur la carte = 5 280 pieds sur le terrain (63 360/12)
- 1 pouce sur la carte = 1 609 mètres sur le terrain
- 0,002 pouce sur la carte = 10,56 pieds sur le terrain (63 360/12)
La dernière ligne permet d'obtenir que la résolution du numériseur soit égale à la distance sur le terrain. Comme il n'est pas possible qu'une couverture soit plus précise que la résolution du numériseur, la distance minimale qui sépare des coordonnées numérisées à partir d'une carte à une échelle 1:63 360 représente 10,56 pieds sur le terrain. Si les coordonnées de la couverture sont stockées en pieds, la résolution de la couverture ne peut pas être meilleure que 10,56 pieds. Si cette résolution n'est pas acceptable, une carte à plus grande-échelle doit être numérisée.