¿Cuál es la precisión y la escala?

December 30

El término de precisión se utiliza en muchos campos para describir el grado en que se expresa la exactitud o precisión, de una cantidad. Sin embargo, en las matemáticas y la informática, la precisión se refiere específicamente a la cantidad de dígitos, o cifras significativas, en un número.

Escala

La escala se refiere al número de dígitos a la derecha del punto decimal en un número. Para ilustrar, el número, 123,45, tiene cinco dígitos, dos de los cuales están a la derecha del punto decimal; que tiene una precisión de 5 y una escala de 2.

Bases de datos

La precisión y la escala es importante para determinar la exactitud de los datos numéricos almacenados en bases de datos informáticas. lenguajes de definición de la base de datos suelen permitir la precisión y la escala que se especifican para los tipos de datos decimales, hasta una precisión máxima de 38.

Aritmética

Si la aritmética se realiza en los datos numéricos, la precisión y la escala del resultado depende de la de los datos originales. Si dos expresiones tienen el mismo tipo de datos, el resultado tiene la precisión y la escala definidas para ese tipo de datos; si no, se utilizan reglas de precedencia para determinar la precisión y la escala del resultado.


Artículos relacionados