L2 Precision
Completion requirements
Unit B: Measurement
Precision
Two characteristics of measurement can be described by the precision of a measuring tool.Precision is first determined by the smallest increment or division on a measuring tool. The smaller the scale, the more likely the measurement on the tool will be precise. Measurements are precise if the values are consistent when the measurements are repeated.
A ruler is precise to the nearest 0.1 mm, which is the smallest increment. |
A micrometer can measure to the nearest 0.001 mm. Therefore, a micrometer can measure more precisely than a ruler. |
A digital scale is precise to 1 g. |
A bathroom scale can measure to the nearest 500 g or 0.5 kg. Therefore, a digital scale can measure more precisely than a bathroom scale. |
The second characteristic that can be described by the precision of a measuring tool is the uncertainty of a measurement. This is the margin of error of the measurement. Unless stated, uncertainty is half the precision of a measuring tool.
| «math xmlns=¨http://www.w3.org/1998/Math/MathML¨» «mi»uncertainty«/mi» «mo»=«/mo» «mfrac» «mi»precision«/mi» «mn»2«/mn» «/mfrac» «/math» |
|
Since a digital scale is precise to 1 g, the uncertainty would be 0.5 g. «math xmlns=¨http://www.w3.org/1998/Math/MathML¨» «mtable columnspacing=¨0px¨ columnalign=¨right center left¨» «mtr» «mtd» «mi»uncertainty«/mi» «/mtd» «mtd» «mo»=«/mo» «/mtd» «mtd» «mfrac» «mi»precision«/mi» «mn»2«/mn» «/mfrac» «/mtd» «/mtr» «mtr» «mtd»«/mtd» «mtd» «mo»=«/mo» «/mtd» «mtd» «mfrac» «mrow» «mn»1«/mn» «mo»§#160;«/mo» «mi mathvariant=¨normal¨»g«/mi» «/mrow» «mn»2«/mn» «/mfrac» «/mtd» «/mtr» «mtr» «mtd»«/mtd» «mtd» «mo»=«/mo» «/mtd» «mtd» «mn»0«/mn» «mo».«/mo» «mn»5«/mn» «mo»§#160;«/mo» «mi mathvariant=¨normal¨»g«/mi» «/mtd» «/mtr» «/mtable» «/math» |
Since a bathroom scale can measure to the nearest 500 g, the uncertainty would be 250 g. «math xmlns=¨http://www.w3.org/1998/Math/MathML¨» «mtable columnspacing=¨0px¨ columnalign=¨right center left¨» «mtr» «mtd» «mi»uncertainty«/mi» «/mtd» «mtd» «mo»=«/mo» «/mtd» «mtd» «mfrac» «mi»precision«/mi» «mn»2«/mn» «/mfrac» «/mtd» «/mtr» «mtr» «mtd»«/mtd» «mtd» «mo»=«/mo» «/mtd» «mtd» «mfrac» «mrow» «mn»500«/mn» «mo»§#160;«/mo» «mi mathvariant=¨normal¨»g«/mi» «/mrow» «mn»2«/mn» «/mfrac» «/mtd» «/mtr» «mtr» «mtd»«/mtd» «mtd» «mo»=«/mo» «/mtd» «mtd» «mn»250«/mn» «mo»§#160;«/mo» «mi mathvariant=¨normal¨»g«/mi» «/mtd» «/mtr» «/mtable» «/math» |