책상 위에 동전 하나를 놓고 버니어 캘리퍼스로 지름을 측정한다고 생각해 보자.
첫 번째 측정에서는 23.85mm가 나왔다고 가정한다. 캘리퍼스를 완전히 벌렸다가 다시 같은 동전을 측정했더니 이번에는 23.90mm가 나왔다. 한 번 더 측정했더니 23.85mm가 표시된다.
같은 동전이고 같은 캘리퍼스를 사용했는데 왜 숫자가 완전히 같지 않을까?
측정도구를 처음 사용하면 이런 상황에서 도구가 고장 난 것은 아닌지 생각하기 쉽다. 또는 자신이 측정을 잘못했다고 생각할 수도 있다. 물론 측정 방법에 문제가 있을 수도 있다.
하지만 측정값이 조금씩 달라지는 현상 자체가 반드시 고장이나 단순한 실수를 의미하는 것은 아니다.
측정은 실제 물체의 상태, 측정도구의 특성, 측정 위치, 사람이 도구를 사용하는 방법, 주변 환경 등 여러 조건의 영향을 받기 때문이다. 따라서 측정을 이해하려면 ‘어떤 숫자가 나왔는가?’뿐 아니라 그 숫자가 어떤 조건에서 만들어졌는가도 함께 살펴봐야 한다.
측정값과 실제 값은 같은 개념일까
측정도구의 눈금을 읽으면 하나의 숫자를 얻게 된다.
우리는 자연스럽게 그 숫자를 물체의 실제 크기라고 생각하기 쉽다.
하지만 측정이라는 과정에는 항상 도구와 방법이 개입한다.
예를 들어 막대의 길이를 일반 자로 측정한다고 해보자.
막대 끝이 정확히 0 눈금에 놓여 있는지, 자와 막대가 평행한지, 어느 방향에서 눈금을 읽었는지에 따라 결과에 차이가 생길 수 있다.
버니어 캘리퍼스를 사용한다면 또 다른 조건이 추가된다.
측정 조를 물체에 얼마나 강하게 접촉시켰는지, 캘리퍼스가 기울어지지는 않았는지, 측정면에 이물질이 없는지 등이 결과에 영향을 줄 수 있다.
따라서 우리가 얻는 것은 물체 그 자체에서 직접 꺼낸 숫자가 아니라 특정한 도구와 방법으로 물체를 관찰해서 얻은 측정값이다.
측정학에서는 측정 결과와 기준이 되는 값 사이의 차이를 다루기 위해 오차라는 개념을 사용한다.
일상에서는 ‘오차가 생겼다’라는 말을 ‘누군가 실수했다’는 뜻처럼 사용하기도 한다. 하지만 측정에서 오차를 이해할 때는 단순한 부주의와 동일한 의미로만 생각하지 않는 것이 좋다.
측정 과정에는 여러 불확실한 요소가 존재할 수 있기 때문이다.
같은 물건인데 왜 측정할 때마다 달라질까
반복 측정값이 달라지는 이유는 생각보다 다양하다.
가장 먼저 생각해 볼 수 있는 것은 측정 위치다.
앞선 글에서 원통의 외경을 살펴봤듯이 실제 물체가 완벽한 원이나 직선으로 만들어져 있다고 단정할 수 없다.
원통형 막대도 위치에 따라 지름이 조금 다를 수 있다. 동전이나 원형 부품도 미세한 변형이나 표면 상태 때문에 방향에 따라 측정값이 달라질 수 있다.
따라서 측정할 때마다 위치가 조금씩 달라진다면 숫자가 변하는 것이 이상한 현상은 아니다.
두 번째는 측정하는 힘이다.
캘리퍼스의 조를 첫 번째에는 가볍게 접촉시키고 두 번째에는 강하게 눌렀다면 같은 조건의 측정이라고 보기 어렵다.
특히 고무나 얇은 플라스틱처럼 변형되기 쉬운 물체는 힘에 따라 크기가 달라질 수 있다.
세 번째는 측정도구의 방향이다.
원통의 외경을 측정하면서 캘리퍼스를 비스듬하게 잡거나 중심에서 벗어난 위치를 측정하면 원하는 지름과 다른 값이 나타날 수 있다.
네 번째는 눈금을 읽는 과정이다.
아날로그 측정도구에서는 사람이 어느 눈금을 기준으로 판단했는지에 따라 작은 차이가 발생할 수 있다.
결국 반복 측정에서 값이 달라진다면 먼저 측정 조건이 정말 같았는지를 확인해 볼 필요가 있다.
측정도구의 분해능은 무엇을 의미할까
측정도구를 살펴보면 1mm, 0.1mm, 0.01mm처럼 서로 다른 단위까지 표시할 수 있는 제품이 있다.
이때 알아두면 좋은 개념이 분해능이다.
간단하게 말하면 측정도구가 표시하거나 구별할 수 있는 값의 세밀한 정도와 관련된 개념이다.
예를 들어 1mm 간격으로만 눈금이 표시된 일반 자와 0.01mm 단위까지 표시되는 디지털 측정기를 비교하면 후자가 훨씬 세밀한 숫자를 보여줄 수 있다.
하지만 여기서 주의할 부분이 있다.
숫자를 더 세밀하게 표시한다는 것과 실제 값을 그만큼 정확하게 알아낸다는 것은 같은 말이 아니다.
예를 들어 어떤 디지털 측정기가 소수점 둘째 자리까지 숫자를 표시한다고 생각해 보자.
화면에 25.37mm라고 표시되면 상당히 정확한 값처럼 느껴질 수 있다.
하지만 측정기가 올바른 상태인지, 측정 방법은 적절했는지, 기기의 허용 오차나 성능은 어느 정도인지 등을 고려하지 않고 표시 자릿수만으로 정확성을 판단할 수는 없다.
화면에 자릿수가 많다고 해서 그 모든 자릿수가 자동으로 실제 치수를 완벽하게 나타내는 것은 아니다.
이 차이를 이해하면 측정기에서 보이는 긴 숫자에 필요 이상으로 의미를 부여하는 일을 줄일 수 있다.
반복 측정을 하면 무엇을 알 수 있을까
같은 물체를 여러 번 측정하는 것은 단순히 귀찮은 반복 작업처럼 보일 수 있다.
하지만 반복 측정에서는 한 번의 측정으로는 알기 어려운 정보를 얻을 수 있다.
예를 들어 같은 위치를 같은 방법으로 다섯 번 측정했다고 해보자.
결과가 다음과 같다고 가정할 수 있다.
20.10mm
20.10mm
20.15mm
20.10mm
20.15mm
측정값이 완전히 같지는 않지만 일정한 범위 안에서 반복되고 있다.
이번에는 다른 상황을 생각해 보자.
20.10mm
20.50mm
19.80mm
20.30mm
21.00mm
값이 훨씬 넓은 범위에서 달라진다.
두 경우 모두 한 번의 숫자만 보면 측정값 하나일 뿐이다.
하지만 여러 번 측정해 보면 결과가 얼마나 일정하게 반복되는지 비교할 수 있다.
만약 같은 조건이라고 생각했는데 결과가 크게 달라진다면 측정 방법이나 도구의 상태, 대상의 위치 등을 다시 살펴볼 이유가 생긴다.
따라서 반복 측정의 중요한 의미 중 하나는 측정 과정의 일관성을 확인하는 것이라고 볼 수 있다.
평균을 내면 무조건 정확해질까
반복 측정을 하면 여러 값의 평균을 계산하는 방법을 떠올릴 수 있다.
값이 조금씩 무작위로 흔들리는 상황에서는 여러 측정값을 종합해 대표값을 살펴보는 데 평균이 유용할 수 있다.
하지만 평균이 모든 측정 문제를 해결하는 것은 아니다.
예를 들어 길이가 정확하게 맞지 않는 자를 사용한다고 생각해 보자.
자 자체의 눈금이 일정한 방향으로 잘못되어 있다면 같은 물체를 100번 측정하고 평균을 내더라도 그 원인이 자동으로 사라지는 것은 아니다.
또 캘리퍼스의 0점이 잘못된 상태에서 계속 측정한다면 모든 값에 비슷한 방향의 차이가 포함될 수 있다.
이처럼 반복할 때 우연히 달라지는 요소와 일정한 방향으로 영향을 주는 요소는 구분해서 생각할 필요가 있다.
평균은 여러 값을 하나의 대표값으로 정리하는 데 도움이 되지만 측정도구의 상태나 잘못된 측정 방법을 자동으로 수정해 주는 장치는 아니다.
그래서 반복 측정과 함께 측정도구의 기준 상태를 확인하는 과정도 중요하다.
0점 확인이 중요한 이유
버니어 캘리퍼스를 사용하기 전에 외측 측정 조를 가볍게 닫아 보면 기준 위치를 확인할 수 있다.
아무것도 측정하지 않았는데 0을 나타내야 할 조건에서 다른 값을 나타낸다면 이후의 측정 결과도 영향을 받을 수 있다.
마이크로미터 역시 측정 전 기준 상태를 확인하는 과정이 중요하다.
이런 확인을 하는 이유는 단순하다.
측정도구 자체가 출발점에서부터 어긋나 있다면 물체를 아무리 조심스럽게 측정해도 결과에 그 영향이 포함될 수 있기 때문이다.
일반 자에서도 비슷한 상황을 생각할 수 있다.
자의 끝부분이 깨져 0 눈금이 사라졌는데 물체를 자의 끝에 그대로 맞춰 측정한다면 실제 0 위치와 시작점이 달라질 수 있다.
이때는 자의 끝이 아니라 남아 있는 다른 눈금을 시작점으로 정하고 마지막 눈금과의 차이를 계산하는 방법을 사용할 수 있다.
측정에서 중요한 것은 도구의 물리적인 끝이 아니라 정확한 기준점이라는 사실을 보여주는 사례다.
사람의 눈도 측정 결과에 영향을 줄 수 있다
눈금자를 읽을 때는 보는 위치도 중요하다.
눈금 바로 위에서 수직으로 바라볼 때와 옆으로 비스듬하게 바라볼 때 물체의 끝이 서로 다른 눈금에 있는 것처럼 보일 수 있다.
이러한 현상은 시차와 관련이 있다.
벽시계를 옆에서 바라보면 시곗바늘의 위치가 눈금과 조금 어긋나 보이는 것과 비슷하다.
특히 측정 대상과 눈금 사이에 높이 차이가 있을수록 이러한 영향이 눈에 띌 수 있다.
아날로그 계기나 눈금을 직접 읽는 측정도구에서도 보는 방향을 일정하게 유지하는 이유가 여기에 있다.
이 문제는 다음 글에서 좀 더 자세히 다룰 수 있지만, 측정 오차를 이해할 때 기억해야 할 점은 사람도 측정 시스템의 일부라는 것이다.
도구만 정확하면 모든 측정이 자동으로 정확해지는 것은 아니다.
도구를 어디에 놓고 어떻게 바라보고 어떤 힘으로 접촉시키는지가 결과에 영향을 줄 수 있다.
온도도 길이를 바꿀 수 있을까
일상적인 길이 측정에서는 온도를 거의 생각하지 않는다.
책상 길이를 줄자로 재면서 방의 온도를 기록하는 사람은 많지 않을 것이다.
하지만 정밀한 측정으로 갈수록 온도는 무시하기 어려운 요소가 될 수 있다.
많은 물질은 온도가 변하면 미세하게 팽창하거나 수축한다.
금속도 예외가 아니다.
따라서 매우 작은 길이 차이를 비교하는 상황에서는 측정 대상과 측정도구의 온도 상태가 결과에 영향을 줄 수 있다.
예를 들어 차가운 장소에 있던 금속 부품을 따뜻한 공간으로 가져온 직후 측정하는 상황과 충분한 시간이 지난 뒤 측정하는 상황은 완전히 동일한 조건이라고 보기 어려울 수 있다.
손으로 정밀 측정도구를 오랫동안 잡고 있는 것도 상황에 따라 영향을 줄 수 있다.
물론 일반적인 생활 측정에서 이러한 변화까지 모두 관리할 필요는 없다.
중요한 점은 요구되는 정밀도가 높아질수록 평소에는 무시했던 작은 요소까지 고려 대상이 될 수 있다는 것이다.
정확도와 정밀도는 같은 말일까
일상에서는 ‘정확하다’와 ‘정밀하다’를 비슷한 의미로 사용하기도 한다.
하지만 측정을 이해할 때 두 개념을 구분해 생각하면 도움이 된다.
이를 과녁에 화살을 쏘는 상황으로 비유해 볼 수 있다.
여러 발의 화살이 서로 아주 가까운 곳에 모였지만 과녁의 중심에서 멀리 떨어져 있다고 생각해 보자.
결과들은 서로 비슷하게 반복되지만 목표 위치와는 차이가 있다.
반대로 화살들이 중심 주변에 흩어져 있을 수도 있다.
측정에서도 반복된 값들이 서로 얼마나 가깝게 모이는가와 기준이 되는 값에 얼마나 가까운가는 서로 다른 관점에서 볼 필요가 있다.
예를 들어 10mm를 기준으로 확인하는 대상에서 측정할 때마다 10.50mm 근처의 값만 매우 일관되게 나온다면 반복성은 높아 보이지만 왜 기준과 차이가 있는지 확인해야 한다.
따라서 측정 결과를 평가할 때는 ‘숫자가 매번 비슷하다’는 사실 하나만으로 모든 것이 정확하다고 판단하기 어렵다.
집에서도 간단하게 반복 측정을 경험해 볼 수 있다
측정값의 변화를 이해하는 가장 쉬운 방법은 직접 여러 번 재보는 것이다.
캘리퍼스가 있다면 동전이나 원통형 펜처럼 형태가 비교적 일정한 물체를 선택할 수 있다.
먼저 한 방향을 정해 세 번 정도 반복 측정하고 결과를 기록한다.
그다음 물체를 약 90도 돌려 다시 같은 횟수만큼 측정한다.
이번에는 측정 위치를 조금 옮겨 같은 과정을 반복해 볼 수도 있다.
이렇게 기록하면 단순히 숫자를 한 번 확인했을 때는 보이지 않던 특징을 발견할 수 있다.
같은 위치에서는 값이 거의 비슷한데 방향을 바꾸면 차이가 날 수도 있고, 반대로 어느 방향에서도 거의 같은 값이 나올 수도 있다.
일반 자만 있어도 비슷한 경험을 할 수 있다.
물체의 끝을 0점에 정확하게 맞췄을 때와 조금 떨어뜨렸을 때 어떻게 읽어야 하는지 비교해 보고, 눈의 위치를 바꿨을 때 눈금이 어떻게 보이는지도 관찰할 수 있다.
이런 작은 경험들이 측정도구의 원리를 이해하는 데 의외로 도움이 된다.
마무리
같은 물건을 같은 측정도구로 여러 번 재더라도 숫자가 완전히 같지 않을 수 있다.
측정 위치와 방향, 측정하는 힘, 도구의 기준 상태, 눈금을 읽는 방법, 측정 대상의 실제 형상과 주변 환경 등 여러 요소가 결과에 영향을 줄 수 있기 때문이다.
따라서 측정값이 조금 달라졌다는 이유만으로 곧바로 도구가 고장 났거나 사람이 실수했다고 단정할 필요는 없다.
먼저 같은 조건에서 반복 측정을 해보고 어느 정도의 차이가 나타나는지 살펴볼 수 있다.
그리고 측정 위치를 바꾸거나 방향을 바꿔 보면서 차이의 원인을 하나씩 확인할 수 있다.
또 한 가지 기억할 점은 측정도구가 많은 소수점 자릿수를 표시한다고 해서 자동으로 그만큼 정확한 측정이 이루어진다는 의미는 아니라는 것이다.
측정 결과를 이해하려면 도구의 성능과 상태뿐 아니라 측정 방법까지 함께 살펴봐야 한다.
결국 측정은 숫자 하나를 얻는 과정이 아니라 그 숫자를 믿을 수 있는 근거를 만들어 가는 과정에 가깝다.
다음 글에서는 이러한 측정 차이 가운데 우리 눈의 위치 때문에 생기는 현상을 조금 더 자세히 살펴본다. 자나 아날로그 계기를 비스듬히 바라보았을 때 왜 눈금이 달라 보이는지, 그리고 시차 오차를 줄이기 위해 눈금을 어떤 방향에서 읽어야 하는지를 알아보면 일상적인 측정에서도 바로 활용할 수 있는 원리를 발견할 수 있다.
FAQ:
Q1. 같은 물체를 여러 번 측정했는데 값이 다르면 측정도구가 고장 난 것인가요?
반드시 그렇지는 않다. 측정 위치와 방향, 접촉하는 힘, 눈금을 읽는 방법이나 대상 자체의 형상 때문에 차이가 발생할 수 있다. 먼저 같은 조건에서 반복 측정해 보고 도구의 0점이나 측정면 상태도 함께 확인해 보는 것이 좋다. 차이가 비정상적으로 크거나 기기의 이상이 의심된다면 해당 측정기의 점검 방법을 확인할 필요가 있다.
Q2. 디지털 측정기에 소수점이 많이 표시되면 더 정확한 것인가요?
표시 자릿수가 많다는 사실만으로 측정 정확도를 판단할 수는 없다. 측정기가 구별하고 표시할 수 있는 정도와 실제 값에 얼마나 가까운 결과를 제공하는지는 구분해서 생각해야 한다. 기기의 사양, 상태, 측정 방법과 환경 등도 결과에 영향을 줄 수 있다.
Q3. 여러 번 측정해서 평균을 내면 오차가 없어지나요?
반복 측정에서 우연하게 달라지는 일부 변동을 살펴보는 데 평균이 유용할 수 있지만 모든 오차가 자동으로 없어지는 것은 아니다. 예를 들어 측정도구의 기준점이 일정하게 어긋나 있거나 같은 잘못된 방법으로 계속 측정한다면 반복 횟수를 늘려도 그 원인이 그대로 남을 수 있다. 따라서 평균뿐 아니라 도구와 측정 방법의 상태를 함께 확인해야 한다.