계산기 속 ‘의심스러운 숫자’를 믿지 마세요! 과학자의 언어, 유효 숫자의 미스터리

사이언스 트레이너 쿠와코 켄입니다. 매일이 실험이죠.

계산기로 나눗셈을 했더니 ‘7.14285714…’라고 표시됩니다. 시험 답안지에 이 숫자를 어디까지 적어야 할까요? 산수나 수학 시간에는 보통 “소수 둘째 자리에서 반올림하시오” 같은 지시가 있지만, 과학의 세계에서는 이 자릿수를 ‘스스로’ 정해야 합니다.

사실 이 자릿수야말로 과학의 신뢰도를 뒷받침하는 중요한 열쇠, 바로 **’유효 숫자(Significant Figures)’**입니다.

“왜 꼭 이 자릿수까지 써야 하지?” “계산 중간에 반올림해야 하나?” 이런 의문이야말로 과학 세계로 들어가는 첫걸음입니다. 유효 숫자는 단순히 귀찮은 규칙이 아닙니다. 측정된 수치가 ‘어디까지 믿을 수 있는지’를 나타내기 위한 과학자들의 세계 공통 ‘언어’이자 ‘매너(예의)’인 거죠.

이번에는 조금은 어렵게 느껴질 수 있는 이 유효 숫자의 진짜 의미를, 직접 손으로 해보면서 몸으로 익힐 수 있는 실험을 소개합니다. 필요한 건 버니어 캘리퍼스, 전자 저울, 그리고 **밀도 측정용 추(알루미늄, 철, 구리)**입니다. 금속의 정체를 밝혀내는 미스터리를 통해, 숫자 속에 숨겨진 과학의 깊은 세계를 엿봅시다.

측정 도구가 알려주는 ‘믿을 수 있는 숫자’의 경계
이번 실험의 미션은 알루미늄, 철, 구리 세 종류 금속 추의 밀도를 측정해서, 그 정체를 알아내는 것입니다. 자, 그럼 먼저 각 측정 도구가 가진 ‘목소리’에 귀를 기울여 봅시다.

준비물
버니어 캘리퍼스

전자 저울

밀도 측정용 추 (알루미늄, 철, 구리)

계산기

기록 용지

이번 실험의 주인공, 밀도 측정용 추. 겉모습은 비슷해 보이지만, 그 정체는…?

실험 순서: 버니어 캘리퍼스와 전자 저울을 완벽하게 활용하라!
먼저 추의 **’부피’**와 **’질량’**을 측정합니다. 이때 버니어 캘리퍼스와 전자 저울을 사용하는데요. 사실 이 두 도구는 우리에게 보여주는 숫자 세계의 ‘해상도’가 다르답니다.

버니어 캘리퍼스를 사용하면, mm의 10분의 1까지, 아주 정밀한 세상이 보입니다.

버니어 캘리퍼스로 원통의 지름과 높이를 재면, 예를 들어 ‘30.3mm’처럼 0.1mm 자리까지 읽을 수 있습니다. 이건 유효 숫자 3자리죠. 반면, 전자 저울로 질량을 재면 ‘60.03g’처럼 0.01g 자리까지 표시될 때가 있습니다. 이건 유효 숫자 4자리네요. 측정 도구에 따라 “이 정도까지는 자신 있어”라고 말할 수 있는 자릿수가 다릅니다. 이 차이야말로 유효 숫자를 생각하는 모든 것의 시작입니다.

계산의 미로에 오신 것을 환영합니다! π와의 씨름, 그리고 답의 자릿수

이제부터가 머리를 써야 할 부분입니다. 계산기를 들고 숫자의 수수께끼에 도전해 봅시다.

자, 이제 본 게임 시작입니다. 측정한 수치를 이용해 **밀도(질량 ÷ 부피)**를 계산할 건데요. 여기에는 수많은 생각의 함정들이 기다리고 있습니다.

지름을 2로 나눠 반지름을 구할 때, 자릿수는 어떻게 될까?

원주율 π는 ‘3.14’로 써야 할까? 아니면 ‘3.141592…’처럼 계산기 표시 그대로 써야 할까?

마지막으로 질량을 부피로 나눌 때, 답의 유효 숫자는 몇 자리로 해야 할까?

이런 질문들에 대해 유일한 정답을 알려주는 건 쉽습니다. 하지만 과학적 탐구에서는 ‘왜 그래야 하는지’를 고민하는 과정 자체가 보물이죠. 사실, 계산 결과의 신뢰도는 **사용한 측정값 중에서 가장 신뢰도가 낮은 것(유효 숫자의 자릿수가 가장 적은 것)**에 따라가게 되어 있다는 규칙이 있습니다.

예를 들어, 유효 숫자 3자리인 길이와 유효 숫자 4자리인 질량으로 계산한 밀도는, 유효 숫자 3자리로 답하는 것이 매너입니다. 아무리 정밀한 질량을 재었더라도, 길이 측정의 정확도가 전체 신뢰도를 결정짓게 되는 거죠. 이런 시행착오야말로 유효 숫자가 ‘왜 필요한가’를 가슴으로 이해하게 만드는 최고의 배움이 될 것입니다.

‘매너’ 너머로 보이는 과학자의 시각
이 실험은 단순한 계산 연습이 아닙니다.

측정에는 한계가 있으며, 그 한계를 숫자로 표현하는 것의 중요성을 깨닫습니다.

계산 과정에서 어떤 수치를 ‘믿어야 할지’ 논리적으로 판단하는 능력을 기릅니다.

고대 그리스의 아르키메데스가 왕관의 미스터리를 풀었듯이, 물질 고유의 값인 **’밀도’**라는 강력한 무기를 손에 넣게 됩니다.

과학이란 자연이라는 거대한 수수께끼를 풀어가는 학문입니다. 그리고 측정값은 그 수수께끼에 대한 자연의 메시지죠. 유효 숫자라는 ‘매너’는 그 메시지를 올바르고, 정직하게 해석하기 위한 예의인 것입니다. 이 실험을 통해 학생들이 숫자 너머에 있는 과학자의 사고방식에 다가갈 수 있다면, 이보다 더 기쁜 일은 없을 겁니다.

문의 및 의뢰에 관하여
과학의 신기함과 재미를 더욱 가깝게 느껴보세요! 집에서 할 수 있는 재미있는 과학 실험과 그 노하우를 알기 쉽게 정리했습니다. 다양하게 검색해 보세요!

운영자 쿠와코 켄에 대해서는 여기

각종 의뢰(집필, 강연, 실험 교실, TV 자문 및 출연 등)는 여기
– 기사 업데이트 정보는 X에서 실시간으로 확인하세요!

과학 이야기 채널에서 실험 영상을 만나보세요!