소프트웨어와 생활

데이터 분석의 다섯 걸음

시간을 가장 많이 잡아먹기 쉬운 걸음은
계산이 아니라 정제입니다

학습 목표

  1. 데이터 분석의 다섯 걸음을 차례대로 설명할 수 있다.
  2. 빠진 값(결측치) · 튄 값(이상치) · 겹친 줄 · 다른 표기를 찾아내고 다룰 수 있다.
  3. 요약한 숫자 하나만 보면 무엇을 놓치는지 설명할 수 있다.

다섯 걸음

데이터 분석이라고 하면 계산하고 그래프 그리는 장면이 떠오릅니다. 그런데 실제로 해 보면 그 장면은 전체의 아주 짧은 한 토막입니다. 앞뒤에 훨씬 긴 일이 붙어 있습니다.

분석은 다섯 걸음으로 돈다 1 질문 설정 2 수집 3 정제 가장 오래 걸린다 4 탐색 5 해석 해석하고 나면 대개 새 물음이 생겨 처음으로 돌아간다
다섯 걸음에서 각각 하는 일과 흔한 실수
걸음 하는 일 흔한 실수
1. 질문 설정 무엇을 알고 싶은지 한 문장으로 적는다 「분석해 보자」로 시작해 방향이 없다
2. 수집 그 물음에 답할 데이터를 어디서 얻을지 정하고 가져온다 구하기 쉬운 것부터 모아 물음과 어긋난다
3. 정제 빠진 값 · 튄 값 · 겹친 줄 · 다른 표기를 정리한다 대충 넘어가고 결과를 믿어 버린다
4. 탐색 세고 · 평균 내고 · 그림으로 그려 모양을 본다 숫자 하나만 보고 넘어간다
5. 해석 나온 것이 무슨 뜻인지 판단하고 다음에 무엇을 할지 정한다 함께 움직인 것을 원인이라고 말한다

3번 상자가 유독 큰 까닭

데이터를 실제로 다뤄 본 사람들은 흔히 말합니다 — 시간을 가장 많이 쓰는 걸음이 정제라고. 계산은 명령 한 줄이면 되지만, 어느 값을 버릴지 정하는 일은 사람이 하나하나 판단해야 하기 때문입니다.

이 걸음을 건너뛰어도 계산은 되고 결과도 나옵니다. 프로그램은 터무니없는 값이 섞여 있어도 이상하다고 말해 주지 않으므로, 틀린 값이 그대로 결론에 들어갑니다.

스스로 확인

2번 걸음의 흔한 실수 — 구하기 쉬운 것부터 모으면 왜 물음과 어긋나게 될까요? 물음과 데이터의 순서를 떠올려 말해 보세요.

정제

실제로 받은 데이터는 가지런하지 않습니다. 아래는 어느 학교 도서관의 대출 기록 일부입니다. 값은 수업에서 원리를 확인하려고 지어낸 것입니다.

정제 전의 도서관 대출 기록 예시. 값은 수업용으로 지어낸 것이다.
번호 빌린 날 학년 빌린 권수
1 3월 4일 1 2
2 3월 4일 (비어 있음) 1
3 3월 5일 2 99
4 3월 5일 2 3
4 3월 5일 2 3
5 2026-03-06 3 1

붉게 표시한 자리가 네 가지 다른 문제입니다. 하나씩 어떻게 다룰지 보겠습니다.

데이터를 정제할 때 만나는 네 가지 문제와 다루는 법
무엇이 어떻게 다루나 조심할 것
빠진 값 그 줄을 빼거나, 다른 값으로 채운다. 학년처럼 짐작할 수 없는 값은 억지로 채우지 않는다. 빼면 빠진 사람들만 사라진다. 왜 비었는지 먼저 생각한다
튄 값 있을 수 없는 값인지 살핀다. 한 사람이 하루에 99권은 대개 잘못 적힌 것이다. 정말 그런 일이 있었을 수도 있다. 지우기 전에 확인한다
겹친 줄 똑같은 줄이 두 번 들어갔으면 하나만 남긴다. 정말 두 번 일어난 일일 수도 있다. 번호가 같은지를 본다
다른 표기 「3월 6일」과 「2026-03-06」을 한 가지 꼴로 맞춘다. 맞추지 않으면 다른 날짜로 세어진다

빠진 값을 지울 때 가장 조심한다

「비어 있으니 그 줄은 빼자」는 편해 보입니다. 그런데 왜 비었는지 생각해 보세요. 학년이 비어 있는 줄이 유독 많다면, 어떤 이유로 학년을 적지 않고 빌리는 사람들이 있다는 뜻일 수 있습니다.

그 줄들을 다 빼면 그 사람들만 통째로 사라진 데이터가 됩니다. 계산에서 빠진 사람은 결론에서도 빠집니다. 빈칸은 그 자체로 신호일 수 있습니다.

스스로 확인

「빌린 권수」에 0이 적힌 줄을 발견했습니다. 이것은 튄 값일까요, 아니면 뜻이 있는 값일까요? 어떻게 확인하면 좋을까요?

탐색

정제한 데이터를 이제 탐색합니다. 가장 먼저 하는 일은 여러 값을 하나로 줄여 보는 것입니다. 스무 명의 대출 권수를 하나하나 읽는 대신 평균 하나를 봅니다.

줄이면 반드시 잃는 것이 있다

스무 개의 값을 하나로 줄였으니 열아홉 개만큼의 이야기가 사라진 것입니다. 이것은 나쁜 일이 아니라 줄인다는 말의 뜻입니다. 다만 무엇이 사라졌는지는 알고 있어야 합니다.

평균이 같아도 전혀 다른 두 반

평균은 같지만 모양은 전혀 다르다 1반 평균 3권 2반 평균 3권

두 반의 평균은 똑같이 3권입니다. 그런데 1반은 대부분이 두세 권씩 빌렸고, 2반은 거의 안 빌린 사람과 아주 많이 빌린 사람으로 나뉘었습니다. 평균만 보고 「두 반이 비슷하다」고 하면 완전히 잘못 읽은 것입니다.

그래서 탐색할 때는 숫자 하나로 줄이기 전에 먼저 그림으로 늘어놓아 봅니다. 점을 찍어 보면 위 그림처럼 모양이 한눈에 보입니다.

자주 쓰는 요약값과 각각이 말해 주는 것
요약값 무엇을 말해 주나 언제 속나
평균 값들을 고르게 나누면 얼마씩 돌아가는지 아주 큰 값 하나에 크게 끌려간다
가운데 값(중앙값) 크기순으로 늘어놓았을 때 한가운데 있는 값 양쪽으로 나뉜 모양은 드러내지 못한다
가장 큰 값과 작은 값 값이 어디부터 어디까지 퍼져 있는지 가운데가 어떤지는 전혀 알려 주지 않는다
개수 몇 건이나 되는지. 가장 먼저 확인할 것 속을 일이 없다. 다만 자주 빠뜨린다

「개수」 줄을 눈여겨보세요. 「몇 건인가」는 시시해 보여서 자주 건너뜁니다. 그런데 정제하는 과정에서 절반이 지워졌다면 평균이 아무리 그럴듯해도 믿을 수 없습니다. 개수를 먼저 확인하는 버릇을 들이세요.

스스로 확인

2반처럼 양쪽으로 나뉜 모양을 발견했다면, 그다음에 무엇을 알아보고 싶어질까요? 새 물음을 하나 만들어 보세요.

해석

마지막 걸음입니다. 나온 숫자를 사람의 말로 옮기는 단계이고, 실수가 잦은 단계이기도 합니다. 그 가운데 자주 나오는 실수 하나를 보겠습니다.

함께 움직였다는 것과 원인이라는 것은 다르다

「대출이 많은 달에 시험 성적도 높았다」는 결과가 나왔다고 합시다. 여기서 「책을 많이 빌리면 성적이 오른다」로 넘어가면 안 됩니다. 데이터가 말해 준 것은 둘이 함께 움직였다는 것뿐입니다.

다른 설명도 얼마든지 됩니다 — 성적이 좋은 학생이 책도 더 빌린다고 하면 순서가 반대입니다. 아니면 공부를 열심히 하는 시기가 둘 다를 끌어올렸을 수도 있습니다.

함께 움직였다면 설명은 여럿이다 ① 대출이 성적을 끌어올렸다 대출 성적 ② 순서가 반대다 대출 성적 ③ 시험 기간이라는 다른 것이 둘 다를 끌어올렸다

세 설명 가운데 어느 것이 맞는지 이 데이터만으로는 알 수 없습니다. 그래서 해석할 때는 비교하는 화법으로 씁니다 — 「대출이 많은 달은 성적도 높은 편이었다」까지가 데이터가 뒷받침하는 말입니다.

해석할 때 쓰는 화법 비교
화법 문장
넘어간 쪽 「책을 많이 빌리면 성적이 오른다.」 — 한 사람이 그렇게 하면 그렇게 된다는 뜻으로 읽힌다.
지킨 쪽 「대출이 많았던 달은 성적도 높은 편이었다. 다만 어느 쪽이 원인인지는 이 자료로 알 수 없다.」

그래서 무엇을 할까

해석은 「그래서 무엇을 할까」로 끝납니다. 이 물음 앞에서 멈추면 보고서가 사실 나열로 끝납니다. 다만 앞에서 원인을 단정하지 않았으므로, 할 일도 단정하지 않고 적습니다.

  • 더 알아볼 것 — 「시험 기간을 빼고 다시 세어 보면 어떨까」
  • 해 볼 것 — 「한 학년만 추천 도서를 늘려 보고 달라지는지 본다」
  • 바로 할 수 있는 것 — 「빈칸이 많은 항목은 적는 방식을 고친다」

「바로 할 수 있는 것」이 특히 쓸모 있습니다. 정제하는 걸음에서 발견한 문제는 지금 당장 고칠 수 있는 경우가 많습니다. 분석의 성과가 결론에만 있는 것이 아닙니다. 「더 알아볼 것」은 새 물음이 되어, 분석은 다시 질문 설정으로 돌아갑니다.

스스로 확인

「비 오는 날 도서관 이용자가 많았다」는 결과를 세 가지 설명으로 나누어 말해 보세요. 어느 것이 맞는지 알아보려면 무엇이 더 필요할까요?

핵심 정리

다섯 걸음

  • 질문 설정 → 수집 → 정제 → 탐색 → 해석.
  • 해석하다 새 물음이 생기면 처음으로 돌아간다.
  • 대개 가장 오래 걸리는 것은 계산이 아니라 정제다.

정제

  • 빠진 값 · 튄 값 · 겹친 줄 · 다른 표기 넷을 찾아낸다.
  • 이 걸음을 건너뛰어도 결과는 나온다. 프로그램은 99권이 이상하다고 말해 주지 않으므로, 틀린 값이 그대로 결론에 들어간다.
  • 빈칸은 신호일 수 있다. 지우기 전에 왜 비었는지 본다.

탐색

  • 여러 값을 하나로 줄이면 반드시 잃는 것이 있다.
  • 평균이 같아도 모양은 전혀 다를 수 있다. 먼저 그림으로 늘어놓는다.
  • 개수 확인을 가장 먼저 한다. 정제하다가 절반이 지워졌을 수 있다.

해석

  • 함께 움직였다는 것과 원인이라는 것은 다르다. 다른 설명이 여럿 설 수 있다.
  • 그래서 비교하는 화법으로 적고, 알 수 없는 것은 알 수 없다고 밝힌다.
  • 마지막은 「그래서 무엇을 할까」다. 정제하다 발견한 문제는 흔히 당장 고칠 수 있다.

확인 퀴즈

배운 내용을 확인해 봅시다.

Q1

데이터 분석에서 대개 가장 오래 걸리는 걸음은?

Q2

학년이 비어 있는 줄을 발견했습니다. 가장 먼저 할 일은?

Q3

두 반의 평균이 같다는 것이 뜻하는 바는?

Q4

「대출이 많은 달에 성적도 높았다」에서 말할 수 있는 것은?