사생활
버스 카드, 검색 기록처럼 일부러 만들지 않았는데 남는 흔적이 있습니다. 이 흔적은 빅데이터의 출발점입니다. 이번에는 같은 사실을 뒤집어 봅니다.
흔적 하나하나는 대수롭지 않습니다. 「7시 12분에 버스를 탔다」는 것만으로는 알 수 있는 것이 별로 없습니다. 그런데 여러 날치를 이어 붙이면 몇 시에 집을 나서는지, 어디에 사는지, 주말에 어디를 가는지가 드러납니다. 여기에 검색 기록이 더해지면 무엇에 관심이 있고 무엇을 걱정하는지까지 짐작할 수 있습니다.
따로 보면 괜찮은 것이 모이면 달라집니다
이것이 빅데이터에서 사생활 문제가 유독 까다로운 까닭입니다. 모으는 하나하나에는 문제가 없어 보입니다. 그래서 「이 정도는 괜찮겠지」 하며 모으다가, 어느새 한 사람의 하루가 통째로 쌓입니다.
익명화(누구인지 알아볼 수 없게 바꾸는 일)를 「이름을 지웠는가」가 아니라 「짜 맞춰도 알아낼 수 없는가」로 판단해야 하는 까닭이 여기 있습니다. 판단은 칸 하나가 아니라 모인 전체를 놓고 해야 합니다.
또 하나 어려운 점이 있습니다. 동의를 했다고 해서 문제가 사라지지는 않는다는 것입니다.
읽지 않고 누르는 동의
많은 앱은 동의하지 않으면 쓸 수 없습니다. 사실상 고를 것이 없는 상황에서 누른 「동의」를 정말 동의라고 할 수 있을까요.
나중에 달라지는 쓰임
길 안내를 받으려고 위치를 넘겼는데, 그 기록이 나중에 다른 목적에 쓰인다면 어떨까요. 처음 동의한 것은 길 안내였습니다.
그래서 데이터를 다루는 쪽에는 「동의를 받았으니 됐다」에서 멈추지 않을 책임이 있습니다. 무엇에 쓸지 좁혀서 밝히고, 쓰임이 달라지면 다시 알리고, 필요가 끝나면 지우는 일입니다.
학교 도서관 대출 기록만으로 한 학생에 대해 무엇을 짐작할 수 있을까요? 거기에 급식 카드 기록을 더하면 무엇이 더 드러날까요?
치우친 데이터
데이터가 많으면 결과도 믿을 만하다고 여기기 쉽습니다. 그런데 많아도 한쪽으로 치우쳐 있으면 결과도 그대로 치우칩니다. 게다가 데이터가 많을수록 그 치우침은 더 그럴듯해 보입니다.
생각할 상황
어느 쇼핑 서비스가 지난 구매 기록을 분석했더니, 남성은 전자 제품을, 여성은 화장품을 많이 샀다는 결과가 나왔습니다. 그래서 앞으로 남성에게는 전자 제품을, 여성에게는 화장품을 먼저 보여 주기로 했습니다. 데이터에 근거한 결정이니 괜찮을까요?
데이터가 말한 것
「지금까지 이 서비스에서 그렇게 샀다」는 것뿐입니다.
결정이 덧붙인 것
「앞으로도 그럴 것이다」와 「그러니 그것만 보여 주면 된다」입니다. 데이터에는 없는 말입니다.
치우침이 스스로를 키웁니다
전자 제품을 사고 싶은 사람에게 화장품만 보여 주면, 그 사람은 사지 못합니다. 그러면 다음 달 데이터에는 「역시 여성은 전자 제품을 안 산다」가 더 뚜렷하게 찍힙니다. 결정이 데이터를 만들고, 그 데이터가 다시 같은 결정을 뒷받침합니다.
측정하고 판단하고 다시 측정하는 고리는 잘못된 판단도 함께 돌립니다. 그래서 「데이터가 이렇게 나왔으니 이렇게 하자」로 곧장 가면 위험합니다. 그 데이터가 어떻게 만들어졌는지를 먼저 물어야 합니다.
치우침은 어디에서 들어올까요. 크게 두 단계입니다.
| 어디에서 | 어떤 일이 벌어지나 | 확인할 물음 |
|---|---|---|
| 모을 때 | 어떤 사람들의 데이터는 아예 들어오지 않는다. 흔적을 남기지 않는 사람, 그 서비스를 쓰지 않는 사람이 통째로 빠진다 | 누가 빠져 있는가? |
| 읽을 때 | 보고 싶은 결론에 맞는 값만 눈에 들어온다. 마음에 안 드는 값만 골라 빼는 것도 여기에 포함된다 | 반대되는 값도 함께 보았는가? |
가장 먼저 물을 것: 누가 빠져 있는가
데이터를 볼 때 거기 있는 것은 눈에 잘 띕니다. 그런데 없는 것은 아무리 봐도 보이지 않습니다. 그래서 일부러 물어야 합니다. 「이 데이터에 들어오지 못한 사람은 누구인가?」
심야 통화 기록으로 버스 노선을 정한다면 휴대전화를 쓰지 않는 사람은 보이지 않습니다. 같은 물음입니다. 그리고 빠지는 쪽은 도움이 가장 필요한 쪽일 때가 많습니다.
학교 누리집 설문으로 「학생들이 원하는 급식 메뉴」를 조사했습니다. 누가 빠졌을 가능성이 있을까요?
새어 나갈 때
한자리에 모아 두면 한 번 뚫릴 때 크게 뚫립니다. 빅데이터는 이 점이 가장 크게 들어맞는 경우입니다. 수백만 명의 기록이 한곳에 쌓여 있으니, 한 번의 사고로 새어 나가는 양이 예전과 비교가 되지 않습니다.
새어 나간 데이터는 되돌릴 수 없습니다
물건은 잃어버려도 다시 살 수 있지만, 한번 퍼진 개인 정보는 거두어들일 수 없습니다. 비밀번호는 바꾸면 되지만 생년월일과 다닌 학교는 바꿀 수 없습니다.
그래서 사고가 난 뒤에 사과하는 것으로는 되돌려지지 않습니다. 새기 전에 막는 수밖에 없습니다.
모아 둔 것 자체가 위험입니다
지킬 것이 많을수록 지키기 어렵습니다. 그러니 가장 확실한 대비는 「필요 없는 것은 아예 모으지 않는다」입니다.
모으지 않은 데이터는 새어 나갈 수 없고, 제대로 지운 데이터도 마찬가지입니다. 쓸 일이 끝난 데이터를 지우는 것도 보안입니다.
새어 나가는 것만 문제가 아닙니다. 제대로 지켰는데도 잘못 쓰이는 경우가 있습니다. 데이터에 없는 짐작을 사실처럼 말하는 잘못된 해석이 그렇습니다.
사람에 대한 결정일수록 크게 어긋납니다
급식 잔반량을 잘못 읽으면 메뉴가 조금 어긋날 뿐입니다. 그런데 사람을 평가하거나 선별하는 데 쓰이면 이야기가 달라집니다. 치우친 데이터로 「이 사람은 위험하다」거나 「이 학생은 어렵겠다」는 판단이 내려지면, 그 판단은 그 사람의 앞날을 실제로 바꿉니다.
더 어려운 것은 당사자가 그 판단을 알기도, 문제 삼기도 어렵다는 점입니다. 왜 그런 결과가 나왔는지 설명받지 못하면 반박할 수도 없습니다. 인공지능이 판단에 쓰이면 왜 그렇게 판단했는지 추적하기 어려운 경우가 많아 문제가 더 커집니다.
세 문제가 서로 이어져 있습니다
사생활 · 치우침 · 새어 나감, 이 세 문제는 따로 있는 것이 아닙니다. 많이 모을수록 사생활이 위태롭고, 새어 나갈 때 잃는 것이 커집니다. 그런데 적게 모으면 빠지는 사람이 생겨 치우침이 커질 수 있습니다.
그러니 「무조건 적게 모으자」도 「무조건 많이 모으자」도 답이 아닙니다. 무엇을 위해 어디까지 모을지를 그때그때 정해야 하고, 그 결정에는 정답이 없습니다. 「정답이 없는 물음」 절에서 그런 상황을 하나 다뤄 봅니다.
「비밀번호는 바꾸면 되지만 생년월일은 바꿀 수 없다」고 했습니다. 바꿀 수 없는 개인 정보를 두 가지만 더 떠올려 보세요.
정답이 없는 물음
생각할 상황
학교가 출결 · 성적 · 도서 대출 · 급식 카드 기록을 한데 모아, 학교생활을 어려워하는 학생을 미리 찾아내는 시스템을 만들려고 합니다. 그런 학생이 보이면 상담 선생님이 먼저 다가가 도울 수 있게 하려는 것입니다. 만들어야 할까요?
만든다면
지키는 것 — 스스로 말하지 못하는 학생을 먼저 찾아낼 수 있습니다. 도움이 늦어 일이 커지는 것을 막을 수 있습니다.
내려놓는 것 — 모든 학생의 생활이 한자리에 모입니다. 조용히 지내고 싶은 학생도 계속 살펴집니다.
만들지 않는다면
지키는 것 — 학교에서 지내는 동안 낱낱이 기록되지 않습니다. 기록이 없으니 나중에 다른 데 쓰일 일도 없습니다.
내려놓는 것 — 도움이 필요한데 말하지 못하는 학생을 놓칠 수 있습니다. 막을 수 있었을지 모를 일을 막지 못하게 됩니다.
부딪히는 것은 「돕는 마음」과 「지켜보이지 않을 자유」입니다
이 상황이 어려운 까닭은 한쪽이 나빠서가 아닙니다. 둘 다 지켜야 할 원칙이기 때문입니다. 게다가 이 시스템은 학생을 해치려고 만드는 것이 아니라 도우려고 만드는 것이라, 반대하기가 더 어렵습니다.
좋은 뜻으로 만든 것일수록 더 조심해야 합니다. 목적이 좋으면 「이 정도는 괜찮겠지」가 쉽게 통과되기 때문입니다.
모두가 찬성해도 남는 문제
학생 전체가 찬성했다고 합시다. 그래도 「어려움이 있다」고 찍힌 학생은 그 판단을 감당해야 합니다. 그 학생이 정말 어려운지, 아니면 데이터가 잘못 읽힌 것인지는 본인도 확인하기 어렵습니다.
많이 골랐다는 것과 옳다는 것은 다릅니다. 특히 부담이 소수에게 몰리는 문제에서는 찬성의 수가 많을수록 오히려 그 소수의 목소리가 들리지 않게 됩니다.
가운데 길을 찾을 수도 있습니다. 예를 들어 학생 개개인을 선별하지 않고 학년 전체의 흐름만 보는 방식이 있습니다. 좋은 방법이지만 여기서도 끝나지 않습니다.
| 해결한 것 | 그래도 남는 것 |
|---|---|
| 개인이 찍히지 않는다 | 정작 도움이 필요한 학생을 찾아내지 못한다. 원래 목적이 흐려진다 |
| 모으는 데이터가 줄어든다 | 「나중에 필요하면 다시 늘리자」는 말이 언제든 나올 수 있다 |
| 학년 단위로만 본다 | 학년이 작은 학교에서는 학년 단위도 개인으로 좁혀질 수 있다 |
빅데이터를 다룰 때 물을 것
「이렇게 하면 됩니다」로 끝나는 답은 여기에도 없습니다. 다만 물어야 할 것은 정해 둘 수 있습니다.
- 이 데이터에 누가 빠져 있는가?
- 어디까지가 데이터에 적힌 것이고, 어디부터가 사람이 덧붙인 짐작인가?
- 이 결정으로 무엇을 지키고 무엇을 내려놓는가? 부담은 누가 지는가?
- 이것을 모으지 않고도 할 수 있는 방법은 없는가?
이 물음들을 던질 수 있다면, 데이터가 내놓은 결과 앞에서 「그렇다면 그런가 보다」로 넘어가지 않을 수 있습니다. 빅데이터를 다루는 태도는 이 물음에서 시작합니다.
「빅데이터를 다룰 때 물을 것」의 네 물음을 여러분이 매일 쓰는 서비스 하나에 던져 보세요. 넷 가운데 답하기 가장 어려운 것은 무엇이었나요?
핵심 정리
사생활
- 흔적 하나하나는 대수롭지 않지만 이어 붙이면 한 사람의 하루가 드러난다.
- 판단은 칸 하나가 아니라 모인 전체를 놓고 해야 한다.
- 동의를 받았다고 끝이 아니다. 쓰임을 좁혀 밝히고, 달라지면 다시 알리고, 끝나면 지운다.
치우친 데이터
- 많아도 치우쳐 있으면 결과도 치우친다. 많을수록 더 그럴듯해 보인다.
- 치우친 결정이 다음 데이터를 만들어 스스로를 키운다.
- 모을 때와 읽을 때 들어온다. 가장 먼저 물을 것은 「누가 빠져 있는가」다.
새어 나갈 때
- 한자리에 모여 있으니 한 번 뚫릴 때 잃는 것이 크다.
- 퍼진 개인 정보는 거두어들일 수 없다. 새기 전에 막는 수밖에 없다.
- 사람을 선별하는 데 쓰이면 잘못된 판단이 그 사람의 앞날을 바꾼다.
정답이 없는 물음
- 많이 모으면 사생활이 위태롭고, 적게 모으면 빠지는 사람이 생길 수 있다. 한쪽만 고를 수 없다.
- 좋은 뜻으로 만든 것일수록 더 조심해야 한다.
- 모두가 찬성해도 부담을 지는 소수는 남는다.
확인 퀴즈
배운 내용을 확인해 봅시다.
빅데이터에서 사생활 문제가 유독 까다로운 까닭은?
여성에게 화장품만 보여 주기로 한 결과, 다음 달 데이터에 「여성은 전자 제품을 안 산다」가 더 뚜렷해졌습니다. 이 현상을 가장 잘 설명한 것은?
데이터가 새어 나가는 것에 대한 가장 확실한 대비는?
학생을 돕기 위한 시스템이라 해도 더 조심해야 하는 까닭으로 알맞은 것은?