사회적 문제를 푸는 데 쓰이는 인공지능
인공지능은 인류의 어떤 문제를 푸는 데 쓰이고 있을까?
사회적 문제란 개인의 노력만으로는 풀기 어렵고 여러 사람이 함께 겪는 문제를 말합니다. 교통 혼잡, 범죄, 기후 변화, 불평등, 일할 사람의 부족 같은 것들이 그렇습니다. 인공지능은 이런 문제를 대신 풀어 주기보다는, 사람이 판단하는 데 필요한 정보를 만들거나 사람이 하던 일의 일부를 맡는 방식으로 쓰입니다.
교통 · 막히는 길을 미리 안다
도로에 설치된 카메라 영상에서 차의 종류와 대수를 자동으로 세어, 어느 구간이 언제 막히는지를 데이터로 만듭니다. 이 자료는 신호 시간을 조정하거나 도로를 넓힐 곳을 정하는 근거가 됩니다.
센서로 주변을 인식해 스스로 달리는 자율주행 기술도 같은 흐름에 있습니다. 다만 어떤 도로와 날씨에서든 사람이 개입하지 않아도 되는 수준까지는 아직 이르지 않았습니다.
사회 안전 · 위험한 상황을 알아챈다
사고가 난 뒤에 녹화 영상을 다시 보던 방식에서, 지금 일어나고 있는 이상한 상황을 사람에게 알려 주는 방식으로 바뀌고 있습니다. 사람이 모든 화면을 동시에 볼 수 없기 때문에 생긴 쓰임입니다.
다만 「위험해 보인다」는 판단은 학습한 데이터에 따라 달라집니다. 특정 동네나 특정 집단이 더 자주 의심받게 되는 문제가 실제로 보고되었으므로, 알림은 사람이 확인할 단서일 뿐입니다.
환경 · 변화를 미리 내다본다
기상 관측 자료와 수질 자료를 함께 학습해 녹조가 생길 만한 시기와 구역을 미리 알려 주거나, 미세 먼지 농도를 예측합니다. 예측이 맞으면 미리 손을 쓸 시간이 생깁니다.
멸종 위기 동물의 울음소리를 자동으로 구별해 서식지를 파악하는 데에도 쓰입니다. 사람이 숲에서 며칠씩 귀 기울여야 했던 일입니다.
불평등 · 도움이 닿지 않던 곳에
카메라에 비친 글자와 사물을 소리로 읽어 주는 앱은 시각 장애인이 혼자 우편물이나 표지판을 확인할 수 있게 돕습니다. 혼자 사는 어르신에게 정기적으로 안부를 묻고 대화를 이어 가는 서비스도 쓰이고 있습니다.
교육에서도 학생마다 틀린 문제를 분석해 다음 문제를 고르는 방식으로, 형편에 따른 학습 기회 차이를 줄이려는 시도가 이어지고 있습니다.
노동 인구 감소 · 일할 사람이 줄어드는 문제
태어나는 아이가 줄고 인구가 고령화되면서, 앞으로 일할 사람이 부족해질 것이라는 전망이 있습니다. 로봇과 인공지능은 이 빈자리를 메우는 방법 가운데 하나로 이야기됩니다. 사람과 같은 공간에서 함께 일하는 협동 로봇이 무거운 것을 들거나 위험한 일을 맡는 식입니다.
사람이 부족해서 기계를 들이는 것과 기계를 들여서 사람을 줄이는 것은 겉모습이 같아도 전혀 다른 일입니다. 어느 쪽인지는 기술이 아니라 그것을 쓰는 사람과 사회가 정합니다.
다섯 사례에서 공통으로 보이는 것
분야는 달라도 인공지능이 맡은 일은 비슷합니다. 사람이 다 보기 어려운 양의 데이터에서 규칙을 찾아 무엇인지 알아보거나 앞일을 가늠하는 것입니다. 그리고 그 결과로 무엇을 할지는 사람이 정합니다. 신호 시간을 바꿀지, 알림을 받고 출동할지, 어떤 정책을 쓸지가 그렇습니다. 신호를 인공지능이 스스로 바꾸게 둔 곳이라도, 그렇게 맡기기로 정한 것은 사람입니다.
위 사례 중 하나를 골라, 인공지능이 없었다면 그 일을 누가 어떻게 했을지 떠올려 볼 수 있나요? 그리고 그 사례에서 최종 결정을 내리는 것은 누구였나요?
인공지능으로 풀리지 않는 문제
그렇다면 사회 문제는 결국 다 풀리는 걸까?
앞의 사례만 보면 인공지능이 모든 문제를 풀어 줄 것 같습니다. 그런데 인공지능이 잘 쓰이려면 몇 가지 조건이 필요하고, 그 조건이 갖추어지지 않는 문제가 오히려 더 많습니다.
| 막히는 지점 | 왜 막히나 | 예 |
|---|---|---|
| 데이터가 없다 | 학습하려면 지난 기록이 있어야 하는데, 처음 겪는 일에는 기록 자체가 없습니다. | 전에 없던 종류의 재난, 새로 나타난 감염병의 초기 |
| 데이터가 한쪽으로 치우쳐 있다 | 기록이 잘 남는 집단만 데이터에 많이 들어가면, 그 밖의 사람에게는 잘 맞지 않는 결과가 나옵니다. | 특정 지역·연령의 자료만으로 만든 예측 |
| 정답이 하나가 아니다 | 무엇이 옳은지를 두고 사람들의 생각이 나뉘는 문제는 계산으로 정해지지 않습니다. | 한정된 예산을 어디에 먼저 쓸 것인가 |
| 기술로 풀 문제가 아니다 | 원인이 제도나 관계에 있으면, 더 정확히 예측해도 문제는 그대로 남습니다. | 가난의 원인, 이웃 사이의 갈등 |
네 줄 가운데 가장 놓치기 쉬운 것은 「기술로 풀 문제가 아니다」입니다. 어떤 문제를 인공지능으로 풀 문제로 정해 버리면, 진짜 원인을 살펴볼 기회를 놓치기도 합니다. 예를 들어 「학생들이 수업에 늦는다」는 문제를 출입 기록 분석으로 다루면 늦는 학생은 찾아낼 수 있지만, 왜 늦는지는 여전히 알 수 없습니다.
헷갈리기 쉬운 점
Q. 「데이터를 더 많이 모으면 결국 다 해결되지 않나요?」
A. 데이터를 늘리면 「데이터가 없다」·「데이터가 한쪽으로 치우쳐 있다」의 문제는 나아질 수 있습니다. 그러나 「정답이 하나가 아니다」·「기술로 풀 문제가 아니다」는
데이터를 아무리 모아도 달라지지 않습니다. 무엇이 옳은지를 정하는 일은 데이터의 양이 아니라
사람들의 합의로 정해지기 때문입니다.
우리 학교나 동네의 문제를 하나 떠올려 보세요. 그 문제는 위 네 가지 가운데 어디에 걸리나요? 걸리지 않는다면, 학습에 쓸 데이터로는 무엇이 필요할까요?
우리가 주의해야 할 AI의 그림자 (역기능)
인공지능이 널리 쓰이면서 새로 생긴 문제는 무엇일까?
사회 문제를 풀려고 들인 인공지능이 새로운 사회적 문제와 부작용을 낳기도 합니다. 앞에서 본 쓰임에서 무엇이 어긋날 수 있는지 살펴봅니다.
1. 문제를 풀려다 쌓이는 개인 정보
교통량을 세려고 단 카메라에는 차의 대수만이 아니라 번호판과 지나가는 사람의 얼굴도 찍힙니다. 이 영상이 모이면 누가 언제 어디를 지났는지가 기록으로 남습니다. 이 기록을 허술하게 보관하다 밖으로 새어 나가면, 막히는 길을 알아내려던 자료가 특정한 사람을 따라가는 데 쓰일 수 있습니다. 무엇을 남기고 무엇을 지울지 미리 정해야 하는 까닭입니다.
2. 원인을 찾기 어려운 오작동
도움이 필요한 가구를 골라 먼저 찾아가도록 돕는 인공지능이 있다고 합시다. 이 모델이 어떤 가구를 계속 빠뜨린다면, 그 가구는 도움을 받지 못한 채 아무도 모르고 지나갑니다. 사회 문제를 푸는 데 쓰는 인공지능은 틀렸을 때 피해를 보는 쪽이 가장 약한 사람이기 쉽습니다.
더 까다로운 점은 왜 그런 판단을 했는지 알아내기 어렵다는 것입니다. 사람이 짠 규칙이 아니라 데이터에서 스스로 찾아낸 규칙으로 움직이기 때문에, 고장 난 부품을 찾듯이 원인을 찾아내기가 쉽지 않습니다.
홀로 사는 어르신에게 안부를 묻는 인공지능이 사투리를 많이 쓰는 어르신의 대답만 자주 「이상 없음」으로 잘못 판정합니다. 개발자가 프로그램을 한 줄씩 살펴도 까닭이 바로 보이지 않는 이유를 설명할 수 있나요?
사람과 사회에서 생기는 문제
기술이 잘 작동해도 문제가 생길 수 있을까?
앞의 둘은 기술이 어긋났을 때 생기는 문제였습니다. 이번 둘은 다릅니다. 기술이 설계한 대로 잘 작동해도, 그것을 어떻게 쓰느냐에 따라 생기는 문제입니다.
3. 도움이 필요한 사람이 오히려 멀어지는 문제
주민센터가 민원을 인공지능 상담 창구로만 받기 시작했다고 해 봅시다. 스마트폰에 익숙한 사람은 밤에도 바로 답을 얻지만, 기계와 대화하기 어려운 어르신이나 우리말이 서툰 이웃은 오히려 도움에서 멀어집니다. 불평등을 줄이려고 들인 기술이 새로운 문턱이 되는 셈입니다.
그래서 인공지능 창구를 여는 것과 사람이 받는 창구를 닫는 것은 따로 결정해야 합니다. 어느 쪽을 고를지는 기술이 아니라 그 서비스를 운영하는 쪽이 정합니다.
4. 악의적인 목적의 범죄 이용
가족이나 아는 사람의 목소리와 얼굴을 모방해 만든 가짜 음성·영상(딥페이크)으로 급히 돈을 보내라고 요구하는 사기처럼, 사람처럼 말하고 보이게 만드는 능력 자체가 범죄에 쓰이기도 합니다. 짧은 녹음만으로도 목소리를 비슷하게 합성할 수 있게 되면서 목소리를 들으면 본인인지 알 수 있다는 믿음이 더는 통하지 않게 됩니다.
사람의 확인 없이 공격 대상을 스스로 고르는 무기를 두고도 국제적인 논의가 이어지고 있습니다. 사람의 목숨에 관한 판단을 기계에 맡겨도 되는가가 쟁점이며, 아직 합의된 답은 없습니다.
선거를 며칠 앞두고, 한 후보가 하지 않은 말을 하는 영상이 인공지능으로 만들어져 널리 퍼졌습니다. 이 일은 역기능 네 가지 가운데 어디에 해당하나요? 기술이 어긋나서 생긴 문제일까요, 쓰는 사람 때문에 생긴 문제일까요?
역기능 앞에서 균형 잡힌 시각 갖기
기술이 오류 없이 작동해도 공정하지 않을 수 있습니다
지금까지 본 문제들은 저마다 원인이 달랐습니다. 여기서는 그중에서도 놓치기 쉬운 공정성 문제를 살펴보고, 장점과 단점을 함께 놓고 보는 연습을 해 봅니다.
헷갈리기 쉬운 점
「컴퓨터 알고리즘인 AI 판사는 사람 판사보다 100% 공정하고 완벽하겠죠?」
그렇지 않습니다. 인공지능은 데이터로 학습합니다. 만약 학습하는 데이터 자체에 사람들의 편견과 차별이 섞여 있다면, 인공지능은 그 편견을 그대로 배우고 반복하게 됩니다. 데이터가 틀리지 않았더라도 무엇으로 무엇을 판단하도록 설계했는지에 따라 불리한 결과가 나오기도 합니다. 시험을 치르지 못한 해에 성적을 자동으로 매기는 방식이 형편이 어려운 지역 학생에게 불리하게 작동했다는 문제 제기가 있었고, 재범 가능성을 예측하는 프로그램이 다시 죄를 짓지 않은 사람을 위험하다고 잘못 매기는 일이 특정 인종에게 더 잦았다는 분석도 나왔습니다.
「공정하다」는 말의 뜻이 하나가 아닙니다. 모두에게 같은 기준을 적용하는 것이 공정인지, 처지가 다른 사람을 다르게 대하는 것이 공정인지, 결과가 집단마다 고르게 나오는 것(통과 비율이나 틀리는 비율이 비슷한 것)이 공정인지에 따라 만들어야 할 인공지능이 달라집니다. 위의 재범 예측 프로그램을 두고 문제 삼은 것은 그 가운데 결과가 고른가, 곧 집단마다 위험 점수가 잘못 매겨지는 비율이 고른가였습니다. 세 뜻은 한꺼번에 채우기 어려운 경우가 많아, 하나를 맞추면 다른 하나를 내려놓게 되기도 합니다.
해 보기: 인공지능의 의료계 적용에 따른 영향
인공지능이 의료 현장에 적용되면서 생기는 긍정적 효과와 우려되는 문제점을 함께 조사해 보고, 문제를 해결할 방안을 의사·환자·개발자 등 여러 관점에서 토의해 봅시다. 아래 네 칸을 채우면 한쪽으로 치우치지 않게 정리할 수 있습니다.
| 칸 | 무엇을 적나 | 스스로에게 던질 질문 |
|---|---|---|
| 장점 | 지금 이미 나아진 점 | 누가 어떤 이득을 보고 있나? |
| 단점 | 지금 이미 생긴 문제 | 잘못되었을 때 책임은 누가 지나? |
| 기회 | 앞으로 기대할 수 있는 것 | 무엇이 갖추어져야 그렇게 되나? |
| 위협 | 앞으로 걱정되는 것 | 누가 가장 먼저 피해를 보게 되나? |
같은 사실이 사람마다 다른 칸에 들어갈 수 있습니다. 「진료 기록을 인공지능이 분석한다」는 사실이 환자에게는 기회일 수도, 위협일 수도 있습니다. 어느 칸에 넣었는지와 함께 왜 그렇게 보았는지를 말해 봅시다.
AI 시대, 우리는 무엇을 해야 할까?
인공지능은 사람이 만들고 사람이 쓰는 도구입니다. 다만 쓰는 사람의 손에만 결과가 달린 도구는 아닙니다. 무엇을 학습시키고 무엇을 예측하게 할지 정하는 단계에서 이미 사람의 선택이 들어가므로, 만들 때와 쓸 때 모두 사람이 결과를 살펴야 합니다.
상호 보완적인 협업
인공지능이 잘하는 것
많은 양의 데이터에서 규칙을 찾아내는 일을 빠르게 해냅니다. 단, 학습에 쓴 데이터와 비슷한 상황에서만 그렇습니다.
인간이 잘하는 것
예외 상황을 판단하고, 윤리적 기준을 세우며 창의적인 결정을 내립니다.
1. 올바른 훈련 (Train)
학습에 쓸 데이터에서 치우친 부분을 찾아 줄이고, 인공지능이 틀린 예외 상황은 사람이 판단해 다시 학습시킵니다.
2. 책임 있는 관리 (Manage)
판독 인공지능이 병이 있다고 표시해도 최종 진단은 의사가 내리듯, 인공지능이 낸 결과를 그대로 믿지 않고 틀린 결과가 얼마나 자주 나오는지 계속 살핍니다.
3. 결과에 대한 설명 (Explain)
유럽 연합이 만든 개인 정보 보호 규정(GDPR, 이름까지 외울 필요는 없습니다)에는 자동으로 내려진 결정에 대해 사람의 검토를 요구하고, 그 결정이 어떤 논리로 내려졌는지 알 권리가 담겨 있습니다. 인공지능이 대출을 거절했다면, 왜 그런 결과가 나왔는지 사람이 책임지고 설명할 수 있어야 합니다.
은행의 인공지능이 대출을 거절했는데, 직원이 「인공지능이 정한 것이라 저도 까닭은 모릅니다」라고 답했습니다. 이 답에서 빠진 것은 무엇일까요?
핵심 정리
인공지능의 양면성
사람이 다 보기 어려운 데이터에서 규칙을 찾아 판단의 근거를 만든다. 신호 시간을 바꿀지, 알림을 받고 출동할지 정하는 일은 사람에게 남는다.
개인 정보 유출과 오작동은 기술이 어긋날 때 생기고, 도움에서 멀어지는 사람과 범죄 이용은 기술이 잘 작동해도 쓰는 방식에 따라 생긴다. 데이터가 없거나 치우친 동안에는 결과를 믿기 어렵고, 무엇이 옳은지 생각이 나뉘는 문제는 데이터를 늘려도 인공지능으로 풀리지 않는다.
사회 문제에 인공지능을 들이기 전에 두 가지를 묻는다. 이 문제가 인공지능으로 풀리는 문제인가, 그리고 틀렸을 때 피해를 보는 사람은 누구인가.
우리의 역할
인공지능의 결과를 그대로 믿지 않는다. 치우침을 줄인 데이터로 훈련(Train)하고, 결과를 계속 관리(Manage)하며, 속을 살펴보기 어려운 판단 과정을 납득할 수 있게 설명(Explain)하는 일은 사람이 맡는다.
확인 퀴즈
배운 내용을 확인해 봅시다.