대화형 AI가 지어낸 판례, 「환각(hallucination)」 현상
인공지능이 그럴듯한 거짓을 내놓는 까닭은 무엇일까?
법률 분야에서도 인공지능이 판례를 검색하고 자료를 추리는 등 변호사의 업무 일부를 거들고 있습니다. 그런데 인공지능이 판례를 항상 올바르게 분석할 수 있을까요?
사례: 가상의 판례를 지어낸 대화형 AI
30년 경력의 미국의 한 변호사가 대화형 AI 서비스를 사용하여 법원에 제출할 서류를 작성했다가 청문회에 회부될 처지에 놓였습니다. 그 AI가 인용한 판례 중 6건이 실제로 존재하지 않는 「거짓 판례」였기 때문입니다. 이는 인공지능이 만든 가상의 사건이 법정에서 인용된 사례입니다.
출처: 『AI타임즈』, 2023. 5. 30.
인공지능의 환각(hallucination) 현상
인공지능이 사실이 아닌 내용을 사실인 것처럼 내놓는 일을 가리킵니다. 언어 모델이 익힌 일은 다음에 올 법한 말을 고르는 것이지 그 말이 참인지 확인하는 것이 아닙니다. 그래서 실제로 없는 판례 이름도 판례처럼 생긴 문장으로 매끄럽게 만들어 낼 수 있습니다.
인공지능은 자기가 틀렸다는 것을 알면서 숨기는 것이 아닙니다. 거짓말을 하려는 의도도, 들키지 않으려는 마음도 없습니다. 참과 거짓을 구별하는 장치가 없을 뿐입니다. 그래서 말투만으로는 맞는 답과 틀린 답을 구별할 수 없습니다.
그래서 사람이 해야 하는 일
- 답에 나온 이름·숫자·출처를 원래 자리에서 직접 찾아본다. 답변 안에 적힌 출처 표시만으로는 확인이 되지 않습니다.
- 같은 질문을 표현을 바꿔 다시 물어 답이 흔들리는지 본다.
- 내가 검증할 수 없는 분야의 답일수록 그대로 옮기지 않는다.
이 사례가 이 강의노트의 출발점인 까닭
위 사례에서 서류를 낸 것은 인공지능이 아니라 사람입니다. 인공지능은 문장을 만들었고, 그것을 확인 없이 법원에 낼지를 정한 것은 변호사였습니다. 인공지능이 우리 삶에 들어올 때 생기는 문제는 대개 이런 모양입니다. 결과는 기술 자체보다, 사람이 그 결과를 어디까지 믿고 어디서부터 확인하느냐에 따라 달라집니다. 여기서는 인공지능이 주는 이로움과 부작용을 나란히 놓고, 사람과 인공지능이 각각 무엇을 맡아야 하는지를 살펴봅니다.
친구가 인공지능에게 받은 답을 보여 주며 「출처까지 적혀 있으니 맞을 거야」라고 합니다. 이 답을 믿기 전에 무엇을 해야 하고, 왜 말투나 출처 표시만으로는 판단할 수 없나요?
인공지능의 순기능
인공지능은 사람의 어떤 몫을 덜어 줄까?
사람 혼자서는 다 살펴보기 어려울 만큼 양이 많거나, 변화가 너무 빨라 놓치기 쉬운 일이 있습니다. 인공지능은 이런 일에서 사람이 미처 보지 못한 것을 찾아 보여 줍니다. 이렇게 이로운 쪽으로 작동하는 것을 순기능이라고 부릅니다.
여기서 눈여겨볼 것
인공지능이 쓰이는 분야별 사례를 사람과의 관계에서 봅니다. 분야마다 기계가 맡게 된 몫과 그래도 사람에게 남는 몫이 무엇인지에 눈을 두세요. 아래 네 갈래를 읽을 때 「사람에게 남는 몫」을 먼저 읽어도 좋습니다.
의료·보건
영상 자료에서 사람 눈에 잘 띄지 않는 작은 변화를 표시해 주고, 멀리 사는 환자의 상태를 이어서 살펴볼 수 있게 해 줍니다. 감염병이 번지는 모양을 미리 그려 보는 데에도 쓰입니다.
사람에게 남는 몫 — 표시된 자리가 정말 이상인지 판단하고, 어떤 치료를 할지 정하고, 그 결과를 환자에게 설명하며 책임지는 일. 진단서에 이름을 적는 것은 사람입니다.
안전·교통
공장에서 위험한 동작이 보일 때 알림을 보내고, 신호 시간을 차량 흐름에 맞춰 조정하며, 구조 요청이 몰릴 때 어디부터 가야 할지 정리해 줍니다.
사람에게 남는 몫 — 알림이 울렸을 때 실제로 확인하러 가는 일, 알림을 몇 번까지 울리게 할지 정하는 일. 기준을 낮추면 헛알림이 늘고, 높이면 놓치는 일이 늘어납니다. 어느 쪽 위험을 감수할지는 사람이 정합니다.
기후·환경
오랫동안 쌓인 관측 기록에서 규칙을 찾아 비와 바람의 변화를 미리 그려 보고, 건물이나 공장이 전기를 언제 많이 쓰는지 살펴 낭비되는 자리를 찾아 줍니다. 재활용품을 종류별로 골라내는 데에도 쓰입니다.
사람에게 남는 몫 — 예측을 보고 무엇을 줄일지 정하는 일. 예측이 맞아도 그것만으로 배출량이 줄지는 않습니다. 줄이는 결정에는 비용과 불편이 따르고, 그 부담을 누가 질지는 예측이 알려 주지 않습니다.
삶의 질 향상
학습자가 자주 틀리는 유형을 골라 다음 문제를 다르게 내주고, 즐겨 보던 것과 비슷한 것을 먼저 보여 주며, 거동이 불편한 사람의 이동이나 집안일을 돕는 기계에도 쓰입니다.
사람에게 남는 몫 — 맞춤이 곧 좋은 것은 아니라는 점을 검토하는 일. 내가 이미 좋아하는 것만 계속 보여 주는 맞춤은 편하지만, 새로 만날 기회를 줄이기도 합니다. 무엇을 기준으로 맞출지는 사람이 정하고, 그 기준은 바꿀 수 있습니다.
학교 도서관이 대출 기록을 보고 책을 추천해 주는 프로그램을 들였습니다. 여기서 기계가 맡게 된 몫과 사람에게 남는 몫을 한 문장씩 말할 수 있나요?
인공지능의 역기능
같은 기술이 왜 해로운 결과를 낳기도 할까?
이롭게 쓰이라고 만든 기술이 다른 목적으로 쓰이거나 예상하지 못한 결과를 낳는 것을 역기능이라고 합니다. 아래 셋은 먼 미래의 이야기가 아니라 이미 실제로 일어나고 있는 일입니다.
1. 의도적인 악용과 편향된 정보
생성 기술은 없던 영상과 목소리를 진짜처럼 만들어 냅니다. 이 기술로 어떤 사람의 얼굴이나 목소리를 다른 영상에 자연스럽게 합성한 것을 딥페이크(deep fake)라고 부릅니다. 영화의 특수 효과나 옛 자료 복원에도 쓰이지만, 같은 기술이 하지 않은 말을 한 것처럼 만드는 데에도 쓰입니다. 피해자가 아니라고 밝혀도, 그 말보다 영상이 훨씬 빨리 퍼집니다.
한편 추천 방식이 내 성향에 맞는 정보만 계속 보여 주면, 세상이 다 그렇게 생각한다고 착각하기 쉬워집니다. 이렇게 걸러진 정보 안에 갇히는 현상을 필터 버블(filter bubble)이라고 합니다. 이 문제는 데이터와 알고리즘의 치우침에서 옵니다.
2023년 미국 국방부 청사 펜타곤 근처의 대형 폭발 사진이 온라인에 확산되어 금융 시장이 출렁였지만, 이는 생성형 인공지능이 만든 가짜 사진으로 밝혀졌습니다.
출처: 『한겨레신문』, 2023. 5. 23.
가짜를 만드는 일은 쉬워졌는데, 진짜인지 확인하는 일은 그만큼 쉬워지지 않았습니다. 이 사진을 만든 데에는 대단한 장비가 필요하지 않았지만, 가짜로 밝혀지기 전에 시장은 이미 출렁였습니다.
2. 믿을 수 있는가 — 신뢰성
성능 평가에서 100점이 나오는 모델은 없습니다. 정확도가 99%라는 말은 평균으로 100번에 한 번꼴은 틀린다는 말이기도 합니다.
문제는 그 한 번의 무게가 분야마다 전혀 다르다는 데 있습니다. 노래 추천이 한 번 어긋나는 것과, 진단 보조나 대출 심사가 한 번 어긋나는 것은 같지 않습니다. 그래서 어느 정도의 성능이면 실제로 써도 되는가는 기술이 아니라 사람이 정해야 하는 물음입니다.
3. 개인 정보와 사생활
인공지능은 데이터로 학습합니다. 그 데이터에는 사람이 남긴 흔적이 들어 있습니다. 폐쇄 회로 화면, 음성 비서가 받아 적은 말, 상담 기록 같은 것입니다.
여기서 어려운 점은 유출만이 아닙니다. 내가 어떤 목적에 동의하고 준 자료가 나중에 다른 목적에 쓰이는 일도 문제가 됩니다. 출결을 확인하려고 모은 얼굴 자료가 수업 태도를 채점하는 데 쓰인다면, 그것은 처음에 동의한 일이 아닙니다.
영화 제작사가 세상을 떠난 배우의 목소리를 가족의 허락을 받아 되살렸습니다. 같은 기술로 만든 딥페이크 영상과 무엇이 다른지, 「기술이 나쁘다」는 말을 쓰지 않고 설명할 수 있나요?
아직 답이 정해지지 않은 문제
고쳐야 할 것이 기술뿐일까?
앞의 셋은 무엇이 잘못인지가 비교적 분명한 문제였습니다. 반면 아래 둘은 기술이 고장 없이 잘 작동해도 남는 문제이고, 우리 사회가 아직 합의된 답을 갖고 있지 않은 문제입니다.
4. 책임을 누가 지는가
사람이 몰던 차가 사고를 내면 책임질 사람이 분명합니다. 그런데 자율 주행 기능이 켜진 차가 사고를 내면 만든 회사, 소프트웨어를 고친 사람, 그 기능을 켜 둔 운전자, 도로를 관리하는 기관 가운데 누가 얼마나 책임을 져야 하는지 정하기 어렵습니다.
인공지능 자체는 책임을 질 수 없습니다. 벌을 받을 수도, 피해를 갚을 수도 없기 때문입니다. 그래서 책임은 언제나 사람이나 기관 사이에서 나뉘어야 하는데, 그 기준이 아직 정리되는 중입니다.
5. 이로움이 고르게 오지 않는 문제
변화는 직업 단위가 아니라 업무 단위로 옵니다. 한 직업 안에서도 기계 쪽으로 옮겨 가는 업무와 사람에게 남는 업무가 나뉩니다.
다만 그 변화가 모두에게 같은 속도로 오지는 않습니다. 새로 익힐 시간과 여유가 있는 사람과 그렇지 못한 사람 사이에 격차가 벌어질 수 있고, 기기와 연결 환경을 갖추기 어려운 사람은 이로움에서 먼저 밀려납니다. 기술을 잘 쓰는 사람이 더 유리해지는 만큼, 못 쓰는 사람은 상대적으로 불리해집니다.
사실과 예측을 나누어 읽기
역기능을 이야기할 때 가장 조심할 것은 이미 확인된 일과 그럴 수도 있다는 예측을 섞어 말하는 것입니다. 섞어 두면 걱정만 커지고 무엇을 해야 할지는 흐려집니다.
| 자주 듣는 말 | 여기까지는 확인된 일 | 여기부터는 예측 |
|---|---|---|
| 「인공지능이 일자리를 없앤다」 | 일부 업무가 자동화된 사례가 있다 | 전체 일자리 수가 얼마나 줄지 — 기관마다 전망이 다르고 반대 전망도 있다 |
| 「가짜 영상 때문에 아무것도 못 믿게 된다」 | 합성 영상으로 피해가 생긴 사건이 있었다 | 사회 전체가 서로를 못 믿게 될지 — 확인 기술과 제도도 함께 만들어지고 있다 |
| 「언젠가 인공지능이 사람을 지배한다」 | 확인된 사실 없음 | 영화에서 자주 다루는 상상이다. 지금 실제로 다투는 문제는 사람이 인공지능을 어떻게 쓰느냐이다 |
「언젠가 인공지능이 사람을 지배한다」 줄을 특히 눈여겨보세요. 인공지능은 무엇을 원하거나 두려워하지 않습니다. 인공신경망은 뇌를 재현한 것이 아니라 수를 계산하는 구조입니다. 그러므로 지금 우리가 살펴야 할 것은 기계의 속마음이 아니라 그것을 만들고 쓰는 사람들이 어떤 목적을 갖고 있는가입니다.
「인공지능 때문에 10년 뒤에는 선생님이 필요 없어진다」는 말을 들었습니다. 이 말을 위 표처럼 확인된 일과 예측으로 나누어 볼 수 있나요?
같은 기술, 다른 결과
순기능과 역기능은 기술에 붙는 이름일까?
여기까지 읽고 나면 이상한 점이 하나 보입니다. 순기능 쪽과 역기능 쪽에 같은 기술이 겹쳐 나옵니다. 우연이 아닙니다.
| 같은 기술 | 이롭게 쓰인 쪽 | 해롭게 쓰인 쪽 | 무엇이 결과를 나눴나 |
|---|---|---|---|
| 얼굴을 알아보는 기술 | 실종된 사람을 찾는 데 쓰인다 | 동의 없이 누가 어디에 있었는지를 모으는 데 쓰인다 | 당사자가 알고 동의했는가 |
| 영상·음성을 만들어 내는 기술 | 목소리를 잃은 사람이 자기 목소리로 말한다 | 하지 않은 말을 한 것처럼 꾸며 퍼뜨린다 | 만들어진 것임을 밝혔는가 |
| 사람을 점수로 나누는 기술 | 도움이 급한 사람을 먼저 찾아낸다 | 낮은 점수를 받은 사람이 기회에서 밀려난다 | 점수를 무엇에 쓰는가, 이의를 제기할 길이 있는가 |
「무엇이 결과를 나눴나」 칸을 읽어 보면 결과를 나눈 것이 기술의 성능이 아니라는 것을 알 수 있습니다. 동의를 받았는지, 만든 것임을 밝혔는지, 이의를 제기할 길을 열어 두었는지는 모두 사람이 정하는 조건입니다.
헷갈리기 쉬운 점: 「인공지능은 양날의 검이다」
자주 쓰이는 표현이지만, 이 말을 「기술 안에 좋은 면과 나쁜 면이 반씩 들어 있다」는 뜻으로 읽으면 곤란합니다. 그렇게 읽으면 사람이 할 일이 없어집니다. 어느 쪽이 나올지가 기술에 달린 일이 되니까요.
위 표가 보여 주는 것은 다릅니다. 순기능과 역기능은 기술이 가진 성질이 아니라, 쓰인 결과에 사람이 붙이는 이름입니다. 그래서 「인공지능이 좋은가 나쁜가」는 답이 나오지 않는 물음이고, 「어떤 조건에서 쓰게 할 것인가」가 우리가 실제로 다룰 수 있는 물음입니다.
사진 속 위치를 알아내는 기술을 하나 떠올려 보세요. 이롭게 쓰인 쪽, 해롭게 쓰인 쪽, 무엇이 결과를 나눴나를 표처럼 채워 볼 수 있나요?
서로 다른 일에 강하다
사람과 인공지능은 무엇이 다를까?
공존은 한쪽이 다른 쪽을 밀어내지 않고 일을 나누어 함께 지내는 것을 말합니다. 일을 나누려면 먼저 어떤 일이 어느 쪽에 맞는지를 알아야 합니다. 아래 두 칸을 「누가 더 똑똑한가」가 아니라 「어떤 성격의 일인가」로 읽어 주세요.
사람이 맡기에 알맞은 일
- 무엇을 문제로 삼을지 정하는 일 — 애초에 어떤 것을 고칠 일로 볼지는 데이터가 알려 주지 않습니다.
- 겪어 본 적 없는 상황에 맞춰 바꾸는 일 — 전에 없던 일이라 비슷한 사례가 없을 때.
- 상대의 사정을 헤아리는 일 — 같은 규칙도 사람에 따라 다르게 적용해야 할 때가 있습니다.
- 여러 가치가 부딪힐 때 어느 쪽을 택할지 정하는 일 — 빠름과 안전함처럼 둘 다 가질 수 없을 때.
- 결과를 책임지는 일 — 잘못되었을 때 설명하고 되돌리는 일.
인공지능이 맡기에 알맞은 일
- 양이 많아 사람이 다 보기 어려운 일 — 수만 장의 사진, 수년 치 기록.
- 같은 기준을 흔들림 없이 반복하는 일 — 사람은 피곤하면 기준이 흔들립니다.
- 데이터 안의 규칙을 찾아내는 일 — 사람 눈에 잘 안 보이는 관계까지 찾아냅니다.
- 쉬지 않고 지켜보는 일 — 밤낮없이 계속되는 감시나 점검.
- 여러 경우를 빠르게 비교해 보는 일 — 조건을 바꿔 가며 결과를 미리 계산해 보는 일.
두 칸을 읽을 때 조심할 것 세 가지
- 「인공지능이 맡기에 알맞은 일」도 학습에 쓴 데이터와 비슷한 상황에서만 잘 됩니다. 처음 보는 상황에서는 자신 있게 틀리기 쉽습니다.
- 「인공지능이 논리적으로 생각한다」는 뜻이 아닙니다. 규칙과 데이터로 표현된 문제에서 일관되게 계산한다는 뜻입니다. 인공신경망은 뇌를 재현한 것이 아닙니다.
- 이 두 칸은 고정된 목록이 아닙니다. 예전에는 사람이 맡던 일이 인공지능 쪽으로 옮겨 간 예가 이미 여럿 있습니다. 다만 책임지는 일만은 옮겨 갈 수 없습니다. 기계는 벌을 받거나 피해를 갚을 수 없기 때문입니다.
병원이 사진을 보고 병을 찾는 프로그램을 들이면서 「이제 판독은 프로그램 몫이니 결과가 틀려도 병원 책임은 아니다」라고 안내했습니다. 이 안내에서 틀린 곳은 어디이고, 왜 그런가요?
인간과 인공지능의 공존 방안
함께 살아가려면 무엇이 필요할까?
아래 세 가지는 「이렇게 하면 해결된다」는 정답이 아닙니다. 지금까지 사람들이 찾아낸 방향이고, 각각 누가 무엇을 해야 하는지와 그렇게 해도 남는 어려움이 함께 있습니다. 어려움까지 읽어야 방안이 구호로 끝나지 않습니다.
일을 나누어 맡기 — 대신하기가 아니라 함께하기
앞에서 본 두 칸을 실제 일에 적용하는 것입니다. 인공지능에게 모아 보여 주는 일을 맡기고, 사람은 그 결과를 보고 정하는 일을 맡습니다. 이때 사람은 결과를 이해할 수 있는 형태로 받아야 합니다. 읽을 수 없는 결과는 검토할 수도 없습니다.
누가 무엇을
만드는 쪽은 왜 그런 결과가 나왔는지 보여 주는 화면을 함께 만들고, 쓰는 쪽은 기계에게 무엇을 물었는지 스스로 알고 결과를 확인합니다.
그래도 남는 어려움
결과가 대체로 맞다 보면 사람이 점점 확인을 건너뛰게 됩니다. 검토하라는 말만으로는 막기 어렵고, 확인을 거치도록 일하는 절차 자체를 만들어 두어야 합니다.
목표와 기준은 사람이 정한다
인공지능은 주어진 목표를 잘 맞추도록 학습합니다. 그러니 무엇을 목표로 삼을지가 결과를 통째로 바꿉니다. 같은 추천 기능이라도 「오래 머무르게 하기」를 목표로 두느냐 「필요한 것을 빨리 찾게 하기」를 목표로 두느냐에 따라 전혀 다르게 작동합니다. 목표를 고르는 일에는 계산이 아니라 가치 판단이 들어갑니다.
누가 무엇을
도입을 정하는 쪽은 무엇을 목표로 삼았는지 밝히고, 그 결정에 영향을 받는 사람들의 의견을 미리 듣습니다. 학교에 무언가를 들일 때 학생이 그 자리에 있어야 하는 이유이기도 합니다.
그래도 남는 어려움
사람마다 좋다고 여기는 것이 다릅니다. 누구의 기준을 따를지가 다시 문제가 되고, 이것은 기술로 정해지지 않습니다.
쓰기 시작한 뒤에도 지켜보고 고친다
만들 때 잘 만들었다고 끝이 아닙니다. 세상이 달라지면 학습에 쓴 데이터와 지금 들어오는 데이터가 달라지고, 같은 모델도 예전만큼 맞지 않게 됩니다. 그래서 쓰는 동안 결과를 계속 살펴보고, 이상하면 멈추고 고칠 수 있어야 합니다. 그러려면 문제를 제기할 창구가 실제로 열려 있어야 합니다.
누가 무엇을
운영하는 쪽은 이의를 받는 통로와 되돌리는 절차를 미리 마련하고, 쓰는 사람은 이상한 결과를 그냥 넘기지 않고 알립니다. 「나만 그런가 보다」 하고 지나가면 문제는 기록되지 않습니다.
그래도 남는 어려움
잘못을 알아채기 어려운 경우가 많습니다. 떨어진 사람은 자기가 왜 떨어졌는지 모르고, 아예 기회를 받지 못한 사람은 그 사실조차 모릅니다.
정답을 정해 주지 않는 이유
여기까지 읽고 「그래서 결론이 뭐지?」 하는 생각이 들었다면 제대로 읽은 것입니다. 「인공지능은 도구일 뿐이다」도, 「인공지능은 인간을 위협한다」도 둘 다 너무 이른 결론입니다. 지금 필요한 것은 어느 편을 고르는 일이 아니라, 구체적인 상황마다 어떤 조건이면 써도 되는지를 검토하는 연습입니다. 아래 두 활동이 그 연습입니다.
인간 판사와 인공지능 판사, 누가 더 공정할까?
[선택 활동] 조건을 검토하는 연습
이런 이야기가 나오는 까닭
비슷해 보이는 사건인데 형량이 크게 다르게 나오는 일이 있습니다. 그럴 때마다 재판이 공정한지 묻는 목소리가 커집니다. 사람은 그날의 상태나 자기도 모르는 선입견에 영향을 받을 수 있기 때문입니다. 그래서 「사람 대신 인공지능이 판결하면 더 공정하지 않을까」라는 주장이 나옵니다. 실제로 몇몇 나라에서 법률 자료를 정리하거나 다툼이 작은 사건을 처리하는 데 인공지능을 쓰는 시도가 보고되고 있습니다.
이 활동에는 정해진 답이 없습니다. 어느 쪽을 고르든, 어떤 조건이 갖춰져야 그렇게 말할 수 있는지까지 적는 것이 이 활동의 목표입니다.
내가 재판을 받는다면 어느 쪽을 고르겠습니까? 표시하고 그 까닭을 적어 봅시다.
| 나의 선택 | 사람 판사 | 인공지능 판사 |
|---|---|---|
| 표시 | ||
| 그렇게 고른 까닭 | ||
고르기 전에 한 가지만 생각해 보세요. 내가 피해자일 때와 내가 억울하게 고발당했을 때, 같은 쪽을 고르게 되나요?
인공지능이 판결을 맡는다면 어떤 순기능과 역기능이 예상될지 적어 봅시다.
순기능이 될 만한 점
생각을 트는 물음 — 사람이 지치거나 기분에 좌우되는 문제는 어떻게 될까? 사건이 밀려 있을 때는? 판결 이유를 찾는 데 걸리는 시간은?
역기능이 될 만한 점
생각을 트는 물음 — 과거 판결로 학습한다면 과거의 치우침은 어떻게 될까? 결과에 이의를 제기하려면 무엇이 필요할까? 잘못된 판결의 책임은 누가 지게 될까?
만약 도입한다면 어디까지 맡길 수 있을지, 그리고 무엇이 갖춰져야 하는지 정리해 봅시다.
「도입한다 / 안 한다」로만 답하지 말고, 앞에서 배운 것으로 나누어 보세요. 자료를 찾아 정리하는 일, 비슷한 사건을 모아 보여 주는 일, 형량을 정하는 일, 유무죄를 정하는 일 가운데 어디까지를 맡길 수 있고, 어디부터는 사람이 해야 할까요? 그렇게 나눈 근거도 함께 적어 봅시다.
토론이 막힐 때 — 「공정하다」는 말의 뜻이 하나가 아니다
이 토론은 대개 한 지점에서 의견이 나뉩니다. 어떤 사람은 모두에게 똑같은 기준을 적용하는 것을 공정하다고 하고, 어떤 사람은 처지가 다른 사람을 다르게 대하는 것을 공정하다고 합니다. 결과가 집단마다 고르게 나오는 것을 공정으로 보는 사람도 있습니다. 비슷한 사건에 형량이 다르게 나온다는 불만은 첫째 뜻, 곧 같은 기준을 두고 하는 말입니다. 이 뜻들은 자주 서로 부딪힙니다. 그래서 「인공지능이 더 공정한가」라는 물음에는 먼저 「어느 뜻의 공정인가」를 정해야 답할 수 있습니다.
[모둠 토론 활동] 우리 학교에 인공지능이 적용된다면?
인공지능의 순기능과 역기능을 함께 고려하며, 인간과 인공지능이 바람직하게 공존하는 방안을 모둠원과 토론해 봅시다.
우리 학교에 인공지능이 적용된다면 어떻게 달라질 수 있을지 상상하여 적어 보고, 실제 학교 현장에 인공지능이 적용된 사례를 조사해 보자.
학교에 인공지능이 적용되었을 때 예상되는 순기능과 역기능을 구분하여 적어 보자.
2에서 고른 것 가운데 하나를 정해, 인공지능이 맡을 몫과 사람이 맡을 몫을 나누어 적어 보자.
| 인공지능이 맡을 몫 | 사람이 맡을 몫 | 그렇게 나눈 근거 |
|---|---|---|
학교에 그 인공지능을 들여도 좋다고 말하려면 어떤 조건이 갖춰져야 하는지 모둠에서 정리해 보자. 누구의 동의를 받아야 하는지, 결과가 이상할 때 누구에게 말할 수 있는지, 그만두려면 어떻게 하면 되는지를 함께 적어 보자.
어떻게 적으면 되는지 하나만 보기
학습을 돕는 프로그램이나 출결을 자동으로 확인하는 장치처럼, 학교에서 쓰이는 인공지능은 이미 여러 형태로 나와 있습니다.
이 가운데 하나를 골라 이렇게 적어 볼 수 있습니다.
인공지능이 맡을 몫: 자주 틀리는 문제 유형을 모아서 보여 주기.
사람이 맡을 몫: 왜 틀렸는지 함께 살펴보고 다음에 무엇을 할지 정하기.
근거: 틀린 횟수를 세는 일은 기록으로 되지만, 까닭을 알아내는 일은 학생과 이야기해 봐야 알 수 있기 때문에.
이것은 하나의 예일 뿐입니다. 모둠에서 다르게 나누고 다른 근거를 대도 좋습니다.
확인 퀴즈
배운 내용을 확인해 봅시다.