사회문제 4 : 자율주행차의 윤리적인 문제 트롤리 딜레마

자율주행차의 윤리적인 문제 트롤리 딜레마

Contents

 

1. 과학기술이 만들어 낸 윤리적인 문제

5천 년 전에 수메르 사람들이 남긴 점토판에 기록을 보면 지금에 인간이 5천 년 전 수메르 사람보다 신체적으로나 정신적으로 월등하게 진화했다고 볼 수는 없다.

 

점토판에 남긴 기록에 의하면 5천 년 전 수메르 사람들도

아이들은 학교에 다녔고 아버지가 아들에게 훈계한 내용과

청소년 문제에 대한 기록이 있었다고 한다.

 

 

그 당시 삶과 지금의 삶에서 인간적인 부분은

크게 다르지 않았더라는 얘기다.

 

그런데 과학기술의 엄청난 발전은

새로운 사회체제를 만들고 새로운 사회문제를 만들어 냈다.

 

예를 들면 4차 산업혁명으로 인한

공장 자동화, 사물인터넷, 인공지능의 출현으로

일자리 문제, 보안 문제, 윤리 문제가, 사회적으로 주목받고 있다.

 

첨단 과학기술에 발전이

어떤 새로운 윤리적 문제를 가져오는지는

1996년 영국에서 복제 양 돌리가 탄생하면서 벌어졌다.

 

삶과 죽음의 경계마저 바꿀 수 있는 생명 윤리에

전 세계 사람들은 충격과 함께 깊은 고민에 빠졌다.

 

2. 자율주행차의 트롤리 딜레마

 

이제 우리에게 과학기술의 발전이 던져준

또 다른 윤리적 문제를 알아보도록 하자.

 

멋진 차다.  애플카이다.

아마 모두가 가지고 싶은 차이고 애플 마니아들은 더 많은 소유욕이 생길 것이다.

아쉽게도 애플카 프로젝트는 2024년 1월 폐기되었다.

그래도

애플카가 디자인한 수준의 자율주행차는 앞으로 넘쳐 날 것이다.

이미 2024년 4월 17일 대한민국 코엑스에서 애플카를 넘어서는 디자인으로 공개된 자율주행차 알파블이 있다.

 

알파블

 

우리가 이런 멋진 차를 가질 날이 얼마 남지 않았다.

 

2030년에 당신은 자율주행차를 구매했다고 가정해 보겠다.

자율주행차 중에서 운자자 개념이 없고 탑승자 개념만 존재하는 레벨5가 적용된 차에 앉아 편안하게 이동하고 있었다.

스마트폰도 보고 책도 보면서 여유로운 시간을 차내에서 보내고 있었다.

 

그런데 앞서가던 트럭에서, 무게 1톤 이상의 철재가

우르르 쏟아졌다.

 

그대로 부딪히면 자율주행차는 종이짝처럼 찌그러질 뿐만 아니라

탑승자의 생명도 보장받을 수 없다.

사고위험을 감지한 자율주행 시스템은

오른쪽 차선으로 회피해 사고를 모면하고자 한다.

 

그런데요, 오른쪽 차선에선 자전거를 탄 사람이 이동하고 있다.

탑승자의 안전을 위해 오른쪽으로 회피하면

자전거를 탄 사람이 사망할 수 있다.

 

과연 이러한 상황에서 자율주행 시스템은

어떤 판단을 내려야 할까?

탑승자를 살리기 위해 자전거 운전자를 칠 것인가?

아니면 철재와 그대로 충돌해, 탑승자를 죽일 것인가?

이것이 첨단 과학이 만들어 낸 새로운 윤리적인 문제이다.

 

아마도 자신이 탑승자라면

탑승자를 살려야 한다고 답하실 것이다.

 

그런데, 오른쪽에 자전거 운전자가 아닌

노란색 유치원복을 입은 유치원생 열 명이 지나가고 있다.

 

이때, 자율주행차는 어떤 결정을 내려야 하나?

만약에 탑승자를 살리기 위해 유치원생 10명을 죽인다면

살아남은 탑승자 중에는

평생 죄의식과 트라우마로 살아가야 할 사람도 있다.

바로 이런 분들이다.

 

2006년 5월 5일 어린이날이었다.

공군 에어쇼에서 민간인 수천 명을 구하기 위해

자신의 목숨을 아끼지 않은 사람이 있었다.

급강하는 비행기와 마주 오는 비행기가 교차하는 기술을 선보이던 중에

한 비행기가 활주로 옆 잔디로 추락했다.

기체 결함이 생긴 비행기 조종간을 끝까지 붙잡고 있던 사람은

김도현 중령이었다.

 

김도현 중령

 

천 삼백 명의 어린이들을 지키기 위해 탈출을 포기하고

관람석에서 1.8km 떨어진 곳에서 장렬히 산화했다.

단추 하나만 누르면

자신은 비행기에서 비상 탈출할 수 있는데도 불구하고

자신의 희생으로 수천 명의 사람을 살린 것이다.

 

또 2022년 1월에

전투기 조종사인 심정민 소령의 순직 소식이

많은 사람의 가슴을 울렸다.

심정민 소령

 

 

전투기가 고장으로 추락하던 중에 전방에 민가를 발견하고는

조종사는 비상탈출을 하지 않았다고 한다.

민가 피해를 막기 위해 추락하는 순간까지 조종간을 잡고

민가와 불과 100미터 떨어진 곳에 추락해서 순직했다.

 

2001년 1월에는 일본에서 이런 일이 있었다.

한국인 유학생인 스물여섯 살의 이수현님이

선로에 떨어진 일본인 남성을 구하기 위해

선로에 뛰어들었다가 전동차에 치여 숨졌다.

 

우리 사회에는 이렇게

다른 사람을 살리려고 자신을 희생하시는 분들이 계신다.

 

다시 자율주행차 얘기로 넘어오겠다.

 

타인의 생명을 위해 자신을 희생한 세 명의 의인이 자율주행차의 탑승자라면

아마도 다수의 보행자를 살리기 위해

탑승자인 자신이 희생되는 자율주행차를 원할 수도 있다.

 

이제 현실적인 문제에 대해서 고민해 보겠다.

만약에 자율주행시스템이 탑승자가 희생되는 시스템이라면

여러분은 자율주행차를 구매하겠는가?

 

이 문제에 대해서 우리가 잘 알고 있는

하버드 대학교 정치철학 교수 마이클 샌델은

“정의란 무엇인가‘라는 책에서

판단에 도움이 될 만한 의견을 제시했다.

 

 

정의란 무엇인가

 

마이클 샌델 교수는 한 명을 희생하고 여러 사람을 구하는 게 옳다는

제러미 벤담에 공리주의와

여러 명을 구하기 위해 한 명을 희생해서는 안 된다는

칸트의 의무론 사이에 딜레마를

트롤리 딜레마라는 사례로 설명했다.

 

트롤리는 레일 위에서, 석탄이나 짐을 운반하는 전차다.

아래 이미지는 헤리슨 포드가 주연한 인디아나 존스라는 영화의 한 장면이다.

인디아니 존스

 

 

영화에서 브레이크가 고장 난 트롤리가 엄청난 속도로 내려오는 장면이 나온다.

 

아래의 이미지는 브레이크가 고장 난 트롤리가

엄청난 속도로 인부들이 작업하는 선로로 진입하고 있다.

 

트롤리

 

이 상황을 그냥 방치하면 트롤리는 원래의 방향으로 직진하여 다섯 명이 모두 죽는다.

 

그런데 오른쪽 그림처럼 조작원이 레버를 조정하면 트롤리는 방향을 바뀌어 한 명만 죽는다.

 

만약에 여러분이 방향을 결정하는 조작원이라면 어떤 선택을 할 건가?

 

아마도 5명을 살려야 한다며 레버를 조정할 것이다.

이것이 벤담의 양적 공리주의다.

 

그런데 칸트는 결과에 상관없이 어떤 목적을 가지고

인간을 수단으로 사용하는 것은 안 된다고 했다.

이를 의무론이라고 한다.

 

즉 다섯 명을 살리려는 목적을 가지고

한 명을 수단으로 삼아서는 안 된다는 얘기다.

 

만약 그 한 명이 사랑하는 사람이라면 어떻게 하겠는가?

당연히 사랑하는 사람을 선택할 것이다.

이것이 밀의 질적 공리주의다.

 

만약 여러분이 정치 지도자이고 그 한 명의 사람이 사랑하는 사람이라면 어떤 선택을 할 것인가?

정말 고민일 수밖에 없다.

 

어느 쪽을 선택해도 윤리적으로 문제가 될 수 있다.

 

결국 이 문제는 딜레마 상황이다.

지금도 이 문제로 철학자와 많은 사람이 논쟁하고 있다.

아마 이 논쟁에 이미 참여했던 분도 있을 수 있다.

 

심지어 옥스퍼드 대학교 윤리센터 연구원인

철학박사 데이비드 에드먼즈는 그가 저술한 책에서 이런 질문을 했다.

 

“나는 육교 위에서 고장 난 트롤리가

다섯 명의 인부를 향해 달려오는 것을 목격했다.

그리고 내 옆에는 뚱뚱한 사람 한 명이 있다.

나는 몸무게가 작아서 육교에서 떨어져도

트롤리를 멈추게 할 수 없지만 뚱뚱한 사람을 밑으로 떠밀 경우

확실히 트롤리를 멈출 수 있다.

만약 여러분이라면 뚱뚱한 사람을 육교 아래로 밀어서

다섯 명을 살리겠습니까?”

 

이 질문에는 주저함이 없이 대부분의 사람은 밀지 않겠다고 답했다.

왜냐면 이 경우는 사람을 직접 죽인다는 심리적 부담을 가질 수 있기 때문이다.

 

사실 이 질문에서 굳이 ‘뚱뚱한 사람이라는 표현으로 비유해야 하는가?’라는 생각이 들었다.

덩치가 큰 사람이라고 해도 되는데 이 부분도 인권 침해에 해당될 수 있기 때문이다.

 

2013년에 이 문제만 다룬 책이 영국에서 출간되었고

번역서도 우리나라에서 출판되기도 했다.

 

저 뚱뚱한 남자를 죽이겠습니까?

 

이 책의 번역본에는 뚱뚱한, 뚱보라는 표현을 함께 썼다.

이는 차별적이고 혐오적인 발언이라는 사실을 우리는 알아야 한다.

 

‘트롤리 딜레마’ 우리가 살아가면서

언젠가는 해결해야 할 윤리적 딜레마이다.

 

이 문제가 해결되어야

자율주행차가 레벨 3 이상으로 발전할 수 있다.

 

3. 모럴 머신

모럴 머신은 자율주행차의 도덕적 딜레마에 대한 상황을 제시하여 사용자의 윤리적 결정에 대한 사회적 인식을 위한 수집하기 위한 플랫폼이다.

2016년에 미국의 MIT대학에서 개발하여 사용자의 응답을 조사하고 있는 사이트이다.

 

 

Moral Machine

 

 

 

모럴 머신은 인공지능과 윤리적 결정 사이의 상호작용을 다루는 개념이다. 이는 주로 인공지능 시스템이 윤리적인 문제를 어떻게 다루고 해결할지에 대한 고민과 연구를 포함하고 있다.

모럴 머신은 이러한 문제에 대한 해결책을 제시하고 인공지능 시스템이 윤리적으로 행동하도록 돕는 데 중점을 두고 있다.

 

모럴 머신 사이트는 주로 이러한 주제에 대한 정보를 제공하고 연구 결과를 공유하는 플랫폼이다. 모럴 머신 사이트는 인공지능의 윤리와 관련된 논의를 촉진하고 인간 중심의 기술 발전을 지원하기 위해 만들어졌다. 모럴 머신 사이트에서는 윤리적 가이드라인, 윤리적 의사 결정에 대한 도구 및 리소스, 최신 연구 및 이슈에 대한 블로그 포스트, 이벤트 및 컨퍼런스 정보 등을 제공한다.

 

많은 사람이 의사결정과정에 참여하였고 결과에 대한 평균값을 가지고 있다. 사이트에 방문하여 참여한다면 자신의 의사 결정과 비교해 볼 수 있는 좋은 기회도 될 것이므로 참여해 보기 바란다.