자율주행 자동차, 사고 판단은 어떻게 할까?

[자율주행차 사고, 누가 책임져야 하나요?]

카드뉴스 | 메인 > KOTI 소식 > 카드뉴스

---

  요새 하는 게임에서 자율주행 자동차 관련 글이 나와 흥미롭게 보아서 찾아보니, 한국교통연구원에서 만든 자료가 있길래 가져와봤다. 자율주행에는 운전자 보조가 필요한 1단계부터 완전히 자동차가 모든 조건을 계산하고 자율주행을 하는 5단계까지 정의가 되어있다고 한다. 이러한 단계를 기준으로 1~3단계의 경우는 사고가 발생할 경우 운전자의 과실로 인정되어 일반적 자동차 사고처럼 처리되지만, 4~5단계의 경우에는 자율주행을 하는 자동차가 스스로 사고를 대처하게 되어 과실인정이 어려워진다고 한다.

 

# 자율주행 기술수준에 따라 달라지는 사고 처리 방법 · 1단계(운전자 보조) - 운전자를 지원하는 시스템 수준, 운전자가 돌발상황에 대처하고 책임을 짐 · 2단계(부분 자동화) – 시스템이 부분적으로 자율주행지원, 운전자가 운행 중 발생하는 상황 판단 · 3단계(조건부 자동화) – 일부 특정 도로구간에서 자율주행 가능 · 4단계(고도 자동화) – 높은 수준의 자동화 단계로 일정 구간에서 자율주행, 긴급상황 시 차량 스스로 대처 가능 · 5단계(완전 자동화) – 모든 도로와 교통조건에서 자율주행이 가능한 완전자율주행

 

  흔히 알고있는 "트롤리 딜레마"를 자율주행 자동차의 AI로 판단하게 된다면, 자율주행 자동차는 어디로 자동차를 움직일지 어떻게 결정하게 될까? 눈 앞에 있는 5명의 사람을 그대로 치어버릴지, 아니면 방향을 바꾸어 1명의 사람을 희생시킬지, 그것도 아니라면 차에 타고 있는 나를 희생시켜서 눈 앞의 6명을 모두 살릴 수 있을지까지. 이 모든 결정을 자율주행 자동차의 AI는 어떤 것을 기반으로 결정해야할까? 자율주행 자동차가 이 딜레마를 해결하지 않고 우리 사회에 나올 수 있을지는 미지수인 것 같다. 이 딜레마와 관련해서 흥미로운 사이트를 하나 찾았는데, 도덕적 기계(moral machine) 라는 사이트이다.

  이 사이트에서는 여러가지 트롤리 딜레마 문제가 나에게 주어지고, 내가 자율주행 자동차라면 어느 방향을 선택할지를 고르도록 되어있는데... 모든 선택사항이 아주아주 괴롭다. "그들을 희생하느냐, 나를 희생하느냐" 문제는 그나마 나은 수준이다. 내가 아닌 그들의 목숨을 내 손에 쥐고 누군가를 죽도록 선택하는것(살리도록 선택하는 것일지도 모르지만)은 내가 이걸 선택해도 되나? 라는 생각을 들게한다.

 

Moral Machine

 

  내가 이런 걸 찾아보게 만든... 게임 속 원문은 아래에 첨부한다. 게임은 Detroit : Become Human이다. 아래 내용을 보면 인간에게 점수를 매긴다는 것 자체가 참 씁쓸하지만.. 어떻게 보면 또 맞는 말인 것 같기도 하다가, 아니 그래도 그렇지 점수제로 하는건 너무 윤리적이지 않다는 생각도 든다. 하여튼 여러가지 생각이 많이 드는 내용이다.

 

"무인차량이 생사가 걸린 결정을 내리는 방법"

 무인 차량이 사고를 예견할 경우, 차량의 컴퓨터는 두 명의 보행자 중 누구와 부딪힐 것인지와 같은 생사가 걸린 결정을 내리게 된다. 하지만 차량이 그런 결정을 내리는 과정에 대해서는 그리 잘 알려지지 않았다. 

  크라운카의 마틴 포롱의 언급에 따르면 그 과정은 다음과 같다고 한다. “그런 상황에서는 차량의 이미지 시스템이 보행자의 나이, 성별, 예상 수명 등을 판별하기 위한 데이터를 눈 깜짝할 사이에 수집합니다.” 그리고 그렇게 얻은 데이터로 공공 기록을 분석해 “혼인 여부와 고용 기록, 예상 수명, 자녀의 존재 여부 등을 결정”한다. 그 다음에 차량은 “의사와 간호사처럼 다른 사람을 살릴 수 있는 사람에게 가중치를 주는 식과 같이” 사회적 공헌도를 기준으로 각각의 잠재적 피해자에게 ‘값’을 부여한다.

  이 모든 것들이 적절한 것처럼 들릴지도 모르겠다. 하지만 반 자동화 연맹(AAL)의 수장인 펠릭스 갬블은 “범죄 기록이 있는 누군가가 꼭 의사보다 사회에서 가치가 없다고 할 수는 없다. 그런 종류의 정보는 인간 생명의 존엄함과는 무관한 것이다.” 라며 시스템이 그런 판단을 내릴 권리가 없다고 말하고 있다. 하지만 포롱은 그런 주장을 “우리는 우리의 차량이 최선의 선택을 하기를 바라고, 그건 바로 좀 더 많은, 좀 더 나은 정보를 수집해 그것을 기반으로 행동하는 것이다” 라고 묵살했다.