미국 매사추세츠 공대(MIT)의 연구소, 미디어 랩은 2016년, "도덕적 머신(Moral Machine, 도적적 기계)"라고 이름 붙여진 게임을 공개했다. 드라이버가 없는 자동 운전 자동차가 주행중 윤리적으로 어떤 선택을해야할지 명확히하기 위해 정보 수집을 목적으로 한 게임이다.
자동 운전 자동차는 승무원을 희생해서라도, 규칙을 위반하여 도로를 횡단하는 보행자를 구하기 위해 핸들을 꺾을것인가? 자동차 운전이 기계에 맡겨지는 사회의 도래가 다가온 가운데, 사람의 생사에 관한 이러한 결정은 매우 중요한 것이다.
■ 400만 명이 답변
MIT의 이야드 라완 교수가 이끄는 팀이 공개 한 게임 중에서는, 성별이나 연령이 다른 승무원, 보행자의 여러 조합이 설정되어있다(도로를 횡당하는 개와 고양이 등 인간 이외도 등장한다). 이 게임은 지난해 말까지, 약 400만명이 참가, 설정된 상황에서 발생하는 윤리적 인 문제에 대한 생각을 나타냈다.
미국 애리조나 주에서는 3월 18일, 라이드 쉐어 최대 기업 우버 테크놀로지의 자동 운전 자동차가 보행자를 사망에 이르는 사고를 일으켰다. 라완 교수가 두바이에서 개최 된 교육과 기술에 관한 국제 포럼에서 게임의 결과를 밝혔다는 그 전날의 일이다.
■ "다양한 가치관"의 반영은 곤란
라완 교수에 의하면, 자동 운전 자동차를 둘러싼 윤리적 인 문제에 대해 세계적 수준으로 실시되고 있는 가운데, 이 조사는 최대 규모다. 교수들은, 자동 운전 차량에 의한 윤리적 인 선택을 하기 위해, 자동차 제조 업체와 기술 대기업은 이 게임의 결과를 코딩화 하는 정보에 반영시킬 수 있다고 생각하고 있다.
그러나, 조사는 지금까지, "명확한 결론"을 이끌어 내고있는 것은 아니다. 연구팀에 따르면, 예를 들어 "차에 치일 수 있는 것이 어린이 또는 성인이냐"는 "간단한" 선택의 경우 대다수가 "더 어린 생명을 보호해야 한다"고 생각하고 있는 것을 명확하게 보여주는 결과를 얻을 수 있다. 또한 도로를 횡단하는 보행자의 나이가 고령이 될 수록 아이를 우선해야 한다고 대답하는 사람이 많았다.
한편, "보행자와 탑승자 중 어느쪽을 우선하여 보호할 것인가"라는 선택을 요구하는 경우에는, 결과는 명확하게 어느 쪽이라고 말할 수 없다는 것으로 되어있다. 탑ㅁ승자를 부상시키는 것보다 자동차가 보행자에게 돌진한다는 것을 선택한 사람은 약 40%였다.
또한 "규칙에 따라 도로를 횡단하고 있던 1명이 사망", "규칙을 위반하여 도로를 횡단하고 있던 2명이 사망" 중에서 보다 중시해야 할 상황 중 하나라는 점에 대해서는 의견은 거의 절반 씩 엇갈렸다. 설정되는 시나리오가 복잡할수록 명확한 "답변"은 얻을 수 없게되어있다.
■ 지금 요구되는 것
게임의 결과는 국가나 지역에 따른 차이도 보였다. 라완 교수에 따르면, "독일과 다른 나라, 구미와 달리 각국을 비교하면 매우 흥미로운 문화적 차이를 보였다"고 말한다.
독일의 고급차 메이커 메르세데스 벤츠가 "승무원을 우선해야한다"는 견해를 나타낸 것을 계기로, 국내에서 논란이 불붙었다. 이에 따라 독일의 조사 결과는, 유럽의 다른 나라에 비해 선택에 명확한 경향이 나타나고 있다. 교수는 이에 대해 "우리는 다양한 상황을 고려하여 검토해야 한다는 것을 나타내고 있다....모든 사람의 동의를 얻을 수 없다"고 지적하고 있다.
교수는 또 조사 결과는 SF 작가 아이작 아시모프가 "로봇 공학의 삼 원칙"에서 보여준 생각을 뒷받침하는 것이라고 말했다.
"우리 자신의 가치관을 반영하는 기계를 만들려고 하는 경우, 그 가치를 더 깊이 이해할 필요가 있다. 그리고 알게된 것을 정량화하고 무엇이 중요한지에 대한 합의를 얻기 위하여 논의 할 필요가 있다"
자동 운전 차량은 사망 사고를 일으킨 것으로, 앞으로도 사망자가 나올 가능성이 있다는 것이 전세계적으로 전달된 가운데, 그들이 어떤 도덕적, 윤리적 판단을 내릴 것인가에 대해, 우리가 지금 생각하기 시작하지 않으면 안된다.