자율주행 자동차의 딜레마

제게 무엇을 말씀하시고 싶은 것인지 잘 모르겠습니다

그 책은 저도 읽어본 적이 있습니다. 코멘트 고맙습니다

공학윤리적인 책임을 논할 수밖에 없다고 생각합니다. 예를 들어 운전자를 보호하는 알고리즘과 하드웨어를 갖춘 차가 남을 다치게 하는 차보다 더 비싸다면, 이건 단순히 개인의 '윤리적 선택'을 벗어나게 됩니다. 윤리에 경제가 작용하는 거죠.

본문의 예시와는 별개로, "사고가 날 경우 내가 책임져야 하는 손해배상액이 적은 쪽으로 핸들을 틀어라"라는 알고리즘이 설정된 차를 제조하는 것은 도덕적일까요? 프로그래머는 본문의 이지선다를 벗어나 수많은 상황에 대한 지침을 "미리" 설정할 수 있죠. 그리고 상기한 옵션을 제공하는 것이 도덕적인가를 고려한다면, 저는 잘 모르겠습니다.

물론 공학자가 개인의 주머니 사정까지 고려해야 한다는 건 지나친 책임부여일 수도 있습니다. 옵션을 다양하게 제공하는 것도 판매량을 늘리기 위한 조치일 수 있죠. 그러나 공학윤리라는 것을 고민할 필요성은 있다는 생각이 드네요.

어느 것에 관점을 두느냐에 따라 다른 답안지를 내놓을 수 있겠죠. '개인의 생명을 지킨다'라는 차량의 옵션은 개인의 기본권으로 간주 가능하다고 봅니다. 그렇게 되면 '다수를 위해 개인이 희생한다'는 옵션은 선택권이 됩니다. 그럼 두 가지 중에 옳고그름을 따질 수 있을까요? 저는 결과적인 것에 집중하기보다 사고실험이기에 의도성을 조명했습니다.

말씀처럼 공학윤리적인 측면에서 이러한 문제를 고민해 보는 것은 중요합니다. 사실 무엇을 말하고자 하는지는 저를 비롯한 제 코멘트에 추천해 주신 분들도 아주 잘 알 것입니다. 다만 저 전개에는 다소 허점이 보입니다. 예컨데 글에서 '반사반응'을 '단순한 반사반응'이라고 표현하며 운전자의 무책임을 강조하였고, 누군가에게는 쉬운 선택이 되어질 수 있는 문제를 편협적인 시선을 섞어서 딜레마를 연출해 냈습니다. 제가 앞선 코멘트를 한 이유는 공학자나 구매자 또는 정부가 책임을 가질 필요가 없다기 보다 어떠한 경우라도 정답(혹은 어떠한 경우라도 오답)이라고 말하고 싶었던 측면이 큽니다. 모쪼록 이 자료는 이러한 비판을 들으면서도 성공했네요. 한 번 생각해보게 했으니까요.

코멘트 고맙습니다.

맞습니다

그 사실을 외면하고 도망치려고 하는 게 현재 수준입니다

안타깝죠

이전에 제가 음주사고에 대하여 댓글을 남겼는데 그다지 다르지 않네요

/g2/bbs/board.php?bo_table=freetalk&wr_id=2929517&sca=&sfl=wr_name%2C0&stx=playing&sop=and&scrap_mode=

저런 논의가 나오는 건 인간은 운전하는 인간스스로가 책임을 지지만 저건 위의 말처럼 프로그래머들이 설정한 설정값에 의해 정해져서 그런거겠죠?

저도 서는 쪽으로 발달할 거라고 봅니다. 다만 더 큰 사고로 이어질 수도 있으니 의문자체는 잘못된 게 아니지만 말이죠.

일단 사람이 운전하는 행태를 mimic 할테니, 전방거리 지키면서 서면 큰 문제는 없을거라고 생각됩니다만.. 저는 차라리 이 글에서 나온 다양한 돌발상황에 대한 인지를 timely manner 로 가능하게 하는게 challenge 가 아닐까 싶습니다. 최근에 흰 트레일러를 박아버린 사망사고도 있었고, 다양한 돌발상황을 사람처럼 인지하는게 쉬울까 싶습니다. 그게 가능하려면 constraints 를 정하고, 그에 맞춰 도로 환경을 새로 꾸미거나 해야할텐데 인프라 구축을 어떻게 할지 궁금하네요..