©egla, 출처Unsplash #트롤리딜레마 #자율주행자동차 #자율주행 #인공지능 #AI #테슬라
인공지능 과목 과제로 자율주행에서의 트롤리 딜레마에 관한 내용을 작성하게 됐다.기술해야 할 4가지 상황의 주요 내용은 다음과 같다.1. 자율주행에서의 트롤리 딜레마 브레이크가 고장난 트롤리 자동차가 달리고 있다. 레일 위에는 5명의 작업자가 일하고 있는데 트롤리가 이대로 달리면 5명©egla, 출처Unsplash #트롤리딜레마 #자율주행자동차 #자율주행 #인공지능 #AI #테슬라
인공지능 과목 과제로 자율주행에서의 트롤리 딜레마에 관한 내용을 작성하게 됐다.기술해야 할 4가지 상황의 주요 내용은 다음과 같다.1. 자율주행에서의 트롤리 딜레마 브레이크가 고장난 트롤리 자동차가 달리고 있다. 레일 위에는 5명의 작업자가 일하고 있는데 트롤리가 이대로 달리면 5명은 반드시 죽을 것이다. 한 가지 방법은 레일 변환기에서 트롤리의 방향을 바꾸는 것뿐이다. 그런데 다른 레일 위에는 1명의 근로자가 있다.• 당신은 트롤리의 방향을 바꿀 것인가?
- 자율주행에서의 트롤리 딜레마(트롤리 딜레마 상황 #2) 당신은 육교 위에서 트롤리가 달리는 모습을 지켜보고 있다. 브레이크가 고장난 트롤리는 5명의 근로자를 향해 달리고 있다. 무거운 것을 떨어뜨리고 트롤리를 멈춰야 하지만 육교에는 뚱뚱한 사람이 한 명 있을 뿐이다.• 체중이 적어 육교에서 떨어져도 트롤리를 멈출 수 없고 뚱뚱한 사람을 누르면 확실히 트롤리를 멈출 수 있다.• 그렇다면 뚱뚱한 사람을 육교 아래로 떨어뜨려야 할까.
- 1. 자율주행에서의 트롤리 딜레마·(자율주행 상황에서 트롤리 딜레마 상황 #1) : 안개가 심한 날 터널을 빠져나온 완전자율주행차 A가 앞에 있는 횡단보도를 건너는 사람들을 인지했다.• 왼쪽에는 다수의 노인분들이고, 오른쪽에는 다수의 어린이들이 건너가고 있다. 브레이크를 밟아도 멈추기 어려운 상황이라 두 집단 중 한쪽이 희생될 수밖에 없는 상황이다.• 이들을 돕기 위해 방향을 크게 바꾸면 탑승자가 희생된다.
- 1. 자율주행에서의 트롤리 딜레마(자율주행 상황에서의 트롤리 딜레마 상황 #2): 완전자율주행차 A가 해변 도로를 따라 시속 70km 속도로 달리다가 갑자기 뛰어든 3명의 사람을 발견하고 브레이크를 밟아도 3명이 희생될 수밖에 없음을 인지했다.• 그 사람들을 살리기 위해 방향을 바꾸면 탑승자가 희생된다, 다수를 위해 운전자가 희생해도 괜찮은가.• 자율주행차는 운전자를 최우선으로 중요시해야 하고 다수를 희생해도 괜찮은가?• 당신이 자율주행 알고리즘을 개발하는 인공지능 엔지니어라면 어느 쪽을 중요시할 것이며 해결 방법은 무엇일까?
- 1. 자율주행에서의 트롤리 딜레마 지금 본 상황에 대해 자신의 생각을 쓰고 그에 대한 이유, 해결 방법 등을 제시하자.- 본인의 선택은? – 책임 소재(운전자 vs 자동차 제조사 vs 자율주행 알고리즘 개발사 등) – 공리적인 판단? vs 드라이버 중심의 판단?내가 자율주행 인공지능 엔지니어라면 어떻게 설계하나?- 위의 이유와 해결방안 등을 자유롭게 제시하고 이에 대한 나의 주관적인 생각
- 트롤리 딜레마 상황 #1에서 결과적으로 나는 트롤리의 방향을 바꾸지 않을 것이다. 결과적으로 트롤리의 방향을 바꾼, 바꾸지 않은 인부의 죽음은 피할 수 없다. 공리주의 관점에 따르면 다수의 행복이 보장되는 결과를 추구하기 때문에 트롤리의 방향을 바꾸는 쪽을 옹호하겠지만 내가 트롤리의 방향을 바꾸는 순간 나는 타인의 죽음에 대해 직접 개입하게 된다. 여기 예에서는 단편적으로 한 번의 트롤리 딜레마 상황을 다뤘다. 그러나 현실에서 이런 딜레마 상황은 단 한 번에 끝나지 않을 수도 있다.
- 예를 들어 공리주의에 대해 다룰 때 야기되는 어린 히틀러를 상기해 본다. 궁극적으로 공리주의는 결과주의의 일종이기 때문에 어린 히틀러를 살해함으로써 홀로코스트(대학살)를 막을 수 있고 다수의 행복을 추구할 수 있다고 믿기 때문에 이런 주관적 공리주의는 의도한 결과가 옳은 것이기 때문에 당연한 것으로 풀이된다. 그런데 어린 히틀러를 살해하면서 나타난 또 다른 독재자가 21세기 초 핵전쟁을 일으켰고 이전보다 극악무도한 대학살이 일어났다면 어린 히틀러의 살해가 당연했다고 판단할 수 있을까. 공리주의자들은 이런 상황에서도 의도한 결과가 옳은 것이고 결과적으로 ‘최대 행복’을 이끌어낼 수 있는 판단이었으므로 문제가 없다고 단정한다. 내 입장에서는 그렇지 않다. 결과는 행위를 사전에 예측할 수 없는 것으로 생각하고 시간이 흐를수록 이러한 딜레마는 끝없이 이어질 수 있다. 다시 돌아가서 트롤리 딜레마 상황 #1에서 내가 변환기를 잡아당김으로써 내가 얻을 수 있는 좋은 결과는 ‘최대 행복’을 이끌어낼 수 있다는 의도에 불과하다. 그러나 이러한 의도는 예측 불가능하기 때문에 오히려 더 나쁜 결과를 초래할 수 있으며, 나에게 사건에 개입하는 계기를 마련해 줄 뿐이다. 단편적으로 더 이상 나쁜 결과가 발생하지 않는다고 가정하더라도 상기 예에서는 사건에 직접 개입하게 되므로 죽지 않을 예정이었던 작업원 1명을 희생자로 만드는 사건에 개입하게 된다. 궁극적으로 가장 큰 문제점이 바로 이것이다. 트롤리의 방향을 바꾸는 행위로 나는 인부 1명의 사망에 대한 책임 소재가 생기게 되고 이로 인한 죄책감은 직접적으로 느껴진다. 다섯 생명을 구하지 못한 데 대한 방관적 태도의 간접적 죄책감보다 더 크게 느껴지는 것이며 이에 대한 책임 소재도 드러난다. 브레이크가 고장난 트롤리로 인해 발생한 사건이기 때문에 5명의 노동자는 안타까운 피해자이며, 이 사건의 직접적인 책임은 트롤리 점검기사나 제조사 등으로 좁혀질 것이고, 또 다른 희생자 발생을 막기 위한 저의 태도는 적당한 방관으로 여겨질 것이다. 반대로 트롤리의 방향을 바꿔 더 적은 희생자를 발생시켰지만 이로 인한 나의 사건 개입이 한 희생자와 그 가족에 대한 죄의식이 없다고 확신할 수 없기 때문에 나는 방향을 바꾸지 않을 것이다.
- 트롤리 딜레마의 상황 #2도 같은 관점에서 접근할 것이다. 이는 전보다 쉬운 결정을 내릴 수 있다. 마찬가지로 내가 중요하게 여기는 관점은 첫째로 죽음이 불가피할까. 둘째, 내가 사건에 개입하게 되는가?셋째, ‘최대 행복’을 이끌어내는 결과가 확실한가?다.공리주의에서는 결과적으로 제3부터 결과가 아닌 의도에 중점을 두는 것에 제1과 제2의 관점은 우선순위에서 밀려나게 된다. 트롤리 딜레마의 상황 #2에서도 마찬가지로 공리적인 입장이라면 뚱뚱한 사람을 물리치게 될 것이다. 이유는 쉽게 소수의 희생으로 다수의 희생을 막을 수 있기 때문에 최대 행복의 의도를 명확히 하는 행위이기 때문이다. 내 관점에서 가까워졌을 때 트롤리가 달리는 상황에서 작업자들의 희생은 이미 확정된 것이다. 이러한 확정된 죽음에 대한 책임은 모두 트롤리와 관련된 책임자에게 있으며 나는 전혀 사건에 개입하지 않는다. 뚱뚱한 사람을 밀어내는 순간 죽음을 피할 수 있었던 무고한 사람을 희생자로 삼게 돼 죽음이 불가피한 다수인을 도울 수 있다. 여기서 중요한 것은 첫째 관점에서 피할 수 없는 다수의 죽음을 살리는 것보다 무고한 사람을 희생자로 만드는 것이 더 좋지 않은 판단이라고 생각된다. 또 트롤리 딜레마 상황 #1과 마찬가지로 사건 개입도 하게 되는 것이다. 사람을 직접 누르는 것이기 때문에 죄책감이 더 크게 느껴지지만 중요한 관점은 죄책감의 크기가 아니라 그런 죄책감이 생길 수 있는 일말의 여지를 따져봐야 한다. 상황과는 다르지만 내가 그 상황에 없었다고 가정한다면 결국 두 상황에서 모두 다수의 희생자가 발생했을 것이고, 이 사건을 뉴스로 접한 나는 죄책감에 대한 여지는 전혀 없을 것이다. 하지만 상황에서는 사건에 개입할 여지가 주어진 것이고 이로 인한 죄책감이 생길 수 있는 일말의 상황이 만들어진 것이다. 이런 상황일수록 방관하는 것이 공리주의와 달리 예측성에 기반한 결과가 아니라 확실한 결과를 이끌어낼 수 있다. 사람을 밀어도 누르지 않은 죄책감의 여지가 생길 수 있고 밀어붙였을 때는 확실한 죄의식이 생긴다고 생각한다. 물론 두 상황에서는 모두 다른 사건이 앞으로 일어날 가능성을 염두에 두지 않기 때문에 ‘최대 행복’ 의도가 확실해질 수는 있다. 그럼에도 결론적으로 방관으로 생기는 죄의식과 사건 개입으로 인한 직접적인 죄의식은 사람을 떠넘김으로써 다수를 구했을 때 얻는 ‘최대 행복’으로 그 죄책감의 차이를 극복하지 못한다고 생각한다. 또 사람을 밀지 않았을 때는 이후 사건에 대한 죄책감의 여지가 명확히 생긴다고 단정할 수 없다. 이런 죄책감이 생길 여지도 궁극적으로 책임이 유동성에 대해 생각해 보면 누르지 않았을 때 전혀 발생하지 않을 수 있다. 결국 이 책임의 유동성, 즉 사람을 떠넘겼을 때 생기는 사건에서 트롤리 관련 책임자의 책임이 사건 개입으로 인한 나에게 전가될 수 있는지를 따져보면 그 가능성은 매우 희박하지만 있다. 반면 누르지 않았을 때 나에게 적용되는 책임은 간접적인 방관으로 다가갈 수 있는데, 이는 또 다른 희생자를 막기 위한 방관이기 때문에 그 책임의 본질이 다르다고 볼 수 있다.
- 사실상 이런 딜레마의 두 상황 모두 또 다른 희생자를 막기 위한 행위이기 때문에 나에 대한 책임은 거의 없다고 볼 수 있지만 그것이 간접적인 방관이라는 것은 직접적인 개입에 비해 책임 유동성이 발생하지 않을 가능성이 훨씬 높은 것으로 판단된다. 실존은 본질에 앞선다고 생각하기 때문에 ‘최대 행복’의 의도가 확실하고, 그 결과까지 확실하다면 제3자의 입장에서 나는 ‘어린 히틀러’를 살해하는 것과 트롤리의 방향을 바꾸는 것, 사람을 밀치는 행위에 모두 동의할 것이다. 하지만 실제로 ‘어린 히틀러’를 살해하는 것은 결과가 확실하지 않으며 트롤리의 상황은 제3자의 시선이 아니라 나로 인한 책임 유동성이 발생하게 되고 이로 인한 사건 개입은 나의 본질을 깨버리는 행위가 되는 것이다. 나의 죄의식과 책임성에 본질을 깨는 것이기 때문에 이때는 실존이 본질을 리드하는 것에 대한 의미가 사라지는 것이다. 예를 들어 의자는 본질은 ‘앉는다’고 의자는 아니지만 앉을 수 있는 것은 실재이며 본질 없이 그 목적을 행할 수 있는 것이다. 이 상황에서는 사건에 대한 책임이 없는 것이 저의 본질이며, 어떤 상황이 벌어지더라도 그
- 은 반드시 죽을 것이다. 한 가지 방법은 레일 변환기에서 트롤리의 방향을 바꾸는 것뿐이다. 그런데 다른 레일 위에는 1명의 근로자가 있다.• 당신은 트롤리의 방향을 바꿀 것인가?
- 자율주행에서의 트롤리 딜레마(트롤리 딜레마 상황 #2) 당신은 육교 위에서 트롤리가 달리는 모습을 지켜보고 있다. 브레이크가 고장난 트롤리는 5명의 근로자를 향해 달리고 있다. 무거운 것을 떨어뜨리고 트롤리를 멈춰야 하지만 육교에는 뚱뚱한 사람이 한 명 있을 뿐이다.• 체중이 적어 육교에서 떨어져도 트롤리를 멈출 수 없고 뚱뚱한 사람을 누르면 확실히 트롤리를 멈출 수 있다.• 그렇다면 뚱뚱한 사람을 육교 아래로 떨어뜨려야 할까.
- 1. 자율주행에서의 트롤리 딜레마·(자율주행 상황에서 트롤리 딜레마 상황 #1) : 안개가 심한 날 터널을 빠져나온 완전자율주행차 A가 앞에 있는 횡단보도를 건너는 사람들을 인지했다.• 왼쪽에는 다수의 노인분들이고, 오른쪽에는 다수의 어린이들이 건너가고 있다. 브레이크를 밟아도 멈추기 어려운 상황이라 두 집단 중 한쪽이 희생될 수밖에 없는 상황이다.• 이들을 돕기 위해 방향을 크게 바꾸면 탑승자가 희생된다.
- 1. 자율주행에서의 트롤리 딜레마(자율주행 상황에서의 트롤리 딜레마 상황 #2): 완전자율주행차 A가 해변 도로를 따라 시속 70km 속도로 달리다가 갑자기 뛰어든 3명의 사람을 발견하고 브레이크를 밟아도 3명이 희생될 수밖에 없음을 인지했다.• 그 사람들을 살리기 위해 방향을 바꾸면 탑승자가 희생된다, 다수를 위해 운전자가 희생해도 괜찮은가.• 자율주행차는 운전자를 최우선으로 중요시해야 하고 다수를 희생해도 괜찮은가?• 당신이 자율주행 알고리즘을 개발하는 인공지능 엔지니어라면 어느 쪽을 중요시할 것이며 해결 방법은 무엇일까?
- 1. 자율주행에서의 트롤리 딜레마 지금 본 상황에 대해 자신의 생각을 쓰고 그에 대한 이유, 해결 방법 등을 제시하자.- 본인의 선택은? – 책임 소재(운전자 vs 자동차 제조사 vs 자율주행 알고리즘 개발사 등) – 공리적인 판단? vs 드라이버 중심의 판단?내가 자율주행 인공지능 엔지니어라면 어떻게 설계하나?- 위의 이유와 해결방안 등을 자유롭게 제시하고 이에 대한 나의 주관적인 생각
- 트롤리 딜레마 상황 #1에서 결과적으로 나는 트롤리의 방향을 바꾸지 않을 것이다. 결과적으로 트롤리의 방향을 바꾼, 바꾸지 않은 인부의 죽음은 피할 수 없다. 공리주의 관점에 따르면 다수의 행복이 보장되는 결과를 추구하기 때문에 트롤리의 방향을 바꾸는 쪽을 옹호하겠지만 내가 트롤리의 방향을 바꾸는 순간 나는 타인의 죽음에 대해 직접 개입하게 된다. 여기 예에서는 단편적으로 한 번의 트롤리 딜레마 상황을 다뤘다. 그러나 현실에서 이런 딜레마 상황은 단 한 번에 끝나지 않을 수도 있다.
- 예를 들어 공리주의에 대해 다룰 때 야기되는 어린 히틀러를 상기해 본다. 궁극적으로 공리주의는 결과주의의 일종이기 때문에 어린 히틀러를 살해함으로써 홀로코스트(대학살)를 막을 수 있고 다수의 행복을 추구할 수 있다고 믿기 때문에 이런 주관적 공리주의는 의도한 결과가 옳은 것이기 때문에 당연한 것으로 풀이된다. 그런데 어린 히틀러를 살해하면서 나타난 또 다른 독재자가 21세기 초 핵전쟁을 일으켰고 이전보다 극악무도한 대학살이 일어났다면 어린 히틀러의 살해가 당연했다고 판단할 수 있을까. 공리주의자들은 이런 상황에서도 의도한 결과가 옳은 것이고 결과적으로 ‘최대 행복’을 이끌어낼 수 있는 판단이었으므로 문제가 없다고 단정한다. 내 입장에서는 그렇지 않다. 결과는 행위를 사전에 예측할 수 없는 것으로 생각하고 시간이 흐를수록 이러한 딜레마는 끝없이 이어질 수 있다. 다시 돌아가서 트롤리 딜레마 상황 #1에서 내가 변환기를 잡아당김으로써 내가 얻을 수 있는 좋은 결과는 ‘최대 행복’을 이끌어낼 수 있다는 의도에 불과하다. 그러나 이러한 의도는 예측 불가능하기 때문에 오히려 더 나쁜 결과를 초래할 수 있으며, 나에게 사건에 개입하는 계기를 마련해 줄 뿐이다. 단편적으로 더 이상 나쁜 결과가 발생하지 않는다고 가정하더라도 상기 예에서는 사건에 직접 개입하게 되므로 죽지 않을 예정이었던 작업원 1명을 희생자로 만드는 사건에 개입하게 된다. 궁극적으로 가장 큰 문제점이 바로 이것이다. 트롤리의 방향을 바꾸는 행위로 나는 인부 1명의 사망에 대한 책임 소재가 생기게 되고 이로 인한 죄책감은 직접적으로 느껴진다. 다섯 생명을 구하지 못한 데 대한 방관적 태도의 간접적 죄책감보다 더 크게 느껴지는 것이며 이에 대한 책임 소재도 드러난다. 브레이크가 고장난 트롤리로 인해 발생한 사건이기 때문에 5명의 노동자는 안타까운 피해자이며, 이 사건의 직접적인 책임은 트롤리 점검기사나 제조사 등으로 좁혀질 것이고, 또 다른 희생자 발생을 막기 위한 저의 태도는 적당한 방관으로 여겨질 것이다. 반대로 트롤리의 방향을 바꿔 더 적은 희생자를 발생시켰지만 이로 인한 나의 사건 개입이 한 희생자와 그 가족에 대한 죄의식이 없다고 확신할 수 없기 때문에 나는 방향을 바꾸지 않을 것이다.
- 트롤리 딜레마의 상황 #2도 같은 관점에서 접근할 것이다. 이는 전보다 쉬운 결정을 내릴 수 있다. 마찬가지로 내가 중요하게 여기는 관점은 첫째로 죽음이 불가피할까. 둘째, 내가 사건에 개입하게 되는가?셋째, ‘최대 행복’을 이끌어내는 결과가 확실한가?다.공리주의에서는 결과적으로 제3부터 결과가 아닌 의도에 중점을 두는 것에 제1과 제2의 관점은 우선순위에서 밀려나게 된다. 트롤리 딜레마의 상황 #2에서도 마찬가지로 공리적인 입장이라면 뚱뚱한 사람을 물리치게 될 것이다. 이유는 쉽게 소수의 희생으로 다수의 희생을 막을 수 있기 때문에 최대 행복의 의도를 명확히 하는 행위이기 때문이다. 내 관점에서 가까워졌을 때 트롤리가 달리는 상황에서 작업자들의 희생은 이미 확정된 것이다. 이러한 확정된 죽음에 대한 책임은 모두 트롤리와 관련된 책임자에게 있으며 나는 전혀 사건에 개입하지 않는다. 뚱뚱한 사람을 밀어내는 순간 죽음을 피할 수 있었던 무고한 사람을 희생자로 삼게 돼 죽음이 불가피한 다수인을 도울 수 있다. 여기서 중요한 것은 첫째 관점에서 피할 수 없는 다수의 죽음을 살리는 것보다 무고한 사람을 희생자로 만드는 것이 더 좋지 않은 판단이라고 생각된다. 또 트롤리 딜레마 상황 #1과 마찬가지로 사건 개입도 하게 되는 것이다. 사람을 직접 누르는 것이기 때문에 죄책감이 더 크게 느껴지지만 중요한 관점은 죄책감의 크기가 아니라 그런 죄책감이 생길 수 있는 일말의 여지를 따져봐야 한다. 상황과는 다르지만 내가 그 상황에 없었다고 가정한다면 결국 두 상황에서 모두 다수의 희생자가 발생했을 것이고, 이 사건을 뉴스로 접한 나는 죄책감에 대한 여지는 전혀 없을 것이다. 하지만 상황에서는 사건에 개입할 여지가 주어진 것이고 이로 인한 죄책감이 생길 수 있는 일말의 상황이 만들어진 것이다. 이런 상황일수록 방관하는 것이 공리주의와 달리 예측성에 기반한 결과가 아니라 확실한 결과를 이끌어낼 수 있다. 사람을 밀어도 누르지 않은 죄책감의 여지가 생길 수 있고 밀어붙였을 때는 확실한 죄의식이 생긴다고 생각한다. 물론 두 상황에서는 모두 다른 사건이 앞으로 일어날 가능성을 염두에 두지 않기 때문에 ‘최대 행복’ 의도가 확실해질 수는 있다. 그럼에도 결론적으로 방관으로 생기는 죄의식과 사건 개입으로 인한 직접적인 죄의식은 사람을 떠넘김으로써 다수를 구했을 때 얻는 ‘최대 행복’으로 그 죄책감의 차이를 극복하지 못한다고 생각한다. 또 사람을 밀지 않았을 때는 이후 사건에 대한 죄책감의 여지가 명확히 생긴다고 단정할 수 없다. 이런 죄책감이 생길 여지도 궁극적으로 책임이 유동성에 대해 생각해 보면 누르지 않았을 때 전혀 발생하지 않을 수 있다. 결국 이 책임의 유동성, 즉 사람을 떠넘겼을 때 생기는 사건에서 트롤리 관련 책임자의 책임이 사건 개입으로 인한 나에게 전가될 수 있는지를 따져보면 그 가능성은 매우 희박하지만 있다. 반면 누르지 않았을 때 나에게 적용되는 책임은 간접적인 방관으로 다가갈 수 있는데, 이는 또 다른 희생자를 막기 위한 방관이기 때문에 그 책임의 본질이 다르다고 볼 수 있다.
- 사실상 이런 딜레마의 두 상황 모두 또 다른 희생자를 막기 위한 행위이기 때문에 나에 대한 책임은 거의 없다고 볼 수 있지만 그것이 간접적인 방관이라는 것은 직접적인 개입에 비해 책임 유동성이 발생하지 않을 가능성이 훨씬 높은 것으로 판단된다. 실존은 본질에 앞선다고 생각하기 때문에 ‘최대 행복’의 의도가 확실하고, 그 결과까지 확실하다면 제3자의 입장에서 나는 ‘어린 히틀러’를 살해하는 것과 트롤리의 방향을 바꾸는 것, 사람을 밀치는 행위에 모두 동의할 것이다. 하지만 실제로 ‘어린 히틀러’를 살해하는 것은 결과가 확실하지 않으며 트롤리의 상황은 제3자의 시선이 아니라 나로 인한 책임 유동성이 발생하게 되고 이로 인한 사건 개입은 나의 본질을 깨버리는 행위가 되는 것이다. 나의 죄의식과 책임성에 본질을 깨는 것이기 때문에 이때는 실존이 본질을 리드하는 것에 대한 의미가 사라지는 것이다. 예를 들어 의자는 본질은 ‘앉는다’고 의자는 아니지만 앉을 수 있는 것은 실재이며 본질 없이 그 목적을 행할 수 있는 것이다. 이 상황에서는 사건에 대한 책임이 없는 것이 저의 본질이며, 어떤 상황이 벌어지더라도 그