.

[ Cass R. Sunstein (2016), The Ethics of Influence: Government in the Age of Behavioral Science (Cambridge University Press), pp. 78-115. ]

1. A Definition

2. Autonomy, Dignity, and Welfare

3. Insulting Deliberation

4. Manipulating System I

5. Testing Cases

6. What’s Wrong with Manipulation?

7. Welfare

8. Manipulation with Consent: “I Welcome It!”

9. Transparency and Manipulation

9.1. Hiding something

9.2. Transparency does not justify manipulation

9.3. Transparency about psychology?

10. Democratically Authorized Manipulation

11. Unifying Strands

12. Compelled Speech

13. Regulating Manipulation

14. Consumer Protection

15. Manipulation: Final Words

■ 논문의 문제의식 [80]

조종은 무엇을 함축하며, 무엇이 잘못된 것인가?

법은 조종에 어떻게 대응해야 하는가?

예) 소비자 보호나 정부가 스스로를 강제하는 맥락에서?

언제 영향이 조종적인가, 또는 언제 받아들일 수 없게 조종적인가?

넛지들은 조종적이고, 그러한 이유로 윤리적으로 반대할 만한가?”

■ 조종에 관한 은유 - 꼭두각시 인형 [80-81]

사람들이 조종당하고 있을 때, 그들은 “줄에 매달린 꼭두각시들”(puppets on a string)처럼 다루어진다고 종종 생각됨.

거의 아무도 (적어도 동의 없이) 다른 사람의 꼭두각시가 되기를 원하지 않으며, 어떤 면에서 정부의 꼭두각시가 되는 것은 특히 나쁨.

우리가 꼭두각시 은유를 염두에 둔다면, “조종”의 관념은 행동의 많은 종류들에 적용될 수 있을 것임.

그러나 조종이 단일한 개념인지, 또는 우리가 필요조건과 충분조건들을 확인할 수 있을지 아주 명확하지는 않음.

조종은 다양한 형태들을 취함.

1. A Definition

■ 조종의 정의 [82]

선스타인이 제안하는 최선의 설명은, 사람들의 선택에 영향을 미치려는 노력을, 그것이 사람들의 반성하고 숙고하는 능력을 충분하게 관여시키지 않거나 그 능력에 충분하게 호소하지 않는 그 정도만큼 조종적이라고 간주하는 것

이것이 조종에 관한 우리의 설명이라면, 대부분의 넛지들이 그 범주 안에 들어가지 않는다는 것이 명백해야 함.

2. Autonomy, Dignity, and Welfare

3. Insulting Deliberation

■ [87]

예를 들어, 어떤 설명에서, 조종은 “대상의 합리적 능력들을 우회하거나 뒤엎는 영향의 한 종류”

윌킨슨은 조종이 대상들을 “도구들과 바보들”로 취급하는 방식으로 “한 사람의 자율적인 의사결정을 뒤엎고 모욕한다”고 주장함.

그는 “조종이 선택을 왜곡하는 방법들을 사용하여 의도적으로 그리고 성공적으로 누군가에게 영향을 미치는 것”이라고 함.

예) 자동차를 팔기 위해 매력적인 사람들을 관여시키거나, 정치적 반대자를 공격하기 위해 무서운 음악과 추한 사진들을 이용하는 것

우리는 아마도 그러한 경우들에서, 고객들과 투표자들이, 관련된 발화자가 그들에게 자동차의 가치들이나 반대자의 악덕에 관한 정직한 설명과 같은 그 어떤 것도 제공하지 않고 있지만, 그 대신 선택자를 조종자가 선호하는 방향으로 밀어붙이기 위하여 다양한 종류의 연상들을 사용한다는 의미에서 모욕당한다고 생각할 것임.

한 설득력 있는 관점에서, 조종은 숙고가 불충분한 그 정도만큼 관련됨.

여기서 다시, 우리가 단순한 온-오프 스위치보다는, 조종의 정도들에 대하여 말해야 한다는 점에 주목하는 것은 중요함.

87-88

물론 선택, 또는 사람들이 결정에 도달하거나 선호를 형성하는 방식을 “왜곡하는 것”의 관념은, 그 자체로 정의되지는 않음.

“왜곡하는 것”은 반성적 숙고의 올바른 종류 또는 정도에 호소하지 않거나, 그러한 숙고를 산출하지 않는 방법들을 가리키는 것으로 이해될 수 있음.

만약 그렇다면, 조종에 대한 한 반대 의견은 조종이 “희생자들의 의사결정 능력을 뒤엎고 모욕함으로써 희생자의 자율을 침해한다”는 것

4. Manipulating System I

■ [90]

사회과학 연구에서, 시스템 1이 자동적, 직관적 시스템이며, 편향과 경험적 접근들의 사용에 치우치기 쉬운 반면, 시스템 2는 좀 더 숙고적이고, 계산적이며, 반성적

조종자들은 종종 시스템 1을 목표로 삼으며 시스템 2를 우회하거나 훼손하려고 시도함.

관련된 당사자의 의식적인 깨달음에 호소하지 않고 “등 뒤에서” 작동하기 때문에 조종적이라고 간주되어야 할, 잠재의식적인 광고를 고려할 것.

사람들의 결정은 그들 자신의 숙고 능력들을 완전히 우회하는 방식으로 영향 받음.

조종의 어떤 형태들은 시스템 2에 과부하를 거는 것을 포함하고 시스템 1은 전혀 관련시키지 않음.

5. Testing Cases

90-91

조종의 개념의 경계들을 시험하는 몇몇 경우들을 고려하라.

사례1

공무원들은 상대적 위험 정보를 통해 사람들이 어떤 행동에 참여하도록 설득하고자 함.

“만약 당신이 X를 하지 않는다면, 당신이 심장병으로 사망할 가능성은 세 배가 될 것입니다!”

그들의 목표는 넛지를 가하는 것이며, 이를 위해 상대적 위험 정보를 사용함.

그 정보는 정확하지만, 오도할 수 있음.

목표가 행동을 바꾸는 것이라면, 상대적 위험 프레임은 절대적 위험 프레임보다, 훨씬 더 주목을 끌 것이며, 아마도 훨씬 더 효과적일 것임.

위험을 세 배로 높이는 것은 걱정스럽게 들리지만, 사람들이 그러한 증가가 겨우 2/100,000(1/100,000 -> 3/100,000)임을 안다면 그리 걱정하지 않을 것임.

사람들을 겁먹게 만들고 시스템 1을 활성화시키기 위한 –그리고 이렇게 그들을 조종하기 위한(적어도 약한 의미에서) 노력으로서 상대적 위험 프레임(건강에 큰 영향을 암시하는)을 선택하는 것은 확실히 합리적임.

91-

위험을 기술하는 사람들은 프레이밍의 어떤 종류를 회피할 수 없으며, 프레이밍은 넛지임.

그러나 그러한 프레이밍은 조종을 수반할 필요가 없음.

상대적 위험 프레임의 사용이 사람들의 숙고 능력을 충분히 끌어들이지 않거나, 그러한 능력에 대해 많은 존중을 보이지 않는다는 주장. 그것은 아마 심지어 시스템 1을 특별히 겨냥하려는 노력일 것임.

그러한 결론은 상대적 위험 프레임이 필연적으로 한도를 벗어난다는 것을 의미하지 않음.

이것은 조종의 심각한 사례가 거의 아니며, 그것이 수많은 생명을 구한다면 아마도 정당화될 것임.

6. What’s Wrong with Manipulation?

7. Welfare

8. Manipulation with Consent: “I Welcome It!”

101

사람들이 조종에 동의한다고 가정하자.

어떤 알콜중독자는 자신의 부인에게 이렇게 말할 수 있음. “나는 술을 끊으려고 엄청나게 노력 중이야. 제발 당신이 생각할 수 있는 어떤 기술이든 날 돕기 위해 써줘. 조종은 정말 명백한 선택지야. 나는 환영해!”

윌킨슨은 조종이 자율을 침해한다고 말하는 것은 너무 투박하다고 말함. 왜냐하면 “조종은 동의될 수 있으며, 조종이 올바른 방식으로 동의를 얻는다면, 조종은 적어도 자율과 일관적일 것이고 자율을 향상하는 것으로 간주될 것”이기 때문임.

101-102

그러한 결론은 꽤 힘이 셈.

우리는 동의를 시스템 2로부터의 지지를 암시하는 것으로 이해할 수 있는데, 그것은 아마도 약간의 조종을 (혹은 아마도 많은 조종을) 시스템 1의 역효과들을 가두는 한 방식으로서 환영할지도 모름.

102

합의에 의해 성립된 조종이 유별난 경우라는 것을 아는 것은 중요함.

도움이 필요한 누군가는 보통 “제발 나를 조종해줘”라고 요청하지는 않음.

그러나 그러한 경우들은 분명히 존재하고, 적어도 사람들이 자기-통제의 심각한 문제에 직면할 때 그러함.