[ Cathy O’Neil (2016), Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy (Crown).
캐시 오닐, 「10장. 표적이 된 시민들: 민주주의를 위협하는 빅데이터」, 『대량살상 수학무기』, 김정혜 옮김 (흐름출판, 2017), 298-328쪽. ]
1. 세상에서 가장 거대한 실험실
2. 마이크로 타기팅, 유권자 갈라치기
3. 미국 정치권의 빅데이터 활용법
4. 천사도 악마도 될 수 있다
299-
페이스북은 자사의 이해관계에 근거해 우리가 페이스북에서 무엇을 보고 무엇을 배울지를 결정함.
현재 미국 성인 세 명 중 두 명이 페이스북 계정을 가짐.
이들이 매일 페이스북에서 소비하는 시간은 평균 39분
직접 만나 얼굴을 보며 사교하는 시간은 이보다 평균 43분
여론조사 기관인 퓨 리서지 센터(Pew Research Center)가 발표한 보고서에 따르면 사용자 절반 가까이가 자기 일상적인 소식들을 페이스북에 공유함.
페이스북은 자사 알고리즘을 조작해 우리에게 선별된 글만 보여줌으로써 정치 시스템을 조종할 수 있을까?
1. 세상에서 가장 거대한 실험실
300-
페이스북은 2010년 미국 총선과 2012년 미국 대선 때 ‘투표 메가폰’(voter megaphone)이라는 도구를 개선하기 위한 실험을 함.
사용자들이 자신이 투표했다는 사실을 페이스북에 널리 퍼뜨려 다른 이들의 투표를 독려하는 것
이는 매우 합리적인 방법처럼 보였음.
300-
페이스북의 데이터과학자들은 업데이트되는 새로운 소식이 사람들의 투표 행위에 미치는 영향도 조사함.
페이스북은 몇 시간 만에 수천만 명의 정보를 수집했고 그들이 서로에게 미치는 영향력을 측정할 수 있었음.
페이스북은 자신들이 마음만 먹으면 사람들의 행동에 영향을 미칠 가능성을 확인함.
301-
구글, 애플, 마이크로소프트, 아마존 등은 물론이고 버라이즌과 AT&T같은 이동통신 사업자를 포함해 주식이 공개된 상장회사들도 수많은 사람에 관한 막대한 정보와 더불어 자신들이 선택하는 방향으로 우리를 이끌 수 있는 도구를 보유한다고 보아야 함.
301-
기업들은 이런 도구들을 수익 창출에 이용함.
기업의 수익은 정부 정책과 밀접하게 연결됨.
기업 행동의 규제 여부, 기업 인수합병의 승인 여부, 새로운 조세 정책 수립 여부 등은 결국 정부가 칼자루를 쥐고 있음.
301-
실제로 2000년 대선 당시 조지 W. 부시는 플로리다에서 단지 537표를 더 얻어 대통령에 당선됨.
투표일에 페이스북 알고리즘 하나가 작동함으로써 상하원 다수당과 소수당 운명을 가를 뿐만 아니라 대통령까지 결정할 수 있는 셈.
304-
신문은 아주 오래전부터 페이스북과 비슷한 힘을 행사해왔다고 할 수도 있음.
편집기자들은 1면에 어떤 기사를 실을지 선택하고 그 기사를 어떤 관점에서 작성할지 결정함.
TV 뉴스도 마찬가지임.
그러나 <뉴욕타임즈>나 CNN의 편집 결정 원칙은 누구나 알 수 있음.
305-
반면, 페이스북은 마법사임. 관여하는 사람이 드러나지 않음.
사용자는 페이스북에 접속해 친구들이 올린 글을 죽 훑어봄.
페이스북 자체는 중립적으로 여겨짐.
305-
페이스북은 언어 처리 소프트웨어를 사용해 게시물을 긍정적인 것과 부정적인 것으로 분류함.
한 집단 뉴스피드에서는 부정적인 게시물을 절반 이하로 줄이고, 다른 집단 뉴스피드에서는 긍정적인 게시물을 줄임.
이후 조사해 보니 사용자가 가지는 감정이 실제로 변함.
긍정적인 내용에 덜 노출된 사람들은 부정적인 게시물을 더 많이 올렸고, 긍정적인 게시물에 더 많이 노출된 사람들은 긍정적인 게시물을 더 많이 올림.
연구진의 결론: “누군가에게 감정 상태는 다른 사람들에게 전이될 수 있고 자신도 모르는 사이에 그 사람과 똑같은 감정을 경험하게 만든다.”
페이스북 알고리즘은 마음만 먹으면 수백만 명이 가진 생각을 아무도 모르게 조작할 수 있음.
2. 마이크로 타기팅, 유권자 갈라치기
308-
2012년 미트 롬니는 공화당 대통령 후보가 됨.
309-
롬니는 열성 지지자 모임에서 미국인 47%가 “받는 사람”(taker)들로, 큰 정부(big government)가 베푸는 관대함에 빌붙어 살아간다는 평소 소신을 거침없이 털어놓음.
그러면서 그 47%는 절대로 자기를 지지하지 않을 거라면서 그렇기에 나머지 53% 표를 얻는 것이 중요하다고 함.
그런데 음료와 카나페를 돌려놓은 쟁반을 들고 부유한 기부자 사이들 돌아다니는 종업원들이 바로 47%였음.
그들 중 일부는 카메라 기능이 있는 휴대전화로 그 장면을 찍어서 널리 퍼뜨림.
롬니는 선거에서 패함.
311-
현대 소비자 마케팅은 정치인들을 특정한 유권자에게로 데려다주는 새로운 경로를 제공함.
이제 정치인들은 각 유권자 집단이 필요한 욕구에 맞춤화된 정보를 들여줄 수 있음.
유권자들은 확증 편향에 따라 정치인에게서 들은 정보를 액면 그대로 받아들임.
롬니의 기금 모금 행사 참석자 중 누구도 그의 발언에 이의를 제기하지 않은 것은, 그 발언이 그들의 기존 믿음을 뒷받침해주는 것이었기 때문.
312
더욱 세밀한 접근법
직접 우편을 통한 선거운동
정치참모들은 신용카드업계의 전술을 차용하여 막대한 유권자 데이터베이스를 구축하고 각자 가치관과 인구통계학적 정보를 고려해 유권자를 다양한 집단으로 분류함.
가령, 같은 후보에게서 어느 집은 야생동식물 보호를 약속하는 우편물을 받고, 다른 집은 법과 질서를 강조하는 우편물을 받는 식임.
3. 미국 정치권의 빅데이터 활용법
315-
부동층 유권자들은 특정 브랜드를 고집하지 않고 몇 센트라도 싼 브랜드로 발길을 돌리는 갈대 고객과 비슷하게 행동함.
수퍼마켓 모형에서는 고객이 특정 브랜드에서 수퍼마켓에 더 이익이 되는 다른 브랜드로 갈아타게 하는데 필요한 예상 비용을 계산할 수 있음.
가령, 브랜드 충성도가 낮은 하위 15% 갈대 고객에게 할인 쿠폰을 제공하는 식
317
가니의 데이터 팀은 후원금을 낼 가능성이 높은 유권자들을 집단으로 분류한 다음 그 집단이 가지는 욕구와 두려움은 물론 그들 행동을 변화시킬 동인을 찾아냄.
인터뷰한 유권자들의 인구통계 자료와 소비자 데이터를 철저히 조사하고 그들에 관한 수학적 프로필을 작성함.
마지막으로는 전국 데이터베이스를 샅샅이 뒤져 작성한 프로필과 비슷한 사람을 찾아 그들을 동일 버킷으로 분류하는 작업
317-
이러한 모든 작업을 마치고 난 뒤에 오바마 캠프는 각 집단에 페이스북과 언론 사이트를 통해 맞춤 광고 메시지를 전달하고 반응을 관찰함.
이러한 과정을 되풀이하고 수정 보완하면서 오바마 캠프는 부동층 1500만 명을 포함한 표적 유권자들에 대한 분석 자료를 가지게 됨.
319-
이러한 표적 캠페인은 언제나 효과를 보는 것은 아님.
일부는 과장되고 허술해서 역효과를 내기도 함.
마이크로 타기팅 전문가들의 일을 어렵게 만드는 제약 조건 중 하나는
미국은 각자 거주하는 주에 따라 유권자 가치가 상승하거나 하락한다는 것
플로리다, 네바다, 오하이오 등 정치적 성향이 뚜렷하지 않은 경합주의 부동층의 유권자의 가치는 매우 높음.
공화당이나 민주당이 확실히 우세한 주에 거주하는 유권자의 가치는 상대적으로 낮음.
이를 반영하여 유권자에게 마케팅 예산은 가치가 높은 유권자에게 신속하게 배정됨.
319-
이런 미국 정치시장은 금융시장과 매우 비슷함.
증권시세처럼 정보 흐름에 따라 유권자 가치가 등락함.
4. 천사도 악마도 될 수 있다
322-
로비스트와 이익집단도 자기들의 목표를 달성하기 위해 표적 선정기법을 사용함.
2015년 낙태 반대 단체인 의료진보센터(Center for Medical Progress)는 낙태 당한 태아 동영상을 공개함.
이들은 낙태 태아 장기와 신체 부위를 연구 목적으로 판매하고 있다고 주장함.
훗날 이 동영상은 조작된 것으로 밝혀짐.
낙태 태아는 사산아 사진이었음.
323-
낙태 반대 캠페인은 처음부터 드러내놓고 대중을 공략한 반면, 정치권에는 개별 유권자를 상대하면서 조용히 전개되는 캠페인이 수백 가지는 됨.
324-
2015년 한 여론조사에서 공화당원 43% 이상이 오바마가 이슬람교도라는 가짜 뉴스를 믿는다고 응답함.
325-
물밑에서 행해지는 캠페인은 정치권과 유권자 사이에 정보 불균형 상태를 초래함.
정치 마케팅 전문가는 유권자에 대한 세세한 정보를 관리하고, 유권자들에게 정보를 찔끔찔끔 제공하면서 각자 정보에 어떻게 반응하는지 측정함.
반면, 유권자들은 자기 이웃에게 어떤 정보가 제공되는지 전혀 알 길이 없음.
이는 비즈니스 협상가들이 보편적으로 사용하는 전술과 비슷함.
이들은 협상 당사자들을 개별적으로 상대하기 때문에 어느 쪽도 협상가가 상대방에게 무슨 말을 하는지 알 수 없음.
이러한 정보 비대칭은 여러 집단이 손을 잡고 힘을 합치는 것을 막음.
326-
마이크로 타기팅 행위는 WMD로서 갖춰야 할 모든 조건을 갖춤. 거대하고 불투명하며 무책임함.
각 유권자들을 점수화하는 행태는 소수 유권자만 무대 중앙에 올리고 나머지 유권자는 조연으로 만듦으로써 민주주의를 손상시킴.
미국 대선판에서 중요한 유권자는 플로리다, 오하이오, 네바다 등 몇몇 경합주 일부 카운티에 거주함. 그곳에 거주하는 소수 유권자들은 선거에서 균형을 깨뜨리는 역할을 함.
여기서 정치판 마이크로 타기팅은 다른 WMD와 뚜렷한 차이를 보임.
WMD는 주로 어려운 소외 계층에게 불이익을 준 반면, 마이크로 타기팅은 어디에 살든지, 부유하든 가난하든지 모든 유권자의 권리를 박탈함.
(부자들은 캠페인에 후원금을 냄으로써 박탈된 권리보다 더 많은 보상을 받을 수 있음.)
327-
정보 비대칭 말고관심의 비대칭도 있음.
알고리즘에 의해 투표할 것으로 예상됐지만 이런저런 이유로 투표하지 못한 사람은 다음 선거에서 관심의 융단폭격을 받게 됨.
여전히 투표할 가능성이 매우 높다고 여겨지기 때문임.
반면 애시당초 투표하지 않을 것으로 예상한 유권자는 관심에서 거의 배제됨.
투표할 특정 계층은 물과 영양분을 쏟아부어가며 살뜰히 보살피고, 나머지 투표하지 않을 계층은 영원히 방치함.
(2023.10.12.)
