[교양] 캐시 오닐, “9장. 안전지대는 없다: 선의에 감춰진 보험의 민낯” 요약 정리 (미완성)

[ Cathy O’Neil (2016), Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy (Crown).

캐시 오닐, 「9장. 안전지대는 없다: 선의에 감춰진 보험의 민낯」, 『대량살상 수학무기』, 김정혜 옮김 (흐름출판, 2017), 268-297쪽. ]

​

​

9.1. 자동차 보험료는 어떻게 결정되는가

9.2. 더 이상 숨을 곳은 없다

9.3. 행동적 부족의 탄생

9.4. 당신의 건강을 관리합니다. 사생활을 침해해서라도…

9.5. 엉터리 수학의 임금 절도

​

​

268-

19세기 말 독일계 미국인인 푸르덴셜 생명보험사에서 일하던 통계학자 프레데릭 호프먼은 매우 강력한 WMD를 창조함. 악의가 있었던 것 같지 않음.

말년에는 공중보건에 큰 기여를 함.

특히 말라리아 연구에서 커다란 업적을 남김.

흡연과 암의 상 관관계를 밝힌 최초 연구자이기도 함.

​

268-

호프먼은 40대 초반이던 1896년 초 330쪽에 이르는 보고서를 발표함.

보고서에서 그는 흑인들이 매우 불안정하게 살고 있어 흑인 모두가 보험에 가입할 자격이 없다고 주장함.

​

269-

호프먼의 분석에는 심각한 통계적인 오류가 있었음.

그는 인과 관계와 상관관계를 혼동했음.

그가 증거로 제시한 막대한 데이터는 그의 이론을 뒷받침하는 것들뿐이었음.

인종은 기대수명을 예측할 수 있는 강력한 변수라는 이론

흑인 사망률과 관련 있을지도 모르는 다른 변수를 고려할 생각조차 하지 않았음.

빈곤과 사회적 차별이 흑인 조기 사망과 관련이 있지 않을까?

질 낮은 교육이나 문맹, 낡은 배관 시설, 위험한 작업장, 제한적인 의료 서비스 등이 흑인 수명과 관련이 있지는 않을까?

​

269-

호프먼은 기본적인 통계적 오류도 저지름.

흑인을 계층화하지 않고 대규모인 동일 집단으로 취급함.

보스톤이나 뉴욕에서 정돈된 삶을 사는 흑인 교사나 미시시피 삼각주에서 맨발로 하루 12시간씩 소처럼 일하는 소작인이나 같이 취급함.

​

269-

당시 보험업계도 호프먼과 같은 입장

특정한 경계지역지정, 일명 레드라이닝(redlining)이라고 알려진 잔인한 관행은 1968년 공정주택법(Fair Housing Act)을 포함하여 다수 법률에 위배됨.

​

​

9.1. 자동차 보험료는 어떻게 결정되는가

​

271

보험은 계리학(actuarial science)에서 파생됨.

계리학의 뿌리는 17세기로 거슬러 올라감.

당시 유럽에서는 자본가 계급이 성장하면서 막대한 부를 축적하기 시작함.

곳간이 두둑해지자 부자들은 역사상 처음으로 후손에 대해 생각할 여유가 생김.

수학이 미래를 예측하는 데 필요한 도구를 제공함.

런던에서 포목점을 운영하던 존 그란트는 출생과 사망 기록에 주목함.

1682년 그는 런던 아동들은 5살이 될 때까지 해마다 6% 사망 위험에 노출되어 있다고 추정함.

수학자들은 사상 처음으로 인간 수명에 대해 개연성 있는 수치를 계산해냄.

​

271-

수학자들은 다양한 대규모 연구 집단에서 사고, 화재, 사망 등이 발생할 확률을 예측함.

이후 300여 년에 걸쳐 보험은 수학자들이 한 예측을 토대로 거대 산업으로 발전함.

​

272-

오늘날 열혈 ‘건강족’은 자신이 매일 여덟 시간씩 잠을 자고, 매일 16킬로씩 걸으며, 녹색 채소, 견과류, 생선 기름 위주로 소식한다는 사실을 데이터로 증명할 수 있음.

이런 사람은 건강보험이 필요 없을 수 있음.

그러나 아직은 보험업계에서 벌이는 개인화 움직임은 초기화 단계에 머물러 있음.

우리는 어느 집단에 자신이 속하는지 확인할 길이 없음.

정확도와는 상관없이 불투명한 분석은 바가지 보험료로 이어질 수 있음.

​

273-

일반적으로 보험사는 신용평가 보고서에서 신용평가점수를 얻은 다음, 자기 회사가 만든 알고리즘을 통해 자체적인 등급이나 e점수를 생성시킴.

자동차 보험인 경우 e점수는 ‘책임 있는 운전습관’을 대신하는 대리 데이터가 됨.

컨슈머 리포트는 모든 인구 통계학적 데이터를 포함하는 e점수가 가끔은 운전자 운전기록보다 더 중요하게 취급한다는 사실을 발견함.

자동차 보험비를 산정하는데 ‘돈을 어떻게 관리하느냐’가 ‘어떻게 운전하느냐’보다 더 중요할 수 있다는 것

뉴욕주에서는 운전자의 신용등급이 우수(excellent)에서 양호(good)로 떨어지면 연 보험료가 255달러까지 상승함.

플로리다 주에서는 운전기록이 완벽해도 신용평가점수가 낮으면, 신용등급이 매우 우수하지만 음주운전으로 유죄 판결을 받은 경우보다 평균 1,552달러 보험료를 더 내야 함.

​

274-

보험사들이 신용평가점수를 더 중요시하는 이유

다른 WMD와 마찬가지로 자동 시스템이 신용평가점수를 매우 효율적으로 대규모로 처리할 수 있기 때문

더 중요한 이유는 이익과 관련됨.

신용평가점수를 활용하면 완벽한 운전 솜씨를 자랑하는 무결점 운전자에게서도 해마다 1,552달러를 더 거두어들일 수 있는데 굳이 그런 시스템을 바꿀 이유가 없다는 것

다른 모든 WMD가 그렇듯이 보험사 WND 피해는 가난하고 교육 수준이 낮을 가능성이 높고, 이들 중 상당수가 이민자임.

그들은 자신들이 바가지 보험료를 낸다는 사실조차 잘 모름.

안전 운전과 아무 상관없는 e점수가 취약한 운전자 집단을 이용한다는 것

​

275-277

게다가 운전자 보험 계약에서 발생하는 수익 일부는 보험사가 사용하는 모형 중 비효율적인 측면을 보전해줌.

신용평가 보고서가 완벽해서 보험료를 적게 내는 운전자가 음주운전 사고를 일으켰다고 가정하자.

이 경우 보험사는 보험금을 지급해야 하는데, 그 손실이 신용평가점수가 낮아도 운전습관이 좋은 운전자가 낸 보험료로 메울 수 있음.

저렴한 보험을 원할 가능성이 낮은 고객에게 비싼 보험을 판매하는 것이 올스테이트 보험료 ‘최적화’ 알고리듬임.

계층적 보험료 산정은, 각 세분 집단이 보험료를 얼마나 지불할 수 있는가에 기초함.

평균 보험표에서 90% 할인받는 고객이 있는 반면, 평균 보험료의 여덟 배를 지불하는 고객도 있음.

올스테이트는 “업계 관행과 일치하는 시장가격 고려(marketplace considerations)가 적절한 보험료 산정 정책인 건 사실이다”라고 시인함.

​

277-

다른 WMD와 마찬가지로 보험료는 투명하게 산정되지 않음.

사람마다 보험료가 다를 뿐만 아니라, 보험사 모형은 절망적인 사람과 무지한 사람들 주머니에서 최대한 많은 돈을 끌어내도록 최적화되어 있음.

보험사 모형은 하위 세분 집단에서 가능한 한 많은 돈을 긁어모으기 위해 미세조정됨.

그들 중 일부는 더욱 깊은 가난에 빠질 수밖에 없고 자동차 담보 대출금이나 신용카드 대금, 아파트 월세를 연체하게 됨.

이것은 다시 그들 신용평가점수에 영향을 줌.

​

​

9.2. 더 이상 숨을 곳은 없다

​

278-

컨슈머 리포트는 전미보험감독자협의회를 겨냥해 ‘@NAIC_News to Insurance Commissioners: Price me by how I drive, not by who you think I am!’(내가 어떤 운전자인가에 따라 보험료를 부과하라)이라는 트위터 캠페인을 시작함.

운전자들은 속도 위반 횟수, 사고 이력 등 자신의 운전기록에 의해 평가되어야 한다는 것이 이 캠페인의 취지.

오늘날 보험사들은 운전자 행동을 아주 세세한 부분까지 추적할 수 있는 다양한 방법을 보유함.

​

280-

보험사는 자신의 운행 데이터를 제공하는 화물차 운전자에게 보험요율을 할인해주는 식으로 정보를 확보함.

자동차에 탑재한 블랙박스는 운전자가 브레이크와 가속 페달을 밟는 패턴을 기록하고, GPS는 해당 차량을 지속적으로 추적함.

이런 데이터를 쓰면 열여덟 살짜리 초보 운전자도 준법 운전을 하면 보험료 할인을 받을 길이 열림.

운전 기록 데이터는 대리 데이터가 아닌 진짜 데이터

진짜가 대리보다 더 낫지 않을까?

​

린다.

281-

두 가지 문제

문제(1): 시스템이 지리적 요소를 토대로 위험을 평가한다면 가난한 사람은 불리해짐.

가난한 사람들은 위험한 곳에서 운전할 가능성이 높음.

가난한 동네가 더 차량을 잃어버린 일이 많다면 마찬가지로 불리함.

​

284-

언젠가는 추적 시스템이 보험업계 표준이 될 수도 있음.

그렇게 되면 보험사들에 필수적인 정보만 제공하면서 전통적인 방식으로 보험을 처리하려는 소비자들은 많이 할증료를 지불해야 할지도 모름.

WMD 세상에서 프라이버시는 부자들만이 즐길 수 있는 사치품이 되고 있음.

​

284-

감시는 보험 본질을 변화시킴.

전통적인 관점에서 보험은 지역사회에 있는 불행한 소수의 필요에 반응하기 위해 다수를 희생시키는 산업

과거에는 누구네 집이 불이 났다면, 병에 걸렸다면, 죽었다면 가족친지나 이웃, 신앙이 있다면 신도들이 와서 도와주었음.

시장경제에서 우리는 이런 도움을 보험사에 위탁하고 보험사들은 그에 대한 대가로 보험료의 일부를 취함.

​

​

9.3. 행동적 부족의 탄생

​

285-

오롯이 기계에 만들어진 행동적 부족(behavioral tribe)

​

285-

사람들은 컴퓨터 지도상에 각기 다른 색깔인 점으로 표시되어 분석됨.

​

286-

가령, 특정 지역이 낮에는 파란색으로 뒤덮였다가 밤이 되면 노란색 점이 군데군데 박힌 빨간 색으로 물듦.

​

287-

가까운 미래에 방대한 행동 데이터가 인공지능 시스템에 입력될 것

문제는 인공지능 시스템은 인간의 눈으로 속을 들여다볼 수 없는 불투명한 블랙박스라는 점

우리는 이러한 과정이 이루어지는 내내 자신이 속한 부족이 무엇이며 왜 그러한 부족에 포함되었는지 거의 알지 못할 것임.

​

​

9.4. 당신의 건강을 관리합니다. 사생활을 침해해서라도…

​

291-

WMD 문제는 프라이버스 말고도 강제성이 있음.

워싱턴 앤드 리 대학교 수학과 교수 에런 에이브럼스의 사례

워싱턴 앤드 리드 대학교는 웰니스 프로그램을 운영하는 앤섬 보험사(Anthem Insurance)의 단체건강보험에 가입했음.

헬스포인트(HealthPoint)가 기본적으로 매년 3250포인트를 넘겨야 함.

규칙을 따르지 않는다면 보험료로 매달 50달러를 추가로 지불해야 함.

수많은 건강관리 수칙을 따르고 그것과 관련된 데이터를 자신의 고용주인 대학교와 웰니스 프로그램을 운영하는 제3의 회사가 공유하는 일이 그의 직무가 됨.

저자는 기업들이 직원들 건강정보를 갖고 있다면 신용평가점수 비슷하게 입사나 승진 심사에 그 데이터를 사용할 것을 우려함.

걸음 수든 수면 습관이든 기업이 수집한 건강 데이터 상당 부분은 법률에 의해 보호받지 못함.

​

292-

타이어 제조업체인 미셰린(Michelin)은 직원들에게 혈압부터 포도당 수치, 콜레스테롤 수치, 중성지방 수치, 허리둘레까지 다양한 기준에 대한 목표치를 설정함.

세 가지 항목에서 목표치를 달성하지 못한 직원은 건강보험료 연 1,000달러를 추가 부담해야 함.

​

​

9.5. 엉터리 수학의 임금 절도

​

293-

건강 기준에 대한 논쟁의 중심에는 신뢰할 수 없는 통계 기준이 자리함.

체질량 지수(body mass index, BMI)

BMI는 200년 전 벨기에 수학자 랑베르 아돌프 자크 케틀레가 고안한 공식에 기초함.

케틀레는 건강이나 인체에 대해 거의 문외한이었지만 대규모 인구집단의 비만 정도를 측정하는 쉬운 공식을 만들고자 했음.

자신이 ‘평균인’(average man)이라고 부르는 집단에 기초해 공식을 만듦.

수학자이자 과학 전문 기자인 키스 데블린: “BMI 자체는 유익한 개념이다. 그러나 BMI를 적용하면 2.4명 자식을 둔 사람 같은 황당한 결과가 나온다. 평균은 특정 인구집단 전체를 측정한 것으로 모든 개인에게 적용되지는 않는다.”

데블린은 신체 상태를 점수화한 BMI는 사실상 권위 있는 척하는 엉터리 수학(mathematical snake oil)이라고 결론내림.

​

294-

BMI는 킬로그램 단위의 몸무게를 센티미터 단위인 키로 나눈 값으로 신체 건강에 대한 조악한 대리적 수치임.

지방은 근육보다 무게가 덜 나가기 때문에 탄탄한 몸매를 가진 운동선수도 BMI가 높게 나올 수 있음.

NBA 농구 스타 르브론 제임스는 체지방 5.2%인데도 과체중으로 나옴.

​

295-

회사가 나서서 직원들 건강을 관리하면 좋은 것 아니냐며 웰니스 프로그램을 지지하는 반론이 가능

웰니스 프로그램을 제공하는 키네마 피트니스(Kinema Fitness)의 사장 조슈아 러브: “더 건 강한 직원들이 더 열심히 일하고 더 행복하며 타인을 돕고 더 효율적입니다. 건강하지 못한 직원들은 대개 나태하고 만성피로에 시달리며 불행한데, 일이란 각자 삶을 살아가는 방식의 자연스러운 발로이기 때문입니다.”

웰니스 프로그램이 건강을 증진시켰다는 증거는 거의 없음.

오히려 기업들은 직원들이 혈압이나 혈당 또는 콜레스테롤 수치를 낮추지 못함.

체중이 줄어든 직원이 있더라도 요요현상으로 곧바로 원상을 회복했음.

웰니스 프로그램이 개인적인 성공 사례와 별도로 건강관리비용을 낮추지 못한다는 연구 결과도 있음.

흡연이나 음주로 인한 질병은 대개 인생 후반부에 나타남.

그때가 되면 이미 그들은 기업이 주는 건강 플랜을 적용받을 자격을 상실하고 대신 정부가 제공하는 메디케이드에 가입되어 있음.

​

296-

웰니스 프로그램은 완벽한 WMD는 아님.

광범위하게 시행되는 것도 맞고, 수백만 명에 이르는 직원들이 사생활을 침해하는 것도 분명하며, 경제적 고통을 유발하는 것도 사실임.

그러나 이 프로그램은 WMD 조건 중 불투명성을 충족하지 못함.

또한 BMI를 제외하고는 수학적 알고리즘에 기초하지도 않음.

웰니스 프로그램은 건강에 대한 온갖 미사여구로 포장한 채 광범위하게 행해지는 단순한 임금 절도행위에 지나지 않음.

기업들이 건강과 생산성을 결합시키는 자체적인 모형을 개발한다면 웰니스 프로 그램이 명실상부한 WMD로 성장할 가능성도 배제할 수 없음.

​

​

(2023.10.12.)

장수왕이 주인공인 사극을 만든다면

한국 사극 중에 광개토왕을 다룬 작품은 있어도 장수왕을 다룬 작품은 아직 없는 것으로 알고 있다. 장수왕이 등장하는 작품이라면 승려 도림을 백제에 첩자로 보내 개로왕이 실정하게 하는 부분도 있어야 할 것이다. 『삼국사기』에 따르면, 개로왕이 바둑을 좋아하는 것을 이용하여 도림이 왕에게 접근해 대규모 토목공사를 하게 만들어 백제의 국력을 쇠하게 만들었다고 나온다. 그런데 왕이 바둑을 좋아하고 도림이 바둑을 잘 둔다고 해도, 적국에서 죄를 짓고 도망쳐온 사람이 왕과 곧바로 친해지는 것은 이상해 보인다. 두 사람이 가까워지는 것을 극으로 표현한다면 어떻게 해야 할까?

​

우선, 개로왕이 평복을 하고 저잣거리에 있는 기원에서 가끔씩 바둑을 둔다고 설정하자. 어느 날 기원에 갔더니 어떤 스님이 바둑을 두고 있고 사람들이 웅성거린다. 세상에 무슨 스님이 바둑을 저렇게 잘 두냐면서.

- 개로왕: “백제 사람 아니죠? 고구려 사람 같은데?”

​

- 도림: “네, 어쩌다 죄를 지어서.”

​

- 개로왕: “어쩌다 죄를 지었는데요?

​

- 도림: “순진한 귀족 등도 치고, 백성들 울리기도 하고.”

​

- 개로왕: “벌이가 좋았나 모르겠네요?

​

- 도림: “별로였어요. 저는 좋은 스님이거든요.”

​

- 개로왕: “바둑은 어디서 배웠어요?

​

- 도림: “주지 스님한테서요”

​

- 개로왕: “모든 대답이 너무 의외라…….”

​

[...]

​

- 도림: “판당 20전이던데.”

​

- 개로왕: “아…….”

​

- 도림: “즐거웠습니다.”

​

- 개로왕: “판당 50전. 한 판 더 어때요?”

​

- 도림: “그건 노름인데?”

​

- 개로왕: “그런가요?”

​

[도림의 독백] 바둑은 침묵 속에서 욕망을 드러내고 매혹하고 매혹당하며 서로를 발가벗겨. 상대가 응하지 않으면? 그땐 그저 바둑인 거지.

​

- 도림: “좋죠, 노름.”

(2022.02.03.)