[ Cathy O’Neil (2016), Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy (Crown).
캐시 오닐, 「8장. 부수적 피해: 모든 길은 신용점수로 이어진다」, 『대량살상 수학무기』, 김정혜 옮김 (흐름출판, 2017), 237-267쪽. ]
8.1. 당신은 몇 점인가요?
8.2. ‘당신은’ 대 ‘당신과 같은 사람은’
8.3. 취업도 대출도 사랑도 결정하는 신용평가점수
8.4. 쓰레기를 넣으면 쓰레기가 나온다
8.5. 오직 인간만이 공정성을 주입할 수 있다
8.6. 빅데이터 시대의 아이러니
8.1. 당신은 몇 점인가요?
239-
신용평가점수는 다른 WMD에 없는 유익한 특징을 갖는다.
첫째, 명확한 피드백 루프가 활성화된다.
대출금을 갚지 못하는 사람을 확인하기 위해 FIGO 수치와 대조한다.
FIGO는 오직 대출자 재정상태만 고려하는 공식에 의해 만들어졌다.
둘째, 신용평가점수는 비교적 투명하다.
반면 오늘날 통계전문가와 수학자들은 재무 정보 외에도 우편번호, 인터넷 서핑 패턴, 최근 구매행위 등등 온갖 정보를 참고해 우리 모두가 상상할 수 있는 모든 방식으로 사람들 등급을 매기고 있다.
그들이 사용하는 많은 사이비 과학 모형들이 우리 신용도를 예측한 후 우리 각자에게 일면 e점수를 부여한다.
e점수는 소비자로서 잠재적 가치를 측정하기 위해 사용하는 개인 신용평가 기준으로 급여, 직업, 직업, 주거형태, 총부채, 구매 이력을 등을 고려해 점수를 매긴 수치다.
우리가 직접 볼 수 없는 e점수는 어떤 이들에게는 기회를 활짝 열어주는 반면, 다른 이에게는 코앞에서 문을 쾅 닫아 버린다.
e점수는 FICO와 비슷하면서도 확연히 다른 점이 있다.
임의적이면서 투명하지 않고, 규제를 받지 않는 데다 때로는 불공정하다.
요컨대 e 점수는 WMD다.
240-
버지니아에 있는 뉴스타(Neustar)는 주로 마케팅과 IT분야 기업에게 클라우드 기반 정보 및 분석 서비스를 제공하는 기업으로 콜센터 통화량 관리를 도와주는 기술을 제공한다.
이 기술은 콜센터로 전화를 건 고객 데이터를 순식간에 검색해 고객을 서열화한다.
가령 더 많은 수익이 예상되는 잠재 고객에는 ‘인간’ 상담원과 곧바로 연결해주고, 반면 서열이 낮은 고객은 상담원에게 연결되기까지 대기시간이 더 길게 한다.
통화량이 폭주하면 서열이 낮는 고객 전화를 기계가 응대하는 외주 콜센터로 보내기도 한다.
241-
이런 e점수 존재는 결코 놀랄만한 일이 아니다.
이미 우리에게 약탈적 대출을 판매할 때, 또는 우리가 자동차를 훔칠 가능성을 예측할 때 비슷한 데이터를 사용하는 모형을 보았다.
좋건 나쁘건 간에 그런 모형들은 우리를 학교로, 감옥으로, 일자리로 이끌었다.
직장에서도 직원으로서 우리를 최적화했다.
하지만 이 e점수가 끔찍한 피드백 루프를 생성시킨다는 사실을 잊지 말아야 한다.
8.2. ‘당신은’ 대 ‘당신과 같은 사람은’
242-
미국에서는 e점수가 신용평가점수를 점차 대체하고 있다.
마케팀 목적으로 신용평가점수를 사용하는 행위는 불법이라서 기업들은 신용평가점수 대신 e점수를 대리 데이터를 쓴다.
신용이력은 대단히 개인적인 데이터를 포함한다.
그래서 누가 그런 데이터를 보는지 통제할 수 있어야 한다.
245
e점수 개발자들은 ‘당신은 과거에 어떻게 행동했을까?’라는 질문이 이상적인 상황에서도 엉뚱하게 ‘당신 같은 사람들은 과거에 어떻게 행동했을까?’라는 질문을 던진다.
물론 통계 세상에는 엄연히 대리 데이터가 존재하고 가끔 그런 데이터가 유용하기도 하다.
물론 부자들은 너나없이 크루즈 여행을 선호하고 BMW를 탄다.
가난한 사람들은 빈번하게 높은 이자를 부담하면서도 급전을 빌린다.
대체로 이런 통계 모형이 유효한 것으로 보이는 까닭에 투자자들은 사람들 수천 명을 적절한 버킷으로 분류할 수 있는 과학적 시스템에 투자를 확대하고 있다.
현재까지는 빅 데이터가 일방적으로 승리를 거두고 있다.
245-
잘못된 판단으로 엉뚱하게 분류된 사람은 어떻게 될까? 이런 실수는 흔히 벌어진다.
그런데도 시스템 오류를 정정할 수 있는 피드 백은 전혀 존재하지 않는다.
설상가상으로 규제 해방구인 e점수에서 패배자들은 시스템 오류를 바로잡는 것은 고사하고 마음대로 불만을 터뜨리지도 못하고 있다.
WMD 세계에서 이들은 부수적 피해자에 불과하다.
피해자들은 시스템 존재 자체를 알지 못한다. 그리하여 사람들 대부분은 삶이란 원래 불공평하다는 결론을 내리게 된다.
8.3. 취업도 대출도 사랑도 결정하는 신용평가점수
248-
인적자원관리협회 설문조사에 따르면 고용주 절반 가까이가 입사 희망자들을 심사할 때 신용평가 보고서를 참고했다.
일부 고용주들은 기존 직원들 신용 상태까지 확인했다.
특히 승진 대상자에 대해서는 신용 상태를 매우 중요하게 따졌다. 미래 직원이든 현재 직원이든 신용조사를 하려면 기업들은 반드시 사전에 당사자에게 허락을 받아야 한다.
그러나 대개 이는 거의 요식행위에 불과하다.
신용 데이터를 제출하라는 요구를 거부하는 지원자를 뽑아줄 기업은 그리 많지 않다.
신용 이력이 나쁜 사람에게 취업 문턱은 높기만 하다.
2012년 중하위 소득계층 가정이 있는 신용카드 빚에 관한 설문조사가 이를 증명해준다.
응답자 10명 중 1명은 불합격 사유가 나쁜 신용 이력 때문이라는 이야기를 고용주에게서 들었다.
다른 사람들은 아예 이유도 모르고 배척당했다.
따라서 기업들은 불합격 사유가 신용문제일 경우 구직자에게 반드시 고지해야 하는 법적 의무가 있다.
그러나 고용주 대부분은 회사와 맞지 않는다는 중 다른 이유를 갖다 붙인다.
채용과 승진에 신용평가점수를 따지는 관행은 빈곤이 되풀이되는 현상을 촉진한다.
신용이력 때문에 일자리를 구할 수 없으면 신용 이력이 더 나빠지고, 결과적으로 일자리를 구하기가 더욱 어려워진다.
이는 사회 초년생이 첫 직장을 구할 때 경험이 부족하다는 이유로 일자리를 구하지 못하는 경우와 비슷하다.
249-
고용주들은 책임감이 있는 사람은 신용이 좋고, 그래서 신용이 좋은 사람을 채용해야 한다고 주장한다.
그러나 부채를 도덕적 문제와 반드시 연결시키는 것은 잘못된 일이다.
기업이 파산하거나, 값싼 노동력을 찾아 일자리를 해외로 이전하는 바람에, 혹은 비용 절감이라는 허울 때문에 성실하고 믿음직한 많은 사람들이 일자지를 잃고 있다.
불경기라면 실직 문제는 더욱 심각해진다.
많은 미국 노동자들은 실직과 함께 건강보험 자격도 상실하고 있다.
무보험 상태에서 행여 사고나 질병이 생기면 그들은 여지없이 대출금 연체자가 된다.
의료비용은 여전히 미국에서 가장 보편적인 개인 파산 사유다.
250-
빈부 차이는 인종과 깊은 관련이 있다.
2015년 말 기준으로 백인 가구는 흑인과 히스패닉 가구보다 금융자산과 부동산 자산을 합친 총재산이 평균 10배가 많았다.
순자산이 제로이거나 마이너스인 백인 가구는 15%에 불과한 반면, 흑인과 히스패닉은 가구 1/3 이상이 경제적 완충제가 전혀 없다.
이 같은 격차는 연령대가 높아질수록 더욱 벌어진다.
60대 백인들은 동년배 흑인보다 11배나 부유하다.
이런 수치를 고려할 때 신용조사로 인해 만들어진 덫이 사회 전반과 인종에 불공평한 영향을 미쳤다고 주장하는 것은 무리가 아니다.
2016년 현재 미국 10개 추가 채용과정에서 신용평가점수를 기준으로 삼는 것을 불법화하는 법률을 통과시켰지만 나머지 40개 주에서는 여전히 합법이다.
8.4. 쓰레기를 넣으면 쓰레기가 나온다
251-
채용과정에서 맨 꼭대기에 있는 사람은 컴퓨터를 결정을 내리는데 도움을 주는 유용한 도구로 생각한다.
하지만 중간에 많은 의사 결정이 자동화 시스템에 의해 처리된다.
데이터 사냥꾼들 사이에서 오래전부터 내려오는 격언이 있다. “쓰레기를 넣으면 쓰레기가 나온다.” garbage in, garbage out. GIGO
255-
아칸소 주에 사는 캐서린 테일러는 몇 해 전 지역 적십자사에 일할 수 있는 기회를 놓쳤다.
이런 일은 누구나 겪을 수 있는 그런 일이었다.
그런데 그녀가 받은 불합격 통지서에는 귀중한 단서가 있었다. 거기에는 필로폰이라고 불리는 메탐페타민(methamphetamine)을 제조하고 판매한 혐의로 형사 고발되었다는 내용이 들어있었다.
그런 기록이 있으니 채용이 될 리 만무했다.
캐서린은 자기 신용조회 보고서를 면밀히 보다가 뜻밖인 사실을 알게 되었다.
자신과 생일까지 똑같은 동명이인이 마약판매혐의로 고발되었는데 최소 10개 신용정보업체가 그녀와 동명이인을 한데 묶은 부정확한 보고서로 그녀 신용을 먹칠하고 있었던 것이다.
그 보고서는 그녀가 예전에 연방주택보조금을 신청했다가 거부된 것과도 연관이 있어 보였다.
그녀는 남편과 함께 동분서주한 끝에 자기 신용을 바로잡을 수 있었다.
8.5. 오직 인간만이 공정성을 주입할 수 있다
257-
인간 문자언어를 이해하는 컴퓨터 능력이 발전함에 따라 자동화 추세는 걷잡을 수 없이 질주하고 있다.
컴퓨터는 1초에 수천 건 문서를 처리할 줄 안다.
2011년 퀴즈왕 IBM 왓슨도 10% 문제에서 언어나 문맥을 이해하지 못해 오답을 내놓았다.
왓슨은 나비의 주식(butterfly’s diet)을 물었을 때 유대교 음식인 코셔(Kosher)이라 대답했다.
이런 일이 소비자 프로필을 처리할 때 벌어지지 않으리라는 보장은 어디에도 없다.
259-
자동화된 시스템이 스스로 문제를 해결할 것이라고 기대할 수는 없다.
놀라운 능력에도 불구하고 기계는 공정성을 올리기 위해 그 무엇도 조정할 수 없다.
최소한 기계 스스로는 그렇게 할 수 없다.
오직 인간만이 시스템에 공정성을 주입할 수 있다.
하지만 인간도 욕망, 편견, 외부인에 대한 불신으로 차 있다.
e점수가 금융 세상을 오염시킴에 따라 가지지 못한 사람들에게는 기회가 거의 주어지지 않게 되었다.
솔직히 미친 듯이 날뛰는 수많은 WMD에 비하면 사회적 편견에 사로잡혀 있던 옛날 대출담당자가 그렇게 나쁘게만 보이지 않는다.
최소한 신청자가 그의 눈빛을 읽고 그의 인정에 호소할 수는 있지 않았던가!
8.6. 빅데이터 시대의 아이러니
(2023.10.12.)
