[ Cathy O’Neil (2016), Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy (Crown).
캐시 오닐, 「6장. 디지털 골상학: 당신은 우리가 원하는 직원이 아닙니다」, 『대량살상 수학무기』, 김정혜 옮김 (흐름출판, 2017), 181-207쪽. ]
6.1. 인성적성검사의 비밀
6.2. 알고리즘은 개성을 싫어한다
6.3. 세인트 조지 의과대학의 착각
6.4. 효율성이라는 이름으로 자행되는 차별들
181-
카일은 밴더빌트 대학에 다녔는데 휴학
조증과 우울증이 번갈아 나타나는 정동장애인 ‘양극성 장애’(bipolar disorder)를 앓고 있던 터
18개월 후 카일은 충분히 건강을 회복하고 복학 대신 다른 대학에 입학
그는 유통전문회사인 크로거(Kroger)에서 파트타임 직원을 뽑는다는 말을 듣고 지원했으나 면접기회조차 얻지 못했다.
카일은 크로거가 도입한 인적성 검사에서 부적격 판정을 받았음을 알았다.
검사는 외향성(extraversion), 친화성(agreeableness), 성실성conscientiousness, 신경성(neuroticism), 아이디어 개방성(openness to ideas) 5가지 영역으로 나뉘어 있었다.
아버지 롤런드는 이에 관해 채용과정에서 인적성 검사를 실시하는 것은 불법이라며 소송을 걸었다.
6.1. 인성적성검사의 비밀
185-
인적성 관리시장은 급성장하고 있는 신흥 산업
채용관련 사업은 날로 자동화되고 있는데 많은 새로운 프로그램이 카일이 받은 것과 비슷한 인적성 검사를 포함함.
186-
이런 채용프로그램은 ‘입사 후 직무 수행 능력’에 관한 정보는 담고 있지 않다. 미래에 일어날 일이기 때문이다.
1971년 흑인 노동자 그릭스는 듀크 전기회사를 상대로 공민권법 7조를 위반했다고 소송을 제기해 이겼다.
미국 대법원은 채용과정에 포함된 지능검사는 차별적인 관행으로 불법이라고 판결함.
이처럼 인적성 검사가 직무수행 능력을 측정하는데 그다지 큰 효과가 없음을 증명하는 연구 결과가 있음.
하지만 현실에서는 인적성 검사를 불순물을 걸러내듯 지원자를 가려내는 여과 장치로 이용됨.
187-
인적성 검사는 조작하기 쉽다고 생각하는 사람이 있을지 모른다.
가령 ‘나는 감정 기복이 심하다’라는 질문에 ‘거의 그렇지 않다’라는 대답하고, ‘나는 쉽게 화가 난다'라는 문항에도 그렇지 않다고 대답하면 된다.
그래서 기업들은 대답을 조작하기 상대적으로 어려운, 좀 더 복잡한 질문을 출제하고 있다.
크로거 회사 인적성 질문은 단순하다.
‘직장인으로서 당신을 가장 잘 설명하는 형용사는 독특한(unique)와 질서정연한(orderly) 중에 어떤 것인가?' 식이다.
분석팀은 ‘독특하다’라고 대답하면 ‘확고한 자기 개념, 개방성, 자기애’를 나타내고, 질서정연하다'라고 대답하면 성실성과 자제력을 보여준다고 설명
우리는 여기서 ‘모두에 해당한다.'라고 답할 수 없음을 잘 알고 있다.
6.2. 알고리즘은 개성을 싫어한다
191-
프로 농구팀에서는 선수 개개인을 관리해 최상위 성적을 기대한다.
반면 기업은 사람을 집단으로 관리한다.
기업들은 인적자원 담당자들을 기계로 대체함으로써 비용을 절감하고, 기계는 많은 사람을 추려서 더욱 관리하기 쉬운 집단으로 만든다.
가령 습관적 도벽이 발병하거나 생산성이 급감하는 적처럼 직원들에게 문제가 생기지 않는 한 회사로선 부적합 지원자를 걸러내는 채용 모형을 수정할 이유가 거의 없다.
비록 잠재적 인재를 놓치기는 하겠지만 모형은 제 역할을 충분히 다 하는 셈
192
오닐은 인사 담당부서가 사용하는 인적성 검사가 WMD이라고 봄.
인적성 검사는 광범위하게 이용되고 사회 전체에 막대한 영향을 미침.
크로노스 검사는 결함이 있는데도 채용 과정에서 상당한 영향력을 행사함.
과거에도 고용주들은 편견을 가지고 있었으나나, 그런 편견은 회사마다 달랐기 때문에 어딘가에선 카일 같은 사람에게 기회를 줌.
이제 그런 기회는 갈수록 줄어들고 있음.
192-
크로노스 인적성검사가 주는 피드백에 대해 생각해보자.
정신건강에 문제가 있는 사람을 떨어뜨리는 것은 그들이 일자리를 구하고 정상적인 삶을 꾸려갈 기회를 아예 차단시키고, 그들을 더욱 고립시킬 뿐이다.
193-
이력서를 자동으로 심사하는 시스템이 확산되기 전인 2001년과 2002년 시카고 대학과 MIT 공동 연구팀은 구인 광고를 낸 1,300여 회사에 가짜 이력서 5,000장을 보냈다.
반은 에밀리 윌시, 브렌든 베이커 같은 전형적인 백인 이름으로, 나머지 절반은 라키샤 워싱턴, 자말 존스 같은 전형적인 흑인 이름을 썼다.
이름을 제외하면 다른 모든 조건은 같았다.
결과는 백인 이름을 쓴 이력서에 대한 반응률이 흑인 이름을 쓴 이력서보다 50%나 높았다.
또 백인 지원자들은 이력서 내용에 대해 많은 관심을 받았다.
인사담당자들은 흑인 지원자 이력서에 있는 화려한 경력에 반응을 거의 보이지 않았다.
이같이 인종적 편견은 채용시장에서 막강한 위력을 발휘한다.
194-
인종적 편견을 우회할 수 있는 이상적인 심사방법으로 블라인드 심사 같은 것이 있다.
오디션에서 블라인드 심사를 한 결과 여성 단원이 5배가 증가했다.
블라인드 오디션은 장막 뒤에서 연주를 하지만 기업 인사담당자는 그렇게 할 수가 없다.
대신 컴퓨터 프로그램은 이력서를 처리하면서 고용주가 원하는 기술과 경험을 골라낸다.
그런 다음 해당 직무에 따른 적합도에 따라 이력서 각각에 점수를 매긴다.
여기서 커트라인을 결정하는 것은 전적으로 인간 몫이다.
첫 번째 단계에서 기계 심사위원이 많은 지원자를 탈락시킬수록 2단계 심사에서 인간 심사위원이 할 일이 줄어든다.
195-
최신 정보에 정통한 사람은 기계가 무엇을 인식하고 무엇에 약점이 있는지를 이해함.
사진은 아무 소용없다. 이력서 스캐너 대부분은 사진을 처리하지 못한다.
예쁜 글꼴도 기계에 혼란만 줄 뿐이다. 그냥 에어리얼(Arial)와 쿠리어(Courier) 같이 평범한 글꼴이 안전하다.
화살표 같은 기호도 사용하지 않아야 한다.
196
이런 프로그램은 대학입학사정과 매우 비슷한 결과를 낳는다.
이력서를 준비하는데 투자할 돈과 자원이 있는 사람이 승자가 된다.
돈과 자원을 투자하지 못하는 사람들은 자기 이력서가 바로 쓰레기통으로 직행한다는 사실을 영원히 모를 수 있다.
이는 빈부 양극화를 보여주는 또 한가지 사례일 뿐이다.
이는 정보와 부를 거머쥔 사람들은 경쟁우위를 자치하고 그렇지 못한 사람은 실패자가 될 가능성이 커짐을 의미한다.
196-
앞선 세대인 경우 정보에 밝은 사람들은 이력서 내용을 명쾌하게 하고 일관성 있게 구성하며, IBM 타자기 셀렉트릭(Selectric) 같은 고급 기계를 사용해서 작성하며, 좋은 용지에 인쇄하는 등 세심한 주의를 기울였다.
그런 이력서는 취업 문고리를 쥐고 있는 인간 문지기를 통과할 가능성이 높았다.
반면 자필 이력서나 등사기를 사용해 잉크 얼룩이 번진 지저분한 이력서들은 대개 쓰레기통으로 직행했다.
지금은 기계 문지기들이 입시와 취업영역을 넘어 다양한 곳으로 영토를 확장하고 있는 중이다.
이는 구글에서 쉽게 볼 수 있다. 구글에서는 검색 결과 얼마나 앞쪽에 등장하느냐가 기업 성패를 가른다.
6.3. 세인트 조지 의과대학의 착각
197-
1970년 잉글랜드 런던 남부에 있는 세인트 조지 의과대학은 신입생 모집에 매년 지원자가 몰리자 시대에 앞서서 컴퓨터 프로그래밍을 생각했다.
198-
입장사정관들이 모형의 두 가지 목표를 설정
목표(1): 효율성 제고
목표(2): 공정성
입학 사정관마다 달랐고, 고위층 청탁을 배제하고 싶어 했다.
그래서 컴퓨터에 지금껏 인간이 해 왔던 절차를 그대로 따르도록 했다. 결과는 재앙이었다.
인간에게 지원자를 차별하는 법을 배운 컴퓨터는 인간들보다 더 기가 막힐 만큼 효율적으로 차별적인 심사를 했다.
외국 이름이나 외국 주소를 기입한 지원자는 무조건 영어에 능통하지 못한 걸로 판정했다.
200-
결국 1988년 영국 인종평등위원회는 세인트 조지 의과대학이 입학 사정과정에서 인종과 여성을 차별했다고 판정했다.
방법은 디지털 블라인드 오디션이 답이다.
6.4. 효율성이라는 이름으로 자행되는 차별들
201-
기업에서 가장 큰 지출은 노동력 이탈에서 나온다.
미국진보센터에 따르면 연봉 5만 달러인 사람을 교체하면 1만 달러 즉 해당 직원 연봉 20%가 든다.
고위직원을 교체하는데는 훨씬 많은 비용을 지출해야 한다.
창의형이라고 분류한 사람들은 대체로 근무기간 이 좀 더 길고, 탐색형이라고 분류한 사람은 왕성한 호기심 때문에 이직 가능성이 컸다.
지리적 조건
또 출퇴근 시간이 긴 사람은 이탈을 많이 했다.
그들은 상당수가 가난한 지역인 시 외곽에 거주하고 있었다.
203-
지금은 다행히 길드 같은 인재 관리 모형이 발달하고 있다.
길드는 사회적 자본을 양적으로, 질적으로 계량화하여 분석한다.
길드는 지원자 SNS를 따져본다.
206-
19세기에 잠깐 유행했던 골상학은 두개골을 만져 들어간 부분과 나온 부분으로 보고 그 사람을 판단하려 했다.
빅 데이터도 그럴 수 있는 길로 가고 있는 중이다.
인간은 전체인 존재다.
(2023.10.12.)
