[교양] 캐시 오닐, “1장. 대량살상수학무기의 탄생” 요약 정리 (미완성)

[ Cathy O’Neil (2016), Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy (Crown).

캐시 오닐, 「1장. 대량살상수학무기의 탄생: 빅데이터 시대, 알고리즘이 신을 대체하다」, 『대량살상 수학무기』, 김정혜 옮김 (흐름출판, 2017), 35-62쪽. ]

​

​

​

1. 모형이란 무엇인가?

2. 과연, 알고리즘은 공정한가?

3. 재범위험성모형과 편견의 덫

4. 대량살상무기의 3가지 조건

​

​

1. 모형이란 무엇인가?

​

40-

서론에서 소개한 모형(워싱턴 공립학교들이 교사를 평가할 때 사용한 모형)과 야구 모형의 차이

야구 모형에서는 야구라는 운동 전체의 아주 세세한 부분까지 모형에 반영되고 데이터가 지속적으로 업데이트됨.

교사평가모형은 비밀에 싸여 있을 뿐만 아니라 교사를 평가하는데 전년도와 당해연도의 몇 가지 시험결과에 크게 의존함.

​

43-

모형은 복잡한 현실을 단순화한 개념

세상의 모든 복잡성이나 인간 커뮤니케이션의 미묘한 차이를 완벽히 반영한 모형은 존재하지 않음.

​

​

2. 과연, 알고리즘은 공정한가?

​

45

모형들은 수학에 깊이 뿌리내린 지극히 개인적인 의견이다.

​

46

개인이든 기업이든 누가 모형을 만들었는지, 그리고 개발자가 모형을 통해 성취하려는 목표가 무엇인지 알아야 함.

​

48

인종차별주의자들은 자신의 왜곡된 모형을 수정할 생각이 없고, 신뢰성 있는 데이터를 수집할 노력도 거의 하지 않음.

그 결과 인종차별은 가장 추악한 예측모형이 됨.

인종차별 모형은 무계획적인 데이터 수집과 허위 상관(spurious correlation)에 의해 작동하고, 제도적 불공평(institutional inequity)에 의해 강화되며, 확증 편향(confirmation bias)에 의해 오염됨.

​

​

3. 재범위험성모형과 편견의 덫

​

50

<미국시민자유연맹>(American Civil Liberties Union, ACLU)은 흑인들에게 선고된 형량이 비슷한 범죄를 저지른 백인 범죄자들보다 20% 정도 더 길다고 주장함.

미국 인구에서 흑인은 13%에 불과하지만 교도소 수감자 중 40%를 차지함.

​

50-

미국 24개 주의 법원이 재범위험성 모형(recidivism models)를 도입함.

​

51-

가장 인기 있느 재범위험성 모형의 하나인 LSI-R(Levels of Service Inventory-Revised)

재소자가 답해야 하는 다양한 문항

“유죄 확정 판결을 받은 게 몇 번입니까?”

“공범은 어떤 역할을 했습니까?”

“약물과 알코올은 어떤 영향을 미쳤습니까?”

여기까지는 범죄와 유관할 수 있는데

“처음으로 경찰에 붙잡혔던 때 몇 살이었습니까?”라고 물으면

교외 지역의 안정된 환경에서 성장한 범죄자는 이번이 처음이라고 대답할지 모르지만

흑인 청년들은 아무런 잘못을 저지르지 않았는데도 경찰에 수십 차례 불심검문 당했을 가능성이 큼.

​

52-

2013년 <미국시민자유연맹>이 실시한 조사

14-24세 흑인과 히스패닉은 뉴욕 인구 4.7%에 불과하지만 불심검문을 받은 사람의 40.6%를 차지함.

한다.

​

~

54

LSI-R 같은 재범위험성 모형은 치명적인 피드백 루프를 확대재생산함.

​

​

4. 대량살상무기의 3가지 조건

​

55-

세 가지 모형

야구 모형

가설적인 식단 모형

재범위험성 모형

​

56-

사람들은 자신이 모형에 포함된다거나 그 모형이 어떻게 사용되는지 알더라도 그 모형이 불투명하거나 비공개적인지 따져보아야 함.

비-공개적인 모형

​

57-

질문(2): 모형이 대상자에게 불리하게 작용할까?

​

58-

질문(3): 모형이 기하급수적으로 성장할 역량이 있느냐

확장성은 WMD를 지엽적인 골칫거리에서 막대한 피해를 초래하는 것으로 만듦.

​

60-

WMD의 세 가지 요소는 불투명성, 확장성, 피해

​

61-

물론 WMD 모형으로 혜택을 받은 사람이 있음.

일부 예외를 제외하면 고통받는 사람이 너무 많다는 것이 문제다.

알고리듬에 의해 작동되는 모형은 수백만 명을 기회를 박탈하고 이의를 제기할 가능성도 허용하지 않음.

​

​

(2023.10.12.)

동양철학과 점의 관계

   

요즈음은 교육 수준이 높아져서 철학과 점을 연결하는 사람이 많지 않지만, 이전 세대만 해도 철학과 나오면 점 보냐고 물어보는 사람이 많았다고 한다. 철학과 출신들이 점을 봐달라는 요구에 대처하는 방법도 여러 가지였다고 한다. 철학은 그런 것이 아니라고 상대방을 무섭게 꾸짖었다는 사람이 있다. 분석철학 쪽 사람들이 그런다. 자기는 서양철학 전공이라 점을 못 보니 동양철학 전공자에게 부탁하라고 한 사람도 있다. 대륙철학 쪽 사람들이 그런다. 동양철학 전공이지만 주역을 볼 생각을 안 했는데 사람들이 하도 봐달라고 해서 주역을 공부했다는 사람도 있다. 강신주 박사가 그랬다고 한다.

  

동양철학과 점은 어떠한 관계가 있는가? 관계가 있기는 있지만 그렇게 긴밀한 관계는 아닐 것 같다. 나의 추론은 다음과 같다.

  

- 동양철학을 정말 잘했다면 대학원에 있지 점집을 했을 리 없다.

- 점을 정말 잘 쳤다면 대학원에 있을 리 없다.

- 그러므로, 동양철학은 점은 긴밀한 관계가 아닐 것이다.

  

  

  

  

(2019.06.07.)

   

김제동 강연료 논란이 보여주지 않는 것

    

김제동 강연료 논란 때문에 유명 인사들의 강연료를 알게 되었다. 90분 강연에 김제동은 1550만 원을 받고, 혜민 스님은 500-600만 원을 받는다고 한다. 예전에 김정운 교수가 하루에 강연 두세 번 하고 2-3천만 원씩 벌었다고 했는데 정말 그랬던 모양이다.

  

나는 김제동이 90분 강연하고 1550만 원 받는 것이 부당하다고 생각하지 않는다. 김제동은 목수의 망치와 재판장의 망치가 같은 대접을 받아야 한다고 말했지만, 나는 그렇게 생각하지 않기 때문이다. 두 망치가 하는 일이 다르므로 당연히 다른 대접을 받아야 하고, 같은 일을 하는 망치라고 해도 생산성이 다르면 그에 걸맞게 다른 대접을 받아야 한다. 불러주는 곳이 많은 사람의 강연료가 높은 것은 당연하다.

   

<김제동 토크 콘서트> 한 좌석의 가격이 8만 원이 넘는다고 한다. 솔직히, 사람들이 왜 그 돈을 주고 <김제동 토크 콘서트>에 가는지 이해는 안 간다. 그건 그거고, 그 가격에도 <김제동 토크 콘서트>가 붐빈다는 점을 감안한다면, 김제동의 강연료가 지나치게 높게 책정되었다고 볼 수 없다. 김제동에게 강연료로 1550만 원을 지불하는 경우, 김제동의 강연을 듣는 지역 주민이 200명이 넘으면 해당 지방자치단체 입장에서는 그렇게 손해 보는 것도 아니다. 지역 주민이 1천 명쯤 김제동 강연을 듣는다면 본전을 뽑는다고 볼 수 있다. 대형 콘서트는 대도시에서나 열리므로, 멀리 떨어진 낙후된 동네라면 주민들의 효용은 더 클 것이다.

  

문제는 김제동이 강연료를 많이 받는다는 것이 아니라 그 강연이 “교육 격차 해소”를 명목으로 세금을 들인 강연이라는 점이다. 김제동 강연이 교육 격차 해소와 무슨 상관이 있는가? 차라리 대학입시 전문가를 모셔서 강연한다면 또 모르겠다. 교육 격차 해소한다면서 엉뚱한 사람을 불러서 강연시키면, 정작 필요한 교육 관련 사업에는 예산을 못 쓰게 된다. 백번 양보해서 산골 오지나 외딴 바닷가에서 김제동을 불렀다면 주민 복지 차원에서 그랬나보다 할 텐데, 김제동을 연사로 초청한 곳은 대전 대덕구다. <김제동 토크 콘서트>는 대전에서도 한다.

    

내가 아는 철학 박사는 고등학교에서 90분짜리 강의하고 30만 원을 받는다. 혜민 스님 한 번 부를 돈이면 그런 박사를 스무 명 부를 수 있고, 김제동 한 번 부를 돈이면 약 50명 부를 수 있다. 대전 대덕구에서 김제동 한 번 부를 돈으로 인근 대학의 시간 강사를 불러 강연을 맡긴다면 1년 동안 설날, 추석 빼고 매주 특강을 한 개씩 열 수 있다. 대전에는 카이스트도 있고 충남대도 있다. 김제동 한 번 부를 돈으로 시간강사 50명을 부르는 것이 청소년에게도 좋고 시간강사들에게도 좋고 지역 경제에도 보탬이 되지 않을까? 하지만 그런 일은 앞으로도 일어나지 않을 것이다. 어차피 들어가는 돈은 세금이고, 유명 강사들은 부르는 것이 무명 강사를 찾는 것보다 쉽고, 유명한 사람이 온다고 해야 홍보하기도 쉽고, 일하기도 쉽고 소문도 많이 나고 티도 많이 나기 때문이다.

   

김제동 강연료 논란 덕분에, 지방자치단체들이 엉뚱한 사업명을 걸고 관련 없는 곳에 예산을 사용하는 사례 중 하나가 드러났다. “대전 동서간 교육격차를 해소”한다면서 부르는 사람이 김제동이고 혜민 스님인데, 이런 사업이 <혁신지구교육사업>이고 정부 공모사업이다. 그런 사람들을 불러서 해소될 교육격차라면 텔레비전이나 유튜브만 봐도 해소될 것이다. 그런데 언론에서는 지방자치단체들이 얼마나 허술하게 사업을 운용하고 예산을 집행하는지는 보도하지 않고 김제동이 강연료 많이 받는다고만 선동한다. 그 사업에 김제동을 부른 것이 부적절한 것이지 김제동이 그 정도 강연료를 받는 것이 부적절한 것은 아닌데, 언론들이 김제동 강연료 같은 소리나 해서 사람들이 보아야 할 것을 보지 못하게 만들고 있다.

   

  

* 링크: [한국경제] 김제동 강연료 논란, 90분에 1550만원? “월급도 겨우 주는데”

( https://n.news.naver.com/article/215/0000779179 )

  

  

(2019.06.06.)