[ Cathy O’Neil (2016), Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy (Crown).
캐시 오닐, 「4장. 선동 도구: 알고리즘은 당신이 한 일을 알고 있다」, 『대량살상 수학무기』, 김정혜 옮김 (흐름출판, 2017), 123-147쪽. ]
4.1. 약자들을 노리는 약탈적 광고
4.2. “그들의 아픔을 공략하라”
4.3. 온라인 광고는 어떻게 우리를 스토킹하는가
4.4. 탐욕스러운 기업이 빅데이터를 만나면…
123-
- 투자자는 표적 광고(targeted advertising)에 대해 설명했다.
고객들에게 딱 맞는 정보라고 했다. IT기술 발달과 인터넷 보급으로 사람들은 광고업체들이 자신에 대해 속속들이 알 수 있는 정보를 끊임없이 제공하고 있다.
이를 발판으로 기업들은 고객들이 귀중한 정 보라고 생각하는 무언가로 맞춤 공략할 수 있다.
그런 광고가 너무 넘치다 보니 이젠 사람들이 반감까지 갖게 됐다.
124-
피닉스 대학은 대표적인데 영리 대학
그 대학 광고를 보았던 않았던 영리 대학은 이미 수백만 달러짜리 사업으로 급성장 중이었다. 소위 ‘학위 공장’(diploma mill)으로 부르는 영리 대학은 학생 대부분이 정부가 지원하는 학자금으로 대출을 받아 공부했다.
그런데 그 대학들이 수여하는 학위는 거의 쓸모가 없었다.
심지어 많은 직업군에서 영리 대학 학위는 고등학교 졸업장과 같은 취급을 받았음.
4.1. 약자들을 노리는 약탈적 광고
126-
사람들은 자신이 인터넷 세상에서 드러낸 선호도와 패턴을 토대로 수많은 모형을 나누고 분류되어 점수가 매겨진다.
이런 정보는 합법적인 광고 캠페인의 든든한 토대가 되는 것은 물론이고 약탈적이 광고의 연료가 된다.
도움이 절실한 사람들만 골라서 지킬 수 없는 거짓 약속을 하거나 지나치게 높은 비용이 드는 약속을 해서 바가지를 씌우는 악질적인 광고
성생활에 애로가 있는 사람들에게는 약탈적 광고는 발기부전 치료제인 비아그라나 시알리스 또는 음경 확대술을 홍보한다.
돈이 궁한 사람에게는 고금리 단기소액대출에 대한 제안이 쏟아진다.
컴퓨터가 갑자기 느려졌다면 약탈적 광고주가 바이러스를 심어 놓은 건 아닌지 의심해야 한다.
조금 있다가 컴퓨터를 고쳐준다고 접근할 수 있음.
127-
약탈적 광고는 전형적인 WMD다.
이런 광고는 절박한 사람들을 찾아내 표적공략을 한다.
교육과 관련된 약탈적 광고물은 대부분 거짓인 성공 로드맵을 약속하면서 잠재 고객에게 갈취한 돈을 극대화할 방법을 궁리한다.
직업훈련학교인 배터릇 칼리지는 신입생 모집원들에게 최근에 이혼한 사람, 자긍심이 낮은 사람, 복지수당을 수령하고 있는 자녀가 있는 편모, 임신한 미혼여성, 저임금 종사자, 최근에 가까운 사람과 사별한 사람, 신체적·정신적 학대 피해자, 최근 출소자, 약물 중독 재활치료 경험자, 장래성이 없는 직종 종사자를 집중 공략하라고 지시했다.
4.2. “그들의 아픔을 공략하라”
129-
사기꾼은 먹잇감이 갖고 있는 취약점을 노린다.
서부영화에서 마을에 도착한 장사꾼은 어떤 노부인을 잠재 고객으로 점찍고 마주 앉는다.
노부인이 웃을 때 입을 가리는 행동은 치아 상태가 나쁘다는 걸 말하고, 손가락에 낀 낡은 결혼반지를 빙빙 돌리는 행동은 관 절염을 앓고 있음을 보여준다. 장사꾼은 이제 전략이 섰다.
노부인에게 자기 물건을 사면 아름다운 미소를 되찾고, 관절통증이 사라 질 것임을 지나가는 말투로 알려준다.
이윽고 먹이는 미끼를 덥석 문다. 영리 대학들이 바로 그렇다.
이민 온 지 얼마 안 된 사람은 미국 유명 대학에서 학위를 받을 수 있다는 점에 감격한다.
133-
모든 인터넷 플랫폼은 광고주들이 표적 집단을 정밀하게 세분화하도록 도와준다.
영리대학은 가난한 사람들이 주로 사는 우편번호를 사용하는 사람들이 표적이다.
그들은 전역군인에게도 관심을 기울이는데 그들은 학자금 대출을 받기 쉽다.
광고물은 모두 고귀하다.
휴지통에 버려지는 광고전단지는 그런 광고는 효과가 없음을 알려주고, 인터넷 광고 클릭 여부는 다이렉트 마케팅(direct marketing) 담당자에게는 보물이다.
그들은 1% 반응을 기적이라고 한다. 미국 인구 1%는 300만 명 이상이다.
4.3. 온라인 광고는 어떻게 우리를 스토킹하는가
135-
인터넷에서는 우편 광고물과 비교할 수 없을 만큼 빠른 반응을 얻을 수 있다.
인공지능(AI)은 기계 스스로가 우리 데이터를 낱낱이 조사하면서 우리가 갖고 있는 습관과 희망, 두려움과 바람을 찾아내고 있다.
컴퓨터는 자율학습을 통해 나날이 위세를 떨친다.
컴퓨터는 오직 기본적인 명령에 따라 데이터의 바다에서 혁혁한 전과를 올린다.
알고리즘은 스스로 학습한다.
알파고는 단지 집을 많이 확보하라는 명령에 따라 바둑판을 운영하면서 이세돌을 처참하게 무찔렀다.
137-
사람들은 이제 휴대전화에 말을 걸고, 날씨며 경기 결과며 길을 묻는다.
애플 시리가 나온 2008년에서 2015년 사이에 알고리즘 언어학적 수준은 유치원 수준에서 중학교 수준으로 발돋음했다.
이제 양로원에서 노인은 로봇과 대화를 나누며, 외로운 남자들은 리얼돌과 연애에 빠졌다.
139-
가짜 뉴스에 따른 온라인 표적 마케팅을 리드 창출이라고 부른다.
리드 창출을 하는 목적은 판매를 목적으로 잠재 고객 명단을 구축하는 것이다.
이렇게 수집된 명단은 영리 대학에 팔렸다.
<프로러블리카> 보고서에 따르면, 영리 대학들 마케팅 예산 중 20-30%가 리드 창출에 사용됐다.
“오바마는 엄마들이 다시 공부하기를 원한다. 학위를 마쳐라. 자격이 된다면 학자금 대출을 받을 수 있다.”
그런 법안 자체가 존재하지 않았다.
이 광고를 클릭한 소비자는 나이와 전화번호를 포함해 몇 가지 개인정보를 요청받았고 얼마 뒤에 영리 대학에서 걸려온 전화를 받았다.
140-
영리대학은 이력서를 작성 방법을 알려주는 무료 워크숍을 개최하기도 한다.
거기에 참여한 학생들은 이런 도움이 고맙게 생각해 응했지만 연락처 정보를 제공한 가난한 학생들은 나중에 영리 대학들에게 사실상 스토킹을 당하다시피 했다.
영리 대학은 부유한 학 생들에게는 관심을 두지 않는다.
4.4. 탐욕스러운 기업이 빅데이터를 만나면…
142-
WMD의 가진 중요한 특징 중 하나는 이들 활동이 많은 사람들의 삶에 피해를 초래한다는 점이다.
약탈적 광고가 으레 그렇듯, 영리 대학 모형이 본격적으로 피해를 유발하는 시점은 학생들이 수업료와 제반 학비를 충당하기 위해 대출을 받기 시작하면서부터
이는 정부 탓이 크다.
1965년 미국정부는 고등교육법(Higher Education Act)을 시행했다.
여기엔 소위 ‘90-10 법칙'이란 조항이 있다.
이 조항은 대학들이 재정 가운데 최대 90%까지 연방정부 원조를 받을 수 있다고 규정했다.
9-1이란 근거는 학생들이 교육비의 일정 부분을 감당할 때 자신의 교육을 좀 더 인지하게 받아들일 것이라는 판단에서였다.
그러나 얼마 지나지 않아 영리 대학은 이 조항이 가진 허점을 알아냈다.
저축이든 은행 대출이든 학생들이 개인적으로 수천달러를 긁어모을 수 있다면 영리 대학들은 그 학생 이름을 빌려 그 금액의 9배나 되는 돈을 정부로부터 지원받을 수 있었다.
결과적으로 영리 대학들은 학생 하나하나가 막대한 수익원이 되었다.
143
솔직히 많은 학생들이 정부 학자금 대출을 공짜 돈처럼 생각했다.
영리 대학들은 굳이 이런 오해를 바로잡아주지 않았다.
그러나 대출금은 명백히 빚이다.
물론 영리 대학 학생 가운데 사회에 나가 유용하게 사용할 지식과 기술을 습득하는 경우가 있다.
그렇다고 해서 그들이 영리 대학보다 훨씬 저렴한 비용으로 비슷한 학위를 딸 수 있는 커뮤니티 칼리지 졸업생들보다 유리하다고 할 수 있을까?
143-
2014년 미국연구학회(American Institutes for Research, AIR)와 미국 교육연구 종단자료 분석센터(CALDER,National Center for Analysis of Longitudinal Data in Education Research) 조사관들은 9천 개에 달하는 가짜 이력서를 만들었다.
다시 이를 영리 대학의 준학사 학위 소지자, 커뮤니티 칼리지에서 취득한 비슷한 학위 소지자, 대학 교육을 한 번도 받지 않은 고졸자 이렇게 세 부류로 나누었다.
그리고 미국 7대 도시에 구인광고를 고용주에게 보낸 뒤 반응을 측정했다.
결과는 명확했다. 영리 대학 학위는 커뮤니티 칼 리지보다 가치가 떨어졌다.
사실상 고등학교 졸업장과 같이 취급됐다.
그런데도 영리 대학 학비는 주요 공립대학보다 평균 20% 정도 비싸다.
145-
영리 대학과 마찬가지로 소액단기대출업체도 WMD를 활용한다.
합법적인 업체도 있지만 대출산업 자체가 본질적으로 약탈적
미국에서는 단기대출에 평균 574%인 고금리를 부과하여 폭리를 취한다.
뿐만 아니라 많은 소액대출업체가 채무자들을 평균 8회 정도 다른 대출로 갈아타게 만들어 결과적으로 훨씬 장기적인 대출처럼 보이게 함.
유감스럽게도 그들은 항상 정부보다 영리했다.
(2023.10.12.)
