글이 풍기는 기운만으로도 그 글이 어떤 글인지 대충 알 수 있는 글이 있다. 제대로 읽지 않고 첫 문단과 마지막 문단만 슬쩍 훑어봐도 글 전체에 사악한 기운이 감돌고 있음을 직감할 수 있기 때문이다.
인공지능을 다룬 어떤 글의 첫 문단을 보자.
‘아마존 메커니컬 터크’(Amazon Mechanical Turk)는 아마존에 있는 하나의 부서가 아니다. 마치 작은 업무를 담당하는 하나의 부서인 것처럼 이름을 달고 있지만, 사실상 아마존 전체의 빅데이터를 관리하는 핵심 조직이다. 아마존이 이 조직의 이름을 ‘메커니컬 터크’라고 명명한 것은 기묘한 느낌을 자아낸다. 왜냐하면 메커니컬 터크란 실제 존재했던 가짜 자동기계장치를 지칭하는 명칭이기 때문이다. 발터 베냐민이란 철학자를 안다면, <역사의 개념에 대하여>라는 글의 첫머리에 등장하는 튀르키예식 옷차림을 한 체스 두는 자동인형을 모를 수가 없을 것이다.
첫 문단의 마지막 줄만 봐도 글쓴이의 허세를 느낄 수 있다. 체스 두는 자동인형은 당시 유럽에서 유명했기 때문에 발터 베냐민을 언급하지 않더라도 자동인형에 관한 이야기를 꺼낼 수 있다. 그런데도 글쓴이는 굳이 “발터 베냐민이란 철학자를 안다면”이라고 하면서 마치 발터 베냐민을 알아야만 이 글의 논의를 제대로 파악할 수 있을 것처럼 바람을 잡는다. 베냐민이 제시한 어떤 개념이 이 글에서 중요한 역할을 하는가? 아니다. 글쓴이가 발터 베냐민을 잘 아느냐? 확인할 수 없다. 글쓴이는 글의 첫 문단부터 일종의 속임수를 쓴 것이 분명하다.
마지막 문단을 보자.
최적의 매개변수란 손실 함수가 최소 값이 될 때 구할 수 있는 매개변수의 값이다. 이 값을 얻어내려면 매개변수의 기울기를 통해 함수의 값이 가장 작아지는 방향으로 이동하면서 최적의 값을 찾아내는 반복과정을 거쳐야 하는데, 이런 수학적 계산 방식을 경사하강법이라고 부른다. 인공지능이란 바로 이 과정에서 인간의 능력으로 계산 불가능한 인공신경망의 가중치 계산을 컴퓨터로 처리하는 프로그램이다. 여기에서 중요한 문제는 이런 기술적 은어로 인공지능의 원리를 이해한다고 최근 목도하는 인공지능의 도약이 설명되는 것은 아니라는 사실이다. 이 기술의 발전은 언제나 사회적이었다. 이 사실을 간과한다면, 자본주의와 인공지능이라는 우리에게 던져진 가장 근본적인 문제를 놓치게 될 것이다.
글쓴이는 경사하강법의 정의를 겨우 띡 써놓고는 “여기에서 중요한 문제는 이런 기술적 은어로 인공지능의 원리를 이해한다고 최근 목도하는 인공지능의 도약이 설명되는 것은 아니라는 사실”이라고 하며 뜬금없이 “기술의 발전은 언제나 사회적”이라고 말한다. 하고 싶은 말이 있으면 그 말을 쉽게 설명하거나 치밀하게 논증하는 것이 일반적인데, 이 글에서는 아무 관련 없는 것들의 사전적 정의를 줄줄 늘어놓고는 느닷없이 중요한 건 그게 아니라고 한다. 이것도 일종의 수법이다. A에 대한 피상적인 것을 늘어놓다가 갑자기 “중요한 건 B야!”라고 선언하고 부연 설명 없이 곧바로 글을 끝내면 독자들은 일시적으로 혼란에 빠지게 되고 글쓴이가 사실 A만 모르는 게 아니라 B도 모른다는 것을 숨길 수 있다.
이런 사례들을 보면, 글의 내용을 파악하지 못하더라도 문장이나 표현의 패턴만 가지고도 개소리일 가능성이 높은 글을 대강 선별할 수 있다. 그렇다면 인공지능으로 개소리 글을 선별하는 작업을 하는 것도 그리 어렵지 않을 것이다. 인공지능이 충분히 학습하기까지는 사람이 글을 선별하는 노동이 필요하겠지만, 나중에는 사람이 미처 주목하지 못한 표현이나 패턴도 인공지능이 찾아낼 수 있지 않을까? 그런 작업도 일종의 AI 인문학이라고 부를 수 있을 것 같다.
* 링크: [한겨레21] 인공지능 ‘봄날’ 떠받친 사회적 함수 / 이택광의 AI 인문학
( https://h21.hani.co.kr/arti/society/society_general/55637.html )
(2024.06.24.)
