[ 천현득, 「특이점은 어떻게 오는가」, 이중원 편, 『인공지능 시대의 인간학』, 한울엠플러스, 2021, 193-220쪽. ]
1. 왜 특이점인가?
2. 특이점이 도래한다는 논증
3. 동등성 전제(S1)에 대한 검토
1) 전뇌 에뮬레이션 논증
2) 진화로부터의 논증(evolutionary argument)
4. 연장 전제(S2)에 대한 검토
1) 확장 가능한 방법에 의한 인공지능 개발
2) 확장 가능하지 않은 방법에 의한 개발
5. 연장 전제(S3)에 대한 검토
6. 도대체 지능이란 무엇이고, 더 지능적이란 무엇인가?
1. 왜 특이점인가?
194
수학자 I. J. 굿(I. J. Good)이 지능 폭발이 발생할 것이라는 기본 논증을 제시함.
초지능 기계(untraintelligent machine)란 아무리 똑똑한 인간이더라도 인간의 모든 지적 활동을 능가할 수 있는 기계로 정의된다고 하자.
기계를 설계하는 것도 그러한 지적 활동의 하나이므로, 초지능 기계는 더 나은 기계를 설계할 수 있음.
그 다음에는 '지능 폭발'이 생길 것이고, 인간의 지능은 크게 뒤쳐질 것임.
그래서 최초의 초지능 기계는 인류가 만들 수 있는 최후의 발명품임.
195
'특이점'(singularity)이라는 용어는 SF 작가인 버너 빈지(Vernor Vinge)의 1983년 글에서 처음 사용됨.
2. 특이점이 도래한다는 논증
198-199
(Chalmers, 2010)
표현 정의
AI: 인간 수준의 인공지능
AI+: 가장 지능적인 인간보다 지적으로 더 뛰어난 인공지능
AI++: AI+보다 훨씬 높은 차원의 지능을 가진 존재(초지능)
시간 차원에서는 '머지않아'와 '곧'을 사용함.
'머지않아': 수 세기 내
'곧': 수십 년 내
특이점이 도래할 것이라는 주장은 조건문임.
왜냐하면 내일 운석의 충돌로 인류가 멸망한다면 특이점을 오지 않을 것이기 때문
방해 요인: 전 지구적 재난이나 전역적 모라토리움 등 특이점의 도래를 저지할 수 있는 사건
특이점 도래에 관한 주장은 그러한 방해 요인들이 존재하지 않으면 특이점이 도래할 것이라는 조건부 주장
지능 폭발이 발생할 것이라는 논증은 다음 형태로 요약할 수 있음.(Chalmers, 2010)
S1(동등성 전제): (방해 요인이 없다면, 머지 않아) AI는 생겨날 것이다.
S2(연장 전제): AI가 생겨난다면, (방해 요인이 없다면, 곧) AI+도 생겨날 것이다.
S3(확장 전제): AI+가 생겨난다면, (방해 요인이 없다면, 곧) AI++도 생겨날 것이다.
따라서, (방해 요인이 없다면 머지않아) 초지능이 생겨날 것이다.
199-200
이러한 논증이 가능하게 만드는 한 가지 전제는 지능의 개념과 관련됨.
지능이라는 것이 존재하며, 더 지능적인 것과 덜 지능적인 것을 구별할 수 있을 뿐 아니라, 상이한 체계들의 지능을 서로 비교할 수 있다는 전제에서 논증이 성립함.
상이한 체계들 사이의 지능을 서로 비교하려면 지능의 순서를 결정할 수 있을 뿐 아니라 지능에 측도를 부여해야 함.
왜냐하면 특이점은 지능이 단순히 지속적으로 증가한다는 것을 주장하는 것이 아니라 기하급수적으로 증가함을 뜻하기 때문.
어떤 증가가 단조증가인지 기하급수적인지 등은 측도에 의존함.
어떤 체계가 인간 수준의 지능을 가지는지 여부를 시험하는 방법은 무엇인가?
200
주의할 것 중 하나는 지능의 증가가 속도의 증가가 동일하지 않다는 점
계산 속도의 증가가 지능의 증가를 함축하는 것은 아님.
속도 폭발은 지능 폭발의 동의어가 아님.
예) 컴퓨터가 열 배 빨라진다고 해서 컴퓨터의 지능이 열 배 증가하는 것은 아님.
3. 동등성 전제(S1)에 대한 검토
1) 전뇌 에뮬레이션 논증
201
에뮬레이션: 시스템의 내적 과정을 충분히 시뮬레이션하여 세스템의 행동에 대한 근사적인 패턴을 복제하는 것
데이비드 차머스는 이를 근사적 시뮬레이션(close simulation)이라고 부름.
핵심 주장은 인간의 지적인 행동이 두뇌에서 비롯된 것이고, 머지않아 인간의 두뇌를 에뮬레이션 할 수 있다면, 방해 요인이 없는 한 인간 수준의 지능(AI)은 개발될 수 있다는 것
201
반대자들은 인간의 두뇌가 시뮬레이션될 수 없다고 주장할 수 있음.
뇌에 관한 연구는 아직 초보적인 수준이며 인간 수준의 지능을 모방하기 위해서 아직 갈 길이 멀다고 할 수 있음.
그러나 인간의 두뇌가 원천적으로 모방 불가능하다고 볼 근거는 찾기 어려움.
202
가능한 반론: 인간과 같은 생명체의 유기적 과정은 기계가 아니므로 시뮬레이션 될 수 없음.
컴퓨터를 통해 시뮬레이션할 수 있는 대상은 기계적인 것에만 국한된다는 것
이러한 반론은 유기체와 기계의 구분을 전제함.
생명체는 기계와 질적으로 다른 것인가?
2) 진화로부터의 논증(evolutionary argument)
4. 연장 전제(S2)에 대한 검토
1) 확장 가능한 방법에 의한 인공지능 개발
2) 확장 가능하지 않은 방법에 의한 개발
5. 연장 전제(S3)에 대한 검토
6. 도대체 지능이란 무엇이고, 더 지능적이란 무엇인가?
(2023.07.13.)
