인공지능을 한마디로 정의하기 어려운 것은 “지능”을 정의하기가 어렵기 때문입니다. 지난번 앨런 튜링이 기계가 지능이 있다고 판단하는 방법으로 튜링 테스트(Turing Test)를 소개해드렸는데, 오늘은 그에 대한 반박 논리로 나온 “중국어 방(중국인 방 혹은 중국어 방 논증, Chinese room or Chinese room argument)”에 대해 설명해드리겠습니다. (튜링 테스트는 지난번 글인 "#2. 새로 나오는 50파운드 영국 지폐(1)"을 참고하시길 바랍니다.) 한마디로 기계가 사람의 행동을 모방해서 사람과 같은 행동과 답을 낸다고 과연 지능을 판별 할 수 있느냐의 문제입니다. 일종의 철학적 주장입니다.
중국어 방은 존 설(John Rogers Searle, 1932년~ )이 튜링 테스트로 기계의 인공지능 여부를 판정할 수 없다는 것을 논증하기 위해 고안한 사고실험입니다. 존 설은 미국 철학자이면서, 버클리 캘리포니아 대학교 대학원 교수였지만, 문제가 있어 UC Berkeley에서 명예를 박탈당했습니다. 그의 주목할 만한 개념에는 강한 인공지능에 대한 중국어 방의 주장이 포함됩니다. 중국어 방은 Behavioral and Brain Sciences(행동과 뇌 과학지 : 미국에서 캠브리지 대학 출판부가 발간되는 뇌 과학 학술지)에 실린 존 설의 1980년 논문인 "Minds, Brains, and Programs"에서 소개되었습니다. 이 논문은 결국 저널의 "가장 영향력 있는 표적 기사"가 되었고, 이후 수십 년 동안 엄청난 수의 논평과 반응을 낳았으며 존 설은 계속해서 많은 논문, 인기 기사 및 책에서 논쟁을 옹호하고 다듬었습니다.
그가 제안한 중국어 방의 사고 실험 개념은 이렇습니다. 어느 방에 중국어를 한 자도 이해하지 못하는 중국어 모르는 사람을 집어넣고, 중국어로 된 질문 목록과 그에 대한 중국어 대답이 적힌 목록 및 필기도구를 넣어 둡니다. 중국인 심사관이 그 방 안으로 중국어 질문을 써서 넣는다면 안의 사람은 중국어를 전혀 할 줄 모르지만 목록을 따라 그에 대한 대답을 중국어로 써서 심사관에게 건네줄 수 있습니다. 밖의 사람의 입장에서는 안의 사람은 중국어를 할 줄 아는 것으로 보이지만 실제로 안의 사람은 중국어를 전혀 모르고, 질문 및 대답도 전혀 이해하지 못하는 상태이다. 즉 중국어 문답을 완벽히 한다고 해도 안의 사람이 중국어를 진짜로 이해하는지는 알 수 없습니다.
따라서 지능이 있어서 질문 답변을 수행할 수 있는 기계나 컴퓨터가 있어도 그것이 지능을 가졌는지는 튜링 테스트로는 판정할 수 없다는 주장입니다. 즉, 기계나 컴퓨터가 지능을 가졌는지 판단하는 튜링 테스트의 답변이 과연 지능을 가지고 하는 것인지 아니면 단순히 저장된 답변을 하는 것인지 알 수 없다는 주장입니다. 컴퓨터가 중국어를 이해하는 것인지, 단순히 중국어를 이해하는 능력을 모방한 것인지에 대한 의문이 생기고, 앞의 것을 강한 인공지능, 뒤에 것을 약한 인공지능으로 생각하고, 강한 인공지능에 대한 반박을 한 것입니다.
존 설은 "이해(understanding)" 또는 "고의성(intentionality)" 없이는 기계가 "생각(thinking)"하고 있다고 설명 할 수 없으며, 그것은 생각하지 않기 때문에 일반적인 단어의 의미와 같은 "마음(mind)"이 없다고 주장합니다. (음, 심오한 철학적 관점의 생각이네요!) 그의 주장은 컴퓨터 프로그램이 아무리 발달한다고 해도 그것은 형식적이고 구문론적이므로, 중국어를 이해하는 즉, 의미론을 포함하는 인간의 마음과 같이 될 수 없음을 함축하고 있습니다. 따라서 강한 인공지능이 잘못되었다고 주장합니다.
존 설의 주장에 대해 여러가지 반론이 있는데, 그 중의 하나가 시스템적 관점에서의 반론입니다. 만일 중국어 방에서 완벽한 중국어가 나온다면, 그 과정이 무엇이 되었든 간에 그것은 하나의 "시스템"이며, 곧 시스템 단위로 봤을 때는 중국어를 할 줄 안다고 봐야 한다는 것입니다. 한 예로 애플사의 시리(Siri)는 본질적으로는 미리 학습되어 저장된 데이터를 통해서 입력된 문장을 분석하고 적당한 문장을 출력하는 '중국인 방 이론'에 의해 프로그램 되어 있지만, 많은 사람들은 시리가 아주 훌륭한 인공지능의 예시라고 생각합니다.
현재 중국인 방의 반론과 재반론 속에 이에 문제는 일종의 교착상태에 가깝다고 볼 수 있습니다. 그리고 일반적으로 존 설의 주장은 인공지능 연구의 문제로 간주되지 않습니다. 컴퓨터 과학에서는 중국의 방 주장은 주로 마음 철학(philosophy of mind)의 주장이며, 주요 컴퓨터 과학자와 인공 지능 연구자들은 모두 자신의 분야와 관련이 없다고 생각합니다.
사실 우리가 현재 쓰고 있는 많은 인공지능 프로그램들은 인간의 언어를 이해하고 있든지 말든지 상관없습니다. 그저 엉뚱한 답변 없이, 오류 없이, 잘 알아듣고, 잘 대답하고, 잘 행동하면 되는 것입니다.
존 설의 중국인 방과 유사한 관점의 사고 실험이 그 이전에도 있었습니다. 인구가 많은 중국의 전체 인구를 뇌 시뮬레이션에 참여하는 상상의 사고 실험입니다. 이 사고 실험을 중국 두뇌(China brain) , "중국 국가(Chinese Nation)"또는 "중국 체육관(Chinese Gym)"이라고도합니다. 이 사고 실험의 시나리오의 초기 버전은 1961년 Anatoly Dneprov, 1974년 Lawrence Davis, 1978 년 Ned Block에 의해 제출되었습니다.
중국 두뇌 사고 실험은 중국 국가의 각 구성원이 뇌의 뉴런을 연결하는 축삭과 수상 돌기를 시뮬레이션하기 위한 것입니다. 이는 중국 전체가 단일 두뇌의 작동을 시뮬레이션 하도록 가정한 것입니다. 각 구성원들이 전화나 워키토키를 사용하여 두뇌에서 하나의 뉴런의 동작을 시뮬레이션 하도록 요청하면 어떤 일이 일어날지 고려합니다. 각 중국인은 뉴런 역할을 하며 다른 사람들과 양방향으로 통신합니다. 중국 두뇌의 현재 정신 상태는 중국 어디에서나 볼 수있는 위성에 표시됩니다. 그런 다음 중국의 두뇌는 라디오를 통해 뇌의 감각 입력과 행동 출력을 제공하는 신체에 연결됩니다. 따라서 중국의 두뇌는 다른 정신 상태와 인과적으로 연결된 감각 입력, 행동 출력 및 내부 정신 상태와 같은 정신 기능 설명의 모든 요소를 보유합니다. 이 배열이 두뇌가 하는 것처럼 같은 방식으로 마음이나 의식을 가지는 것일까요?
기능주의에 따르면, 중국 두뇌와 같은 식으로 행동하도록 만들 수 있다면 그 시스템은 마음을 가질 것 입니다. 그러나 그와 같은 배열이 생각과 감정을 가질 수 있는 마음을 만들 수 있다고 생각하는 것이 얼마나 비직관적인지를 보여주는 것입니다. 이런 관점에서 찬반 논의를 일으킨 것이 바로 중국 두뇌(China brain)이였습니다.
중국어 방이나 중국 두뇌 모두 컴퓨터 구현관점에서 보면 쓸모없는 논쟁이라고도 할 수 있으나, 한번쯤은 생각해볼만한 논의였습니다. 우리가 인공지능을 공부하면서 때때로 다른 관점에서 생각해본다는 것이 좋은 것 같습니다.
Copyright 2021. 『오드리공주될뻔 블로거』 All rights reserved.
'인공지능(AI) > 인공지능 접근 방법' 카테고리의 다른 글
| “oldies but goodies” 오래되었지만 좋은 논문들 (0) | 2022.05.14 |
|---|---|
| 인공 뉴런(2/2) (0) | 2021.03.07 |
| 인공 뉴런(1/2) (0) | 2021.03.06 |
| 인공지능 접근 방법 : 전지적 참견 (0) | 2021.01.13 |