어쩌다 인공지능

인공지능과 로봇은 엄연히 다른 의미입니다. 한마디로 인공지능은 인간의 소프트웨어(정신적인) 측면을 강조한 것이고, 로봇은 인간의 하드웨어(육체) 측면을 강조한 것입니다. 로봇은 사전적 의미로는 「인간과 비슷한 형태를 가지고 걷기도 하고 말도 하는 기계 장치」 혹은 「어떤 작업이나 조작을 자동적으로 하는 기계 장치」를 말합니다. 즉, 로봇은 기계적 장치의 일종입니다. 로봇에게 인공지능을 탑재할 수도, 탑재 하지 않을 수도 있습니다. ‘로봇'이란 용어는 체코슬로바키아의 극작가 ’카렐 차페크(Carel Čapek, 체코 작가)‘가 1920년에 발표한 희곡 "R.U.R.(Rossum's Universal Robots)"에 쓴 것이 퍼져 일반적으로 사용되게 된 단어입니다. 물론 그 개념은 이미 수 천년 전부터 있었습니다. 

로봇(robot)이라는 말은 단어 자체로 '노예', 비유적으로 '고된 일'을 뜻하는 체코어와 슬로바키아어 로보타(robota)에서 온 말입니다. 이 단어의 어원은 고 교회 슬로바키아어 라보타(rabota →노예 상태, 현대 러시아어로 '노동')이며, 이는 인도-유럽어족 어원 orbh-에서 유래하였습니다. 아르바이트(독일어: Arbeit →일, 노동)와 같은 어원입니다. 차페크는 R.U.R.에서 모든 작업능력에서 인간과 동등하거나 그 이상이면서 인간적 “감정”이나 “혼”을 가지고 있지 않은 로봇이라고 불리는 인조인간을 등장시키고 있습니다. 카렐 차페크의 정의로 보면 로봇은 “일할 수 있는 능력은 있어도 생각할 수 있는 능력이 없는 인간을 닮은 것”입니다.(출처 : 위키백과)

이런 기계 장치인 로봇에게도 윤리에 관한 원칙이 있었습니다. 그 시작으로 미국의 작가 아이작 아시모프(Isaac Asimov)의 로봇공학의 3원칙(Three Laws of Robotics 혹은 Asimov의 법칙)이 있었습니다.  이것은 아이작 아시모프가 로봇에 관한 소설들 속에서 제안한 로봇의 작동 원리입니다. 

1. 로봇은 인간에 해를 가하거나, 혹은 행동을 하지 않음으로써 인간에게 해가 가도록 해서는 안 된다.
2. 로봇은 인간이 내리는 명령들에 복종해야만 하며, 단 이러한 명령들이 첫 번째 법칙에 위배될 때에는 예외로 한다.
3. 로봇은 자신의 존재를 보호해야만 하며, 단 그러한 보호가 첫 번째와 두 번째 법칙에 위배될 때에는 예외로 한다.

나중에 아시모프는 《로봇과 제국》을 쓰면서 네 번째, 또는 0번째 법칙을 추가하게 됩니다. 다른 세 법칙도 이 0번째 법칙을 위배할 수 없습니다.

0. 로봇은 인류에게 해를 가하거나, 행동을 하지 않음으로써 인류에게 해가 가도록 해서는 안 된다.

로봇 윤리처럼, 인공지능도 윤리를 다루고 있습니다. 인공지능의 윤리(Ethics of artificial intelligence)는 인공 지능 시스템에 특화된 기술 윤리의 한 가지입니다. 이것은 인간이 인공적으로 지능적인 시스템을 설계, 제작, 사용 및 취급 할 때의 도덕적 행동에 대한 우려되는 관심사와 기계 윤리에 대한 기계의 행동에 대한 우려되는 관심사로 나뉩니다. 또한 추후에 설명할 초 지능 AI로 인한 특이점(singularity) 문제도 여기에 포함됩니다.

인공지능 윤리와 더불어 인공 지능 규제(Regulation of artificial intelligence)는 인공지능을 촉진하고 규제하기 위한 공공 부문 정책 및 법률의 개발을 다루고 있습니다.  AI에 대한 규제 및 정책 환경은 미국, 유럽 연합을 포함한 전 세계 관할권에서 떠오르는 문제입니다. AI를 장려하고 관련 위험을 관리하려면 규제가 필요한 것으로 간주됩니다. 각국별로 여러 가지 가이드라인이 있지만, 그중에서 미국 연방거래위원회(Federal Trade Commission, 간단히 FTC)는 위원회 웹페이지 블로그를 통해 AI 및 알고리즘 사용에 대한 지침을 발표하였습니다(Using Artificial Intelligence and Algorithms : AI 및 알고리즘 사용, 2020.04). 여기서 투명성, 차별금지, 공정성, 피해방지 등을 다루고 있는 것을 보아 앞으로 인공지능 발전과 더불어 우리가 지켜야할 원칙이 무엇인지를 알려줄 것 같습니다.

이와같이 인공지능의 진화와 더불어 각 나라별로 규제와 윤리에 대한 다양한 시도나 지침이 나오고 있습니다. 인공지능 인문학에서도 윤리⋅규범학을 구성해서 전문적으로 윤리분야를 다루고 있습니다. 앞으로도 인공지능으로 많은 시행착오가 있겠지만, 저는 인간 중심의 AI가 정착될 그날을 기다려보렵니다.

Copyright 2021. 『오드리공주될뻔 블로거』  All rights reserved.

인공지능이란 분야는 매우 큰 분야입니다. 인공지능에 대한 접근은 단순한 소프트웨어적 구현으로만 볼 것이 아니라, 다양한 관점으로 바라보아야합니다. 사람에게는 지능이 있고, 그 지능을 이해하려고 인류는 많은 노력을 해왔습니다. 새가 나는 것을 흉내 내어 비행기를 만들 듯이, 우리는 사람의 뇌를 흉내 내어 인공지능을 구현하고 있습니다. 고대에서부터 철학과 더불어 인간의 사고와 추론방법을 연구해왔고, 다양한 논리를 만들어 지능적 구현물을 만들었습니다. 인공지능의 답을 찾기 위해서, 컴퓨터 공학이외에도 철학, 수학, 심리학, 생물학, 사회학, 언어학, 신경과학 등에서 연구한, 정신과 행동, 지식, 규칙, 학습, 추론, 이익 극대화, 뇌의 정보처리, 심리적 행동과 사고, 제어, 언어적 표현 등에 관한 다양한 질문들에 대하여 우리가 어떤 답을 찾았는지를 살펴봐야합니다. 이들 분야가 인공지능만을 위해 연구된 것이 아니더라도, 해당 분야의 발전이 인공지능의 발전의 토대가 되었던 것은 누구도 부인할 수 없는 사실일 것입니다. 그래서 아래와 같은 다양한 시각으로 인공지능을 살펴보아야할 것입니다.

Copyright 2021. 『오드리공주될뻔 블로거』  All rights reserved.

#4. 신화와 전설에 관하여 : 놋쇠 머리(브라젠 헤드, brazen head, brass, or bronze head)

놋쇠 머리는 마법사로 명성을 쌓은 로저 베이컨(Roger Bacon)과 같은 중세 후기 학자들이 소유했다고 하는 초기 근대시대의 전설적인 자동 기계입니다.

남성의 머리 모양을 한 이 놋쇠 머리는 기계이기도 하지만 동시에 마법을 가진 존재로 알려져 있습니다. 놋쇠나 청동으로 만들어진 남자 머리는 기계적으로나 마술적으로 다양했습니다. 마치 북유럽 이교도에서 오딘의 미미르의 머리(Odin's head of Mimir)처럼, 살아서 말을 하는 이 존재는 "예"또는 "아니오"로 대답이 제한되었음에도 불구하고 때론 모든 질문에 지혜롭고 올바르게 대답 할 수 있는 것으로 알려져 있습니다. 즉, 마법사의 대리자 역할을 하였습니다.

17세기에 토머스 브라운은 그것들은 학자들의 연금술 연구에 대한 오해라고 생각했고, 현대에 와서는 볼릭은 그들이 "르네상스 시대의 지식인과 예술가들의 오만함에 대한 환유"로 작용하게 되었다고 주장합니다. 이드리스 샤는 그의 책 ‘The Sufis’의 한 장(chapter)을 이 "지혜의 머리"에 대한 해석과 "머리 만들기"라는 구절을 제공하는 데 바쳤으며, 머리는 "다름 아닌 [Sufic - 수피교도(이슬람교의 신비주의자)의]의 완성된 남자”를 말하는 것이라고 합니다.

※ 범례:

• 로저 베이컨 : Roger Bacon. 영국의 중세 철학자·자연과학자(?1220～1292)
  
• 오딘 : Odin. 북유럽신화에 나오는 지식·문화·군사를 맡아보는 최고신
• 미미르 : Mimir. 북유럽 신화에 나오는 거인족의 현인(賢人)
• 토머스 브라운 : Thomas Brown. 19세기 스코틀랜드의 철학자로, 흄의 경험주의를 옹호하고 다윈의 이론을 반박하였다.
• 볼릭 : Todd Andrew Borlik. Todd A. Borlik, 영국 허더즈필드 대학교(University of Huddersfield) 강사
• 이드리스 샤: Idries Shah. 필명은 Arkon Daraul. 인도에서 태어나 영국에서 자란 수피즘 작가

Copyright 2021. 『오드리공주될뻔 블로거』  All rights reserved.

한마디로 블랙 스완은 「전혀 예상할 수 없던 일들이 실제로 나타나는 경우」입니다.

이 용어는 경제용어로써 블랙 스완 이론, 검은 백조 이론, 흑조 이론, 흑고니 이론이라고도 합니다. 영어로는 black swan theory 혹은 theory of black swan event라고 합니다. 또는 줄여서 그냥 블랙 스완(검은 백조, 흑조, 흑고니, Black swan)이라고도 합니다.

블랙 스완 이론은 「아무도 예측하지 못한 이례적인 사건(놀라움으로 다가오는 사건)을 설명하는 은유」입니다. 이 용어는 블랙 스완이 존재하지 않는다고 추정되는 고대 속담에 기반을 두고 있습니다. 17세기 말까지 유럽인은 모든 백조가 희다고 생각했습니다. 그런데, 1697년 네덜란드 탐험가 윌리엄 드 블라밍(Willem de Vlamingh)이 서부 오스트레일리아에서 기존에 없었던 '흑고니'를 발견 한 것에서 착안하여 전혀 예상할 수 없었던 일이 실제로 나타나는 경우를 '블랙 스완'이라고 부르게 되었습니다. 이 용어는 그동안 철학, 사회학, 심리학, 등에서 오랫동안 사용되어왔으며, 나심 니콜라스 탈레브(줄여서 탈레브, Nassim Nicholas Taleb, 1960년~ )가 2007년 '블랙 스완' 책을 발간하면서 대중화되었습니다.

탈레브(Taleb)가 제시한 블랙 스완 이론의 특징은 다음과 같습니다.
첫 번째, 예외적으로 일어나는 사건입니다.
두 번째, 일단 발생하면 엄청난 변화를 초래할 만큼 충격적입니다.
세 번째, 블랙 스완이 발생한 이후에는 사람들이 사전에 예측할 수 있었다고 받아들입니다.

그 사례로는 2016년 영국 국민투표로 확정된 브렉시트(Brexit·영국의 유럽연합 탈퇴)나 2008년의 서브프라임 모기지(subprime mortgage) 사태가 있겠습니다. 탈레브에 따르면, COVID-19(코로나19, corona virus disease 19 ) 유행병은 전 세계적인 유행병이 궁극적으로 발생할 것이라는 확신을 갖고 예상했으므로, 블랙 스완이 아니라 화이트 스완(White swan, 백조)로 간주 됩니다. 

블랙 스완과는 반대로 화이트 스완(White Swan)은 「과거의 경험에 의해 충분히 예상되는 위기임에도 불구하고 적절한 대응책을 마련하지 못하고 있는 상황」을 일컫는 말입니다.

추가적으로 '블랙 스완'에서 파생된 말로 '그레이 스완(Gray Swan)'이 있습니다. 그레이 스완은 「이미 알려진 악재이나 대처방안이 모호하여 위험요인이 계속 존재하는 상태」를 가리킵니다. 즉, 마땅한 해결책이 없는 위험이 계속 존해하는 것입니다.

하이테크 패권의 경쟁에서 인공지능으로 인한 산업혁명이 블랙 스완이 될지 화이트 스완이 될지는 우리가 대처하기 나름입니다.

Copyright 2021. 『오드리공주 될 뻔 블로거』  All rights reserved.