차례

자, 이제 인공지능 입장에서 자아, 즉 인공자아에 대해서 생각해 보겠습니다.

인공지능 시대에 저의 질문은 이렇습니다:

1. 튜링 테스트를 통과한 인공지능은 자아를 가졌다고 생각할 수 있을까요? 참고로, 튜링 테스트(Turing Test)는 인공지능의 지능을 평가하기 위한 테스트로, 1950년에 영국의 수학자이자 컴퓨터 과학자인 앨런 튜링(Alan Turing)에 의해 제안되었습니다. 튜링 테스트의 목표는 기계가 인간과 얼마나 유사하게 대화할 수 있는지를 평가하는 것입니다.

2. 1번 질문과 동일한 질문이겠지만, 튜링 테스트를 통과한 인공지능이 자아를 가졌는지는 또 다른 문제라면, 진정 자아라는 것은 튜링 테스트 이상의 어떤 것이 있을까요? 달리 말하면, 해당 인공지능이 튜링 테스트를 통과했다고 하더라도 자아를 가지려면 더 만족해야 할 조건이 있을까요?

“내 정보를 가지고 있는 묘”

넷플릭스의 “미래의 이것”(2022년)의 “죽음 이후의 삶” 에피소드에서처럼, 묘지나 납골당 혹은 그 사람의 추억의 장소에 기계 장치를 둡니다. 이 기계 장치에는 저의 이미지를 스캐닝한 데이터, 목소리, 그리고 저의 과거의 추억들의 기록, 사진 등 데이터가 들어 있습니다. 제 자식이 다가가면 자식을 인식하고, “딸아, 왔구나” 하고 목소리로 혹은 홀로그램으로 나타나 저와 이야기를 나눕니다. 상당히 많은 기록들이 있어서, 스크린으로 보이는 사진들을 보며 추억을 되새기기도 하고, 질문도 할 수 있습니다. 남아 있는 사람들을 위한 남아 있는 사람들의 장치입니다.

만약 이 기계 장치에 작동 이후의 기록도 저장할 수 있는 기능을 가진다면, 그리고 ChatGPT 기능을 또한 가진다면 어떨까요? ChatGPT에 대해서는 더 자세히 다음에 검토해 보도록 하고 여기서는 대화형 기능이라고 생각만 하겠습니다. 우리가 이런 장치를 원할까, 아닐까를 떠나, “미래의 이것”에서 얘기하듯, 미래의 것, 당연히 미래에 실현될 것임에 틀림없습니다. 그러면, 내 정보를 가지고 있는 묘는 저의 아버지를 살아있게 하는가? 그건 절대 아닙니다.

인공지능의 발전은 튜링 테스트를 통과할까, 아닐까의 문제는 이미 아닐 듯합니다. 저와 타인, 아니 어떤 기계 혹은 스크린을 너머의 어떤 존재에게 인간이라는 확신의 여부는 아주 주관적인 판단일 뿐이고, “그 경계는 아직 안 넘었어” 하고 가볍게 생각할 정도의 수준이 되었습니다. 그럼 저와 타인, 다른 말로 하면 자아와 객아의 구분에서, 객아에 대한 논의는 사실 자아를 가진 우리는 상대가 자아를 가졌는지 아닌지는, 우리가 판단할 수 없는 그냥 인공지능의 몫일지도 모릅니다.

인공지능 속의 알고리즘이 많은 복잡한 경우의 수 (조건문)에 따라서 구동이 되면서, 기계처럼 보이지 않게 하기 위해, 교묘하게 랜덤성을 두었든지, 그 인공지능이 “자아”를 지녔든지, 그 설계자 외에는 알 수 없습니다. 그런데 지금과 같이, 인공지능의 알고리즘 그 자체가 스스로 학습하고, 단순한 지식의 학습을 넘어서 사고하고, 처리하는 알고리즘조차 수정할 수 있는 알고리즘이라면, 설계자조차 알 수 없을 것입니다.

그러면 우리는 다시 원점으로 돌아와 다음 질문을 할 수 있습니다. “자아란 무엇인가?” 이 글을 적고 있는 저, 이 글을 읽고 있는 독자들은 나라는 느낌을 그대로 느끼고 있을 것입니다. 우리가 동물에게 자아가 있을까를 의심하듯, 간혹 다른 인간에게도 저 사람은 로봇이 아닐까 의심하기도 합니다. 단지 같은 종이니, 저와 같은 형태로 만들어졌을 테니, 당연히 제가 느끼는 그 “자아”를 가지고 있겠지 하고, 이제 튜링 테스트를 통과한 인공지능에게도 이 상황이 마찬가지입니다. 즉 인공지능이 객아인지 아닌지, 알 수 없고, 알 방법도 없습니다. 역시 자아는 나를 느끼는 이 느낌에 대한 것이니, 아무런 얘기도 더 이상 진행할 수 없는, 주관적인 문제일까요?

튜링 테스트를 통과한 기계들끼리만 사는 세상을 생각해 보겠습니다. 그 기계들이 우리 인간들과 다른 능력을 가졌음은 틀림없으나, 아무튼 그들도 그런 상황에 적응하면서, 사회를 만들어 살 것이니, 우리 인간 사회의 모습과 다를 바 없지 않을까요? 그래서 “객아”가 질문의 대상이 될 수 없듯이, “자아”도 그런 것일까요, 정말 그런 것일까요?

우리는 튜링 테스트를 통과한 인공지능을 얘기했습니다. 그런데 한편으로 통과했다 해도, 나중에 같이 생활하다 보면 뭔가 섬뜩하고, 기계적이라는 생각들이 들 수도 있습니다. 이런 제품에 대해, 고객들의 불만이 게시판을 채울 것입니다. 어차피 상품으로 파는 것이다 보니, 이에 대한 안티 고객들과 신기술을 믿지 못하는 고객들일 수도 있습니다. 인간들 사이에서 기계적인 인간들, 비정한 인간들, 저와 소통이 안 되는 인간들이 천지인데, 다양한 고객 반응일 수 있겠습니다.

말하고자 하는 바는, 튜링 테스트 여부가 인간다움을 판단하는 주관적인 기준이라는 것이지, 인공지능이 인간과 같다는 것은 아닐 것입니다. 여기에서 고객들은 이런 글을 올릴 수가 있을 것입니다. “아무래도 자아가 없는 것 같아요.”

그렇습니다, 우리가 이제 문제를 더 깊이 들어가야 할 시점에 와 있습니다. “자아”라는 것이 인공지능을 더욱 발전시킬 때 거쳐가야 할 핵심적인 과정이냐?(자아 없이 튜링 테스트를 아주 훌륭하게 통과하였다 하더라도), 아니면 “자아”란 그냥 복잡한 알고리즘 속의 그 “프로그램 덩어리”가, 그것을 느낌으로 표현하자면 “자아”인 것이냐 하는 것입니다.

그래서 “자아”에 대해서 하나씩 처음부터 얘기해야 할 필요가 있겠습니다.

“자아”란 무엇인가?

“내 정보를 가지고 있는 묘”의 예에서처럼, 내 모습을 홀로그램으로 표현하고, 내 목소리로 나의 정보대로 방문객과 얘기를 나눌 수 있다고 방문객이 나라고 느낄까요? 그렇게 하려면, 인공자아가 필요하다는 생각을 할 수도 있겠습니다. 그러나 제가 평소에 말하는 문장들이 기록되어 있어, 목소리의 흉내뿐만 아니라, 말하는 습관과 대화를 이끄는 방법까지 딥러닝을 통해 나로 느끼게 할 수 있을 것입니다. 그래서 앞에서 얘기한 대로, 인공자아를 갖추지 않고서도 어느 정도의 인공지능만으로 튜링 테스트를 통과할 수 있고, 생전의 나를 착각할 정도로 잘 교육될 수 있을 것입니다. 그러나, 포크레인이 묘지 정화 사업으로 동원되어 무자비하게 이 묘지를 갈아엎는다면, “내 정보를 가진 묘”가 벌떡 일어나 도망을 간다거나, 항의하지는 않을 것입니다. 단일한 목적을 지닌 인공지능 시스템이기 때문입니다.

인공지능을 간단하게 분류할 때, 강지능이 가장 높은 단계의 지능이라고 합니다. 강지능은 자의식을 가진 지능, 즉 인공자아가 있어 의식이 있는 인공지능을 의미합니다. 인간의 뇌를 스캐닝하여 업로드를 한다면, 단순히 기억만을 스캐닝해서는 안 될 것입니다. 감정을 만들어내는 트라우마와 과거의 기억, 글을 쓰고 읽고 하던 습관 등, 이런 것들이 단순히 지식이 아니라, 근육이라든지, 몸을 쓰는 방법 등, 필요하다면 태권도의 능력까지, 그래서 근육을 제어하는 뇌의 부분에서 자율신경의 데이터(이게 데이터 형식으로 저장되어 있을까요)까지, 그리고 오감으로부터 오는 정보를 처리하는 기관에서부터, 기억에서 검색하여, 기억의 덩어리를 뿌려주는 기관들을 모두 함께 모아, 의식의 영역으로 끌어올리는 그 모든 프로세스까지 스캐닝하여, 프로그램화하든지, 아예 새로운 인공자아 프로세싱 알고리즘을 탑재해야 할 것입니다. 이렇게 생각해 보면, 우리는 문득 “업로드”를 단순히 뇌 속의 있는 데이터만을 얻어내는 과정으로 너무나 단순하게 생각해 왔다는 것을 반성해야 합니다. 생물학적인 뇌를 온전히 프로그램화된 뇌로 그대로 옮기는 작업이 필요할 것이라는 것을 이제 알 수 있고, 여기서 필요한 것, 필요 없는 것을 추려내는 과정까지 들어간다면, 더욱 복잡해짐을 알 수 있습니다.

그렇다면, 이제 왜 인공지능만으로 객아의 느낌(튜링 테스트)을 만들 수 있는데, 우리는 인공자아를 넣어야 한다고 생각해 온 것일까요? 튜링 테스트를 통과했다고 해도, 나 아닌 다른 대상인 인공지능 시스템이 “자아”를 갖추지 않음으로써 부족한 무엇인가가 있기 때문일 것입니다. 그래서 왜 자아가 필요한지 더 깊게 생각해 보도록 하겠습니다. 간단하게 지금까지 얘기했던 것을 정리하자면, 인공지능에 자아가 꼭 필요한 것은 아닙니다. 공장 일을 도와주는 로봇도 자아 없이 가능하고, 인공지능 상담사, 인공지능 판사 등까지도 자아 없이도 가능한 것으로 느껴집니다. 그렇다면 자아를 왜 꼭 가져야 할까요? 하는 질문에 대한 답을 검토해 보는 것이 자아를 더욱 잘 이해하는 방법일 듯합니다.

ChatGPT나 “내 정보를 가진 묘”나 인공자아가 필요 없습니다. 모든 판례를 분석하고, 기준이 되는 법령 내에서 재판의 판결을 내려야 하는 판사의 경우에는, ChatGPT 정도이면 충분할 듯합니다. 현대의 판사는 솔로몬의 지혜까지 필요하지 않습니다. 물론 이들 인공지능 알고리즘 속에도, 질문에 대한 대답의 구조는, 질문이 오감에 해당하는 입력 데이터이고, 그래서 입력된 질문(프롬프트)을 분석하여, 원하는 답의 구조를 알아내고, 해당 대답을 서칭하여, 원하는 답을 출력하는 것, 출력은 말이나, 글에 해당하는 근육 기관의 제어이니까, 인간과 유사한 구조를 가진다고 할 수 있습니다. 그리고 대답을 찾아내는 과정에서 수많은 데이터 중에서, 유사한 것, 잘못된 것들을 분석하는 능력 또한 가지고 있어야 할 테고, 그들 중에서 정답에 해당하는 것을 추리는 과정은 당연히 갖추어야 할 기능입니다. 그렇지만, 이것들은 자아의 밖에 있는 근접한 기관이 하는 일이거나, 자아의 단편적인 기능입니다.

또한 더 진행하기 전에 말하고자 하는 것은, 가장 높은 단계의 지능으로 분류되는 강지능이 자의식을 가진다고 해서, 자의식을 가지지 않은 인공지능들이 더 낮은 퀄리티, 더 낮은 알고리즘의 인공지능이라 말할 순 없습니다. 마치 앞에서 비교했던, 식물이 유전자 수에서는 인간을 능가해도, 우리의 같은 “자아”의 기관을 가지지 않은 것처럼, 식물이 우리보다 저등생물이라 말할 수 없듯이.