차례

자아는 지능이 아닙니다. 구글의 람다(LaMDA)가 의식이 있는 것 같다는 의미는?

아마도 람다가 튜링 테스트를 완벽히 통과했다는 것, 혹은 감정이나 성격 등을 보였다는 의미일 수 있을 것입니다. 그러나, 의식이 있다, 자의식이 있다는 것이 인공지능이 고도화되면 당연히 취득하는 능력이거나, 고도화되기 위해 필수적으로 검토되어야 하는 기능을 의미하지는 않는다고 생각합니다. 즉 “자아”는 다른 목적이 있는 지능과는 다릅니다. 비록 연관될 수밖에 없다 하더라도, 자아는 지능과 다른 그 무엇이기 때문입니다. 그 무엇이 무엇인가는 어렵지 않습니다. 저자가 글을 써 나가는 방식에서 느끼셨겠지만, 갑자기 추상적인 얘기를 하지는 않습니다. 우리가 충분히 생각할 수 있고, 가능한 추론할 수 있는, 이미 보편적인 상식에서 잘 알려진 얘기를, 많이 생각해서, 그중에서 타당할 것 같은 것을 가지고 얘기의 소재로 만들고, 얘기를 전개해 나가다 보면, 이런 생각들은 옳고, 기본적인 상식 중에서 우리가 받아들인 것이 좋은 선택이었다는 것, 혹은 잘못되었으면 다시 돌아가 다른 사색의 시발점으로 만드는 방식, 이게 저자가 글을 쓰는 방식입니다. 그러니 어려운 내용을 질문하지 않습니다. 이런 방식으로 대화를 해 나가다가 보면, 마침내 어느덧 깊은 얘기도 할 수 있고, 같아 보이던 것들을 구별해 내기도 하면서, 더욱 깊은 사별과 분별력을 가지게 될 것입니다. 그래서 원래 질문으로 돌아가면, 자아와 지능은 다르며, “자아”가 필요했던 그 목적은 “생존”일 것입니다.

생존에는 지능이 필요한 것은 당연하겠지만, 지능이 없다고 하등생물들이 멸종되지는 않았습니다. 우리의 주변의 그 수많은 생명체는 바이러스, 박테리아들이고, 이들은 우리와 공생하고 있습니다. 단지 이 지구라는 생태계 속에서, 각 개체가 살아가는 전략이 무엇인가가 중요할 뿐입니다. 생존을 위해 무엇이 필요한 것인가? 우리는 이 포스트들이 자아에 대한 얘기이므로, 동물에 국한해서 얘기할 것입니다. 우선 필요한 것을 나열하면, 생존하기 위해서는 주변을 관찰할 수 있어야 합니다. 먹을 것을 찾거나, 그리고 자신이 생존할 수 있는 환경을 찾거나, 자신을 먹으려는 적들로부터 도망가기 위해서, 꼭 필요한 기능입니다. 그리고 움직일 수 있어야, 다가가거나, 도망갈 수 있습니다. 그래서 감각기관이 당연히 필요하고, 움직일 수 있는 근육기관도 필요할 수밖에 없습니다. 컴퓨터로 치면 입력장치와 출력장치를 갖추어야 하는 것입니다. 그리고 꼭 입력되어야 하는 것, 자신의 개체를 보호하기 위해 꼭 필요한 것은 자신 몸의 항상성에 대한 정보입니다. 간단히 얘기하면, 춥다, 덥다, 배고프다와 같이, 숨이 가쁘다와 같이, 자신이 처한 환경에 대해, 몸의 반응을 지속적으로 체크해야 합니다. 이것이 “느낌”이거나 “감정”일 것입니다. 느낌과 감정은 단순히 몸의 상태만을 반영하는 것이 아닙니다. 맛있는 것을 보았을 때, 적을 만났을 때, 감정은 더욱 복잡한 것일 것입니다. 기억에 다분히 의존해서, 표출되는 바깥세상의 물체에 대한 감정까지도 뇌는 종합적인 감정으로 표현할 것입니다.

그래서, 바깥세상의 정보, 내 몸의 정보가 자아에게 입력되면, 그다음은 관찰을 해야 합니다. 만약 어떤 냄새가 난다면, 다른 정보보다는 그 냄새에 집중해야 합니다. “초점”을 맞추는 행위를 해야 함을 의미합니다. 제가 이제부터 구체적으로 설명하면서 “자아의 방”에서 일어나는 일로 설명해 드리겠습니다. “자아의 방”은 뇌 속의 어떤 기관일 가능성이 있지만, 제가 말하는 방이라는 단어 등이 실제적인 그 기관에 대한 비유적인 설명일 뿐이라는 것을 충분히 인지해 주시기 바랍니다. 아무튼 이제 이 자아의 방에는 저자가 이 글을 쓰듯이, 여러 모니터가 있고, 아마도 오감을 위해 5개의 모니터, 그리고 “느낌”을 위해 별도의 모니터가 있을 것입니다. 저는 각 모니터를 초점 없이 그저 바라만 보고 있을 때가 있습니다. 모든 모니터를 다 보는 것 같지만, 하나에도 집중하지 않은 상태로 말입니다. 그리고 멍하니, 뇌로부터 들어오는 생각에 잠길 수 있을 것입니다. 이들 생각도 생각의 뭉치이기도 하지만, 각각의 생각 사이에 연관되기 위해서는, 하나의 생각에 집중해야 하는데, 그렇지 않으면, 흐릿하게 그 생각들도 연결되지 않는 단편적인 생각들이 순차적으로 흘러갈 것입니다. 중간중간 무념의 상태도 있을 것입니다. 아마도 잠에 들기 직전처럼 말입니다. 이러다가 시각 모니터에 무엇인가 감지되면, 저는 그 모니터에 집중해서 “초점”을 맞춥니다. 그리고 그것의 실체가 무엇인지 파악하려 하면, 생각의 뭉치로 뇌는 저의 노력에 대답합니다. 그리고 실체가 파악되는 과정은 몇 초간일 수 있지만, 아주 집중되어 뇌는 엄청난 관련된 기억들을 찾아내면서, 뇌의 대부분이 이 일에 참여하여, 제가 그 실체를 파악하는 데 전력을 다할 것입니다. 그리고 자아는 키보드를 치듯이, 일단 몸을 긴장하도록 합니다. 그리고 적으로 판단되면, 팔, 다리 근육에 명령하여, 시각을 도움으로 그 위치를 최대한 벗어나려고 뛰어가기 시작합니다. “저는 늑대를 만난 사슴이었습니다.”

그런데 자아는 어떻게 뇌에게 도망을 가도록 할까요? 뇌과학자들의 실제적인 해답이나 의견들이 있을 것이지만, “자아의 방”에서 자아가 실제적으로 근육의 운동까지는 아니더라도, 도망가라는 명령을 직접 내리는 것일까요? 우리는 도망갈 때, 어느 다리를 먼저 내밀어라고 명령하지 않습니다. 또한 수많은 다리 근육을 일일이 알지도 못해서, 뛰기 위해, 어느 근육에게 어떤 순으로 명령을 내려야 할지 생각조차 못합니다. 그러니, 우리가, 즉 자아가 직접 근육에게 명령을 내리는 것은 아닐 것입니다. 그러니까, 이런 일들은 뇌의 자율신경에 관련된 일련의 뇌 기관이 할 일이고, 선장처럼, “후진해”, “전속력으로 항해해”와 같은 명령에 관련을 가지고 있는 주체는 “자아”임이 틀림없습니다. 단지 의심해야 하는 것은, 이런 명령을 자아가 실제가 시키는 것일까요, 아님 자아는 단지 “자아의 방”에 비춰진 여러 모니터의 내용과 일련의 생각들 속에서, 하나의 생각, 하나의 감각에 집중하는 초점 맞추기의 기능만 할 뿐일까요, 아직 정확히 파악할 수는 없을 것 같습니다. 하지만 이런 것조차, 별로 중요하지 않거나, 얘기하다 보면 이게 옳을 것 같아 하는 판단을 내릴 때도 올 것입니다. 우리의 사색이 점점 깊어진다면…

그래서 여기서 자아의 필요성에 대해서 정리해 보면, 생존에 있습니다. 생존을 위해서는 우선 “개체성”이 존재해야 합니다. 즉 생존의 단위가 필요하다는 얘기입니다. 우리가 접속해서 질문을 하고, 도움을 받은 인공지능은 사실 하나의 거대한 네트워크된 컴퓨터 시스템입니다. 동시에 수천만 명이 접속하지만, 제가 접속하는 순간, 하나의 프로그램 단위로 보면, 쓰레드 프로그램(독립적인 하나의 일관된 일을 처리하기 위한 프로그램의 단위), 혹은 섹션이 열립니다. 이것을 우리는 자아라고 불러야 하나요? 우리가 이것을 구별하자고 지금까지 얘기를 해 나가고 있었습니다. 이것은 자아가 아닙니다. 자아일지도, 자아일 필요가 없다는 것입니다. ChatGPT 4.0의 한 섹션에서 앞에서 얘기했던 것들을 문맥과 내용을 그대로 반영하고 있다고 해도, 자아까지 구축할 필요가 없다는 말입니다. 그래서 전체의 거대한 네트워크 컴퓨터 시스템도 자아를 가지고 있지 않습니다. 빅브라더가 아니라는 것입니다. 구글이 이 시점에서 만들었다는 대화형 인공지능 람다도 인공자아를 가지지 않았습니다. 즉 “의식”이 없습니다. 의식을 가진 것처럼 보일 수는 있겠습니다.

우리의 개체성은 우리의 벌거벗은 몸이 사실 외부세계와 나와의 경계입니다. 그런데 사실 그게 다는 아닙니다. 옷, 시계, 신발 모두 나의 개체성안에 포함됩니다. 뇌는 그렇게 인식합니다. 왜냐하면, 뇌는 우리가 착용하고 있는 시계를 통해, 세상의 시간 개념을 확인하는 도구로 사용하기 때문입니다. 내 몸의 한계를 확장하기 위해서입니다. 사실 이런 내용이 추상적으로 느껴질 수 있지만, 앞에서 얘기했듯이, 우리의 개체성은 내 몸에 국한되지 않는다는 것은, 우리 인류가 저장장치를 외부에 둔 유일한 (아주 적극적으로 사용한 유일한 존재) 동물이라는 것입니다. 그래서 그것을 통해, 문명을 일으켰습니다. 그래서 우리가 우리의 기록이 담겨있는 노트북이나, 귀중한 자료가 담겨있는 메모리를 분실하면, 마치 내 몸의 일부가 손실된 것과 같은 고통을 느낍니다. 더욱 명확히 설명하자면, 이렇습니다. 우리 몸의 팔, 다리는 우리 몸의 일부이지만, 그것을 다루는, 혹은 그것은 입력 정보, 제어 명령을 위한 기관은 뇌 속에 있습니다. 뇌 속의 그 부분이 파괴되면, 팔, 다리가 성하다해도 전혀 움직일 수 없습니다. 물론 재활 훈련을 하게 되면, 뇌의 다른 부위에서 다시 팔, 다리에 대한 조절할 수 있는 기능이 생겨, 다시 걸어다닐 수 있게 됩니다. 물론 이렇게 확장하다 보면, 우리 뇌 속에는 우리의 우주 전체를 담고 있다고 말할 수 있습니다. 우리가 나의 몸에 대한 활동의 결과를 뇌에 담듯이, 세상에 대한 관찰하고, 피드백하는 모든 경험들과 태도들이 그대로 뇌에 담깁니다. 그래서 앞에서 얘기했던 옷, 시계, 신발들도 모두 뇌의 어느 부분에 나의 팔, 다리처럼 자연스럽게 나의 일부가 되도록 이들이 담겨져 있습니다. 그래서 우리는 너무나 자연스럽게 외연을 확장하며 이들을 사용하고 있는 겁니다. 그래서 조금 양보하는 입장에서, 즉 협의적인 의미에서, 우리 몸, 그리고 도구처럼 사용하는 우리 주변의 저장장치들, 이들이 우리가 활동하는 우리의 개체성을 주는 나의 그것입니다.

그래서 우리는 우리의 몸, 개체를 보호하기 위해 움직일 수 있습니다. 거꾸로 얘기하면, 우리가 동물이기 때문에 뇌가 필요한 것입니다. 멍게가 평소에는 동물로서 움직이다가, 말기에는 뇌를 먹어치우고, 식물화되는 것에 대한 얘기를 들은 바 있을 것입니다. 뇌는 자기가 움직일 수 있고, 그래서 주변의 정보를 통해, 어떤 감각에, 생각에 초점을 맞추고 행동하기 위해 필요한 것입니다. 인공지능은 이런 면에서, 식물과 같습니다. 거대한 서버의 구조로 세상에 대한 많은 정보를 가공하여, 신경망으로 구축해 있더라도, 쓰레드를 통해 접속하는 클라이언트들과 소통하는 것은, 자아로서가 아니라, 서비스 포트에 불과한 것입니다. 또한 자아를 갖출 필요조차 없습니다.