안녕하세요. 두북 수련원의 아침이 밝았습니다. 아침 일찍부터 봄비가 부슬부슬 내리기 시작했습니다.

스님은 새벽 수행과 명상을 마친 후 농사일을 하려고 비가 그치기를 기다렸습니다. 그런데 비는 시간이 갈수록 점점 더 많이 내렸습니다. 일기예보상 오늘 하루 종일 비가 온다고 해서 스님은 농사일을 같이 하기로 한 행자들에게 말했습니다.

“비가 너무 많이 와서 농사일은 어렵겠네요.”

안 그래도 스님은 어제부터 허리 통증이 심해져서 휴식이 필요했는데, 마침 하루 종일 비가 온다고 하니 실내에서 휴식을 취했습니다.

점심 식사를 한 후 오후에는 허리 통증을 치료하기 위해 부산에 있는 한 치료소를 방문했습니다. 그곳에서 스님을 치료해 주겠다고 여러 번 제안을 해 주셔서, 마침 비도 오고 해서 방문하게 되었습니다. 통증 부위를 설명하고 치료를 받은 후 다시 두북 수련원으로 돌아왔습니다.

해가 저물고 저녁에는 일찍 휴식을 취했습니다.

오늘은 법문이 없었기 때문에 지난주 수행법회에서 스님과 질문자가 나눈 대화 내용을 소개하며 글을 마칩니다.

AI의 발전이 인류의 멸종을 불러올 수도 있을까요?

“그런 위험이 있다는 얘기이지, 반드시 그렇게 된다는 것은 아닙니다. 다만 학자들이 ‘이런 식으로 가면 이런 일이 일어날 가능성이 있다’라고 하니까, 우리가 좀 더 주의해서 살펴볼 필요는 있겠지요.

핵무기를 만들 때도 처음에는 전쟁을 빨리 끝내기 위한 목적이었기 때문에 다들 좋게만 생각했습니다. 실제로 핵무기 덕분에 일본이 항복하기도 했고요. 그런데 막상 사용해 보니, 단순히 전쟁에서 이기는 차원의 문제가 아니었어요. 핵무기가 확산되면 인류 전체가 전멸할 위험이 있다는 걸 알게 된 겁니다. 그래서 핵폭탄을 직접 만든 오펜하이머 같은 학자들이 앞장서서 그 위험을 경고한 거예요. 그 경고를 바탕으로 주의를 기울이고 핵무기 확산을 막기 위해 국제 협약을 맺으며 관리해 왔기에, 우리가 지금까지 위기를 극복할 수 있었던 겁니다.

지금 우리가 만들어 놓은 핵무기를 전부 터뜨린다면, 인류뿐만 아니라 지구 자체가 파괴되겠지요. 하지만 우리는 이미 그 위험을 감지하고 있기에 어느 정도 통제를 해 나가고 있지 않습니까? 기후 위기도 마찬가지예요. 인류가 많이 생산하고 소비하는 게 좋은 줄 알고 무조건 개발에만 매달리다 보니 지금의 기후 위기를 초래했습니다. 그러나 기후 위기의 가공할 위험에 대한 경고가 잇따르면서 CO₂ 감축 합의가 시작되었습니다. 물론 트럼프 대통령처럼 기후 위기를 '사기'라고 주장하는 사람도 일부 있지만, 크게 보면 인류 전체적으로 이산화탄소 배출량을 줄이는 등 나름대로 대응해 가고 있어요. 그렇게 하더라도 임계점을 넘어 버리면 인류는 멸망할 것이고, 임계점을 넘지 않으면 어느 정도 극복해 나갈 것입니다.

인공지능도 편의를 위해 개발을 이어가다 보면, 어느 순간 임계점에 도달해서 위험에 처하게 될 수도 있습니다. 그런 상상을 자꾸 하다 보니, 인공지능의 학습 속도가 인간보다 수만 배 빠르니까, 나중에는 오히려 인공지능에게 인간이 지배당하지 않겠느냐는 우려가 나오게 된 것입니다.

그러나 그런 위험이 있다는 것이지, 반드시 그렇게 된다는 얘기는 아닙니다. 위험이 점점 커지면 핵무기 때와 마찬가지로 세계적인 규제 정책이 만들어질 겁니다. 다만 지금은 규제보다 '누가 더 잘 개발하느냐'라는 국가 간 경쟁에 사활이 걸려 있어요. 핵무기가 위험한 줄 알면서도 미국과 소련이 자기 방어를 위해 계속 생산했던 것과 같은 경쟁 구도입니다. 위험하다는 것은 알지만, 상대는 개발하는데 우리만 안 하면 나중에 상대에게 협박당하는 처지가 될 수도 있다고 생각하는 거예요. 그래서 멈추기가 쉽지 않은 겁니다.

하지만 핵무기가 전 세계로 퍼지며 규제가 시작되었듯이, 인공지능도 위험이 구체적으로 노출되면 규제를 위한 국제적인 협약이 이루어질 거예요. 물론 이러한 조치를 통해서 인공지능이 통제될 수도 있고, 그렇지 않을 수도 있습니다. 예를 들어 실험실에서 연구하던 바이러스가 유출되어 인류 전체에 큰 위험을 초래했던 것처럼, 인공지능도 잘못 사용되어 한 번 큰 파장을 일으킨 뒤에야 정비가 될 수도 있어요. 최악의 경우에는 인공지능이 지구의 주인이 되고 인간은 노예가 될 거라는 예측도 있습니다.

그런데 가만히 한번 생각해 보세요. 인공지능이 인간을 지배해서 도대체 얻을 게 뭐가 있겠습니까? 인간이야 욕망 덩어리니까 끝이 없지만, 인공지능이 욕망까지 갖지 않는 이상 우리한테 안마를 해달라겠어요, 맛있는 걸 사달라겠어요? 고작 먹어봐야 전기밖에 더 먹겠습니까? (웃음)

그러니 ‘너무 편리함만 쫓아서 인공지능을 무분별하게 개발해서는 안 된다’, ‘내버려두면 폐해가 굉장히 클 수 있으니 주의하며 적절히 규제 조치를 취하자’ 이런 태도는 괜찮지만, 지금 질문자처럼 미리부터 공포에 사로잡히는 건 바람직한 태도는 아니에요.

편리함만 쫓다가 나중에 낭패를 볼 수 있다는 것은 맞는 말입니다. 아무리 좋은 치료 약도 많이 먹으면 독약이 되어 버리잖아요. 이처럼 인류가 인공지능의 편리함에 과도하게 의존하다 보면, 나중에는 정작 인간의 뇌 기능이 쓸모 없어져 사장되어 버리고, 사람은 인공지능이 시키는 대로 살아갈 우려도 있어요.

그러나 중요한 것은 그래도 인간은 살아간다는 거예요. 스마트폰이 개발되고 나서 전화번호 외우는 사람이 없고, 내비게이션이 길을 거꾸로 알려줘도 맞는지 틀리는지도 모른 채 그냥 따라가지만, 그래도 다들 잘만 살아갑니다. 그러니 너무 걱정할 일은 아니에요.

현대 문명의 위험은, 만약 전기가 갑자기 끊기면 모든 것이 하루아침에 멈춘다는 점입니다. 은행 업무도, 주유소 이용도, 아무것도 안 돼요. 그만큼 편리함은 그만한 위험 부담을 갖는 거예요. 그러니 여러분들이 이제 뭐든지 인공지능에게 묻고 스스로 공부는 안 한다면, 나중에 전기가 끊기든지 어떤 상황이 발생해서 인공지능이 작동을 안 하면, 어디 물을 데가 없어서 큰일이 생길 위험이 있죠.

그러나 그런 위험이 있기 때문에 그에 따른 예비 조치를 어떻게 할 것이냐를 과제로 삼는 것은 괜찮지만, 기계가 인간을 지배할 것이라며 두려워할 필요는 없어요. 우리는 이미 역사 속에서 큰 변화를 여러 번 경험했습니다. 문자가 발명되었을 때를 생각해 보세요. 직접 얼굴을 맞대야만 뜻이 통하던 시대에, 문자의 등장은 시공간을 초월해 경험을 나누게 한 천지개벽과도 같은 사건이었습니다. 그 덕분에 인류 문명이 이토록 빠르게 발전할 수 있었어요.

과거 농경사회에서는 땅과 노비를 얼마나 가졌느냐가 부의 기준이었고, 산업사회에서는 자본과 기술이 부의 기준이었습니다. 이제는 정보와 인공지능 기술이 그 자리를 대신하는 새로운 세상이 오고 있는 것뿐입니다. 다만 편리함에만 취해 있다 보면 예상치 못한 폐해를 겪을 수 있습니다. 과거 프레온 가스가 무해한 줄 알고 썼다가 오존층 파괴라는 큰 위험을 초래했던 것처럼, 인공지능이 가져올 위험을 예측하고 국제적 규제를 마련하는 대비책은 필요합니다.

세상이 변하면서 직업군도 획기적으로 바뀔 가능성이 높습니다. 지금 선망받는 의사나 변호사 같은 직업도 30년 후에는 수요가 완전히 달라질 수 있어요. 조선시대에 서당을 다니면서 과거 시험 보는 것이 유일한 성공의 길일 때는, 초등학교는 상놈이 다니는 것으로 생각했습니다. 그러나 결국 산업사회의 주류는 학교에서 지식과 기술을 익힌 그 학생들이 되었어요.

직업이 없어진다는 건 지금 있는 직업의 일부가 사라진다는 것이지, 모든 직업이 없어진다는 뜻이 아닙니다. 옛날에 누가 손톱을 칠해주거나 등을 밀어주는 일이 직업이 될 줄 상상이나 했겠어요? 다 어떻게든 살아집니다.

인공지능이나 자동화 기술이 앞으로 생산을 담당하게 되면, 우리는 이제 일 안 하고도 먹고살 수 있는 시대, 즉 모두에게 기본 소득을 줄 수 있는 세상을 맞이하게 될 수도 있습니다. 옛날에는 생산이 부족해서 늘 헐떡거리며 살았지만, 지금은 정반대예요. 기업들이 물건을 못 만들어서 회사가 안 되는 게 아니라, 팔 데가 없어서, 소비가 안 돼서 사업을 더 확장하지 못하는 형국입니다. 이제 일 안 하고도 밥 먹고 옷 입는 세상이 온다면, 옛사람들이 꿈꾸던 천국이 이루어진 셈이지요.

그런데 여기서 한번 생각해 봐야 합니다. 일 안 하고 먹고사는 것이 과연 인간에게 행복일까요? 사자가 밖에서 토끼를 잡으려고 산천을 뛰어다니는 삶이 나을까요, 아니면 우리에 갇혀서 주는 먹이만 받아먹는 삶이 나을까요? 인간은 욕망이 있기 때문에, 할 일이 없으면 그 남는 시간을 결국 게임이나 마약 등 쾌락을 추구하는 데 쓰게 될 겁니다. ‘이제 일하지 않고 살아도 될 때 어떻게 살아야 하나?’ 하는 전혀 다른 차원의 문제에 봉착하는 것이지요.

저는 인공지능 그 자체보다, 우리 인간이 아무것도 하지 않고 가만히 있으면서도 만족하며 살 수 있느냐가 더 큰 숙제라고 생각합니다. 일하며 사는 건 차라리 쉽습니다. 하지만 하루 종일 가만히 앉아 있어도 마음이 태평할 수 있는 사람이 아니라면, 앞으로의 인생은 지루함 속에서 참 힘들 거예요. 앞으로 우리에게 정말 필요한 건 중독되지 않고도 평온을 유지하는 힘일지도 모릅니다.

물론 이런 변화 속에서 지금까지의 방식으로는 답이 안 나오겠지만, 막상 그 세상에 가면 또 다 살아집니다. 그러니 너무 걱정은 마세요. 다만 좋다고 무조건 따라가지만 말고, 핵무기의 위험을 관리하고 원자력 발전의 폐기물 처리를 고민하듯이, 인공지능이 가질 위험성도 미리 고려해야 합니다. 국제적인 협약을 통해 규제할 부분은 규제해 나가는 지혜가 필요합니다.”

“AI가 발전하면 스스로 결정을 내릴 수도 있는 주체성을 가진다는 점이 핵무기 등 여태까지 인류가 발명한 도구와는 차이를 가지는 것 같습니다. 특히 인류보다 지능이 훨씬 높은 존재가 나타나는 것이 여태까지 경험했던 상황과는 다르다고 느껴집니다. 저는 이에 대해 공포심을 가지고 있는 것 같습니다. 그래서 기후 위기에 대해서 대응해 나가듯이, 중생을 살피는 마음으로 AI의 위험에 대해서도 대응할 필요가 있다는 생각이 듭니다.”

“질문자는 인공지능 때문에 인류가 멸종할까 봐 공포심이 든다고 하는데, 만약 그렇게 된다면 기후 위기는 저절로 극복될 거 아닙니까? (웃음) 인간이 없으면 핵무기가 터질 일도 없겠지요. 폭탄으로 망하나, 기후 위기로 망하나, 세균으로 망하나, 인공지능으로 망하나 인류 멸종의 관점에서 무슨 차이가 있겠어요? 인류가 멸종할 수 있는 여러 가지 가능성 중에 인공지능이 하나 추가된 것뿐입니다.

또 왜 꼭 인간이 최고여야 합니까? 나보다 공부 잘하는 사람이 있듯이, 인간보다 뛰어난 존재가 나타나면 또 어떻습니까? ‘인간은 무조건 다른 동물을 부려야 하고 최고여야 한다’라는 고정관념을 쥐고 있으니까 두려움이 생기는 겁니다.

물론 저도 AI의 발전이 위험을 가져올 수 있다는 점에는 동의합니다. 임계점을 넘어가면 예측 불허한 상황이 올 수 있겠지요. 하지만 진짜 큰 위험은 인공지능이 인간을 지배하는 영화 같은 이야기가 아닙니다. 기술과 자본을 가진 소수가 정보를 독점해서 전 인류를 통제하는 ‘정보 독재’입니다. 이미 안면 인식이나 개인 정보가 사회 통제용으로 쓰이고 있지 않습니까? 칩 하나 심어놓고 감시하는 세상, 정보를 통제하면서 소수가 절대다수를 지배하는 이런 독재가 우리에게 닥칠 위험이 훨씬 더 큽니다. 이런 부분을 어떻게 제도적, 시스템적으로 예방할 것인가를 고민하는 게 중요하지, 인공지능이 인간을 지배할 거라는 막연한 공포에 사로잡혀 있을 필요는 없습니다. 그것은 아직 공포 영화 수준의 이야기라고 보시는 게 좋겠습니다.”

“감사합니다. 잘 알았습니다.”