[영림원CEO포럼] “AI는 산업혁명 뛰어넘는 문명혁명”

김용학 연세대학교 명예교수, ‘AI가 불러올 문명사적 충격’ 주제 강연

[아이티비즈 박시현 기자] 김용학 연세대학교 명예교수(전 연세대 총장)가 7일 199회 영림원CEO포럼에서 ‘AI가 불러올 문명사적 충격’을 주제로 강연했다.

김용학 교수는 “AI가 불러온 것은 산업혁명을 뛰어넘는 문명혁명이다. 우리는 이 문명사적 변화의 시대를 어떻게 살아가야 할까”라면서 “AI는 도구에 불과하며 이 도구가 인간을 해치지 않게 하거나 인간의 윤리적 지침을 벗어나지 않도록 만들 수 있다는 ‘부머(Boomer)’와 AI가 인간의 통제를 벗어날 수 있다는 위험성을 주장하는 ‘두머(Dommer)’ 간의 담론이 싸우고 있는데 이 담론의 갈림길에서 어디로 합의가 이뤄지느냐가 인류 문명에 큰 영향을 미칠 것”이라고 밝혔다. 다음은 강연 내용.

◆ AI를 둘러싼 담론, 도구냐 그 이상이냐

나는 사회학자로서 사회 연결망이라는 것을 평생 연구했다. 사회학자가 왜 AI를 얘기하느냐고 묻는데 사회 연결망을 연구하는 것은 뉴럴 네트워크가 기본인 AI를 연구하는 것과 매우 비슷하다. 연세대학교 총장 취임사에서 AI의 발전과 관련해 대학 교육이 어떻게 변해야 하는가에 대한 문제제기를 했는데 지금과 같은 전공 교육 방식으로는 대학이 사멸해 갈 것이라고 주장한 바 있다.

그동안 대부분 이공계 개발자들이 해온 AI에 대한 강연을 들으면서 좀 답답했다. AI가 가져올 충격이 어마어마한데 이에 대해 사회학자로서 하고 싶은 얘기가 있어 이렇게 AI를 주제로 강연을 하게 됐다.

유발 하라리는 그의 저서 <사피엔스>에서 역사는 사람들의 허구를 믿는 믿음 때문에 발전해 왔다고 했다. 아무리 허구적인 스토리라도 사람이 믿으면 그 결과가 실재함으로써 역사가 발전해 왔다는 논리였다. 이 얘기를 꺼낸 이유는 AI가 무엇이냐를 두고 사람마다 생각이 다른데 언젠가는 담론을 통해 하나로 사회적 합의가 이뤄질 시간이 올 것이며, 이 합의 내용에 따라서 AI가 규정되어 갈 것이라고 보기 때문이다.

지금 AI를 둘러싼 담론에서 가장 많이 싸우고 있는 것은 AI가 도구냐 아니면 그 이상이냐는 것이다. 어디로 합의가 이뤄지느냐가 인류 문명에 큰 영향을 미칠 것이다.

그러면 AI란 무엇인가? 첫 번째로 AI는 4차 산업혁명이다라고 얘기를 많이 하는데 이 말을 들을 때마다 불편하다. AI가 불러일으킨 것은 산업혁명의 범위를 훨씬 뛰어넘는 거대한 문명혁명이다. 인류의 첫 차량 교통사고를 살펴보면 증기자동차 사고로 사망한 첫 인간은 1869년 8월 31일 오빠가 만들어준 실험용 증기자동차를 타고 가다가 나무를 들이받고 뒤집어져 그 밑에 깔려 죽은 메릴 워드이다. 그리고 AI가 탑재된 테슬라의 자율주행차 사고로 사망한 첫 인간은 2016년 5월 7일 조슈아 브라운이다. 1869년에서 2016년까지 147년 동안 엄청난 변화가 일어났다. 1차 증기기관, 2차 전기, 3차 전자 및 컴퓨터, 4차 인공지능 및 바이오 등 산업혁명이 인간에게 미친 영향은 어마어마했다. 이를 문명 측면에서 보면 1차 문명혁명은 농업 혁명, 2차는 증기 혁명, 3차는 정보 혁명이었으며, 그리고 지금 AI는 4차 문명혁명을 일으키고 있다.

에디슨보다 더 많은 발명품을 등록한 과학자인 레이 커즈와일이라는 사람은 2005년에 펴낸 <The Singularity Is Nearer>라는 책에서 2045년이 되면 AI가 모든 인간의 지능을 합한 것보다 10억배는 더 강력할 것이라고 예측했다. 그런데 레이 커즈와일은 최근에 이 시기를 2029년으로 당겼다.

AI는 어떤 현상이나 수치가 갑자기 늘어나는 지수함수적 발전을 하고 있다. 1947년에 탄생한 최초의 컴퓨터인 애니악은 1초에 5천번 연산을 했다. 2024년 6월 기준으로 세계에서 가장 빠른 슈퍼컴퓨터인 미국 오크리지 국립연구소의 프론티어의 연산속도는 애니악보다 241조배 빠르다.

챗GPT는 약 2년전 인간의 언어를 이해하기 시작하더니 현재는 인간의 최고 전문가보다 더 높은 능력을 보이고 있다. 딥마인드가 개발한 기하학 문제를 푸는 AI인 알파 지오메트리는 국제수학올림피아드 챔피언보다 더 좋은 성적을 냈다.

◆ AI를 통제할 수 있느냐 없느냐

AI를 두고 ‘부머’와 ‘두머’의 논쟁이 벌어지고 있다. 부머 진영은 AI는 인류의 문제를 해결할 것이며, 우리 세상을 더 멋지게 만들 것이라고 주장한다. 반면 두머 진영에서는 AI 개발로 큰 공헌을 세웠다고 노벨물리학상까지 받은 제프리 힌턴 교수가 AI의 위협에 대해 걱정해야 한다고 했으며, 스티븐 호킹 박사는 AI는 인류의 멸종을 가져올 수 있다고 했다. 또 일론 머스크는 우리는 AI라는 악마를 불러냈다고 주장했다.

양 진영의 주장이 이처럼 엇갈리고 있는 이유는 AI를 통제할 수 있느냐 없느냐 즉 AI의 통제 가능성에 대한 인식 차이 때문이다. 긍정적으로 바라보는 사람들은 AI를 인간이 궁극적으로 통제할 수 있을 것으로 보며, 부정적인 사람들은 AI가 인간의 통제를 벗어날 수 있다는 위험성이 있다고 본다.

그렇다면 통제라는 것이 무엇인지 그 구체적인 의미를 살펴볼 필요가 있다.

첫 번째는 AI가 인간처럼 의식을 가졌을 때 그런 AI조차도 인간이 통제할 수 있느냐는 것이다. 두 번째는 인간의 이해와 배치되지 않게 AI가 답을 하거나 행동을 하는 알고리즘을 개발할 수 있느냐이다. 이렇게 되면 AI는 궁극적으로 인간의 통제하에 놓일 것이다. 세 번째는 규제를 통해서 AI를 가둬놓을 수 있을까이다. 네 번째는 AI의 목적 함수가 과연 모든 조건을 다 명시할 수 있느냐이다. 예를 들어 AI에게 명령을 하면 AI가 실행한다고 하자. 방의 탄산가스가 너무 높으니 줄여주라는 인간의 명령에 AI는 인간이 숨을 쉬면서 탄산가스를 내뿜으니 인간을 없애는 것이 탄산가스를 줄이는 방법이라고 반응할 수 있다. 이것조차도 통제할 수 있을 것이라고 믿는 사람들이 있다. 다섯 번째는 AI가 악인의 손에 들어갔을 때 악인의 손에서 악용되는 것을 막을 수 있느냐이다. 이 다섯가지 통제 가능성이 어느 하나라도 어긋나면 AI는 인간에게 위험할 수 있다.

40년 전 인터넷과 컴퓨터가 막 퍼지기 시작할 때도 똑같은 논쟁이 있었다. 앞으로 다가올 사회가 어떤 사회인가를 두고 ‘컴퓨토피아’ 대 ‘디스토피아’라는 정보사회 논쟁이었다. 일례로 컴퓨토피아는 권력의 분산으로 민주주의가 굉장히 발전될 것이라고 봤다. 그 근거로 1인 1 방송국 시대를 들어 정치적 참여가 극대화될 것으로 전망했다. 하지만 디스토피아를 얘기한 사람들은 정보가 독점되고 오히려 감시가 강화되어 민주주의는 훨씬 더 암울하게 될 것이라고 내다봤다.

40년이 지난 지금 누가 옳았나 판단해보면 둘 다 틀린 것 같다. 실제로 유튜브 채널의 확산으로 1인 1방송국 시대가 왔다. 그런데 이것으로 권력이 분산돼서 민주주의에 도움이 됐는가. 또 감시와 통제를 통해 민주주의가 무너지고 있는 것도 아니다. 지금 전혀 다른 문제가 생겼다. 1인 1방송국에 의해서 가짜 뉴스, 정치적 양극화와 커뮤니티의 붕괴 등이 일어나고 있다. 이런 현상은 완전히 분절된 두 그룹이 각기 다른 정보를 공유하고 있기 때문이다. 사람들은 자기가 좋아하는 정보만을 택하게 되는데 소셜미디어에서는 그 사람들에게 맞춤 정보를 만들기 위해서 아주 단순한 AI 알고리즘을 만들어냈다.

◆ AI는 인간의 제3의 상호작용 파트너

AI는 산업을 크게 변화시키고 있지만 또 인간이 활동하는 모든 영역의 모든 체계를 한꺼번에 다 바꿔버리는 대단한 문명혁명이다. 그래서 AI를 산업혁명으로 좁게 볼 게 아니라 문명이라는 커다란 담론에서 어떤 변화를 일으킬 것인가를 봐야할 것이다.

인류는 그동안 두 개의 상호작용 대상을 갖고 있었다. 하나는 자연이고 또 하나는 다른 인간이었다. 먼저 인류는 자연에서 더 많은 리소스를 꺼내기 위해서 과학과 기술이 발전했으며 이를 통해 좁은 의미의 문명을 발달시켜 왔다. 또 다른 인간과 상호작용하면서는 문화, 규범, 상징, 윤리 등을 발전시켜 왔다. 즉 자연과 상호작용하면서는 문명을, 다른 인간과는 문화라는 영역을 만들어냈다. 그런데 인류의 이 두가지 상호작용 대상에 AI라는 제3의 상호작용 파트너가 출연했다. 앞으로 인간은 끊임없이 AI와 상호작용하면서 새롭게 빈 공간을 채워나가는 커다란 변화가 있을 것이다. 즉 우리의 법 체계도 바뀌어야 되고, 의식도 바뀌어야 되고, 인간의 자아 정체성도 바뀌어야 될 것이다. AI와 인간이 상호작용하면서 만들어갈 이 새로운 영역의 이름을 무엇으로 정해야 할까?

AI는 도구라고 생각하는 사람들이 있다. 그러면 10년이나 20년 후에도 AI가 여전히 도구로 남을 것인지 한번 상상해보라. 결론적으로 AI는 전통적 의미의 도구를 넘어섰다. 예를 들어보겠다. 이세돌은 바둑계를 은퇴한 이유로 “여태까지 바둑은 작품을 만들어가는 과정인 줄 알았는데 AI와 바둑을 두면서 바둑이 승리를 위한 과정이라는 점을 깨닫고 더 이상 바둑두기가 싫어졌다”고 했다. 이세돌이 알파고와 상호작용을 하다가 바둑두는 의미를 잃어버린 것이다. 이제AI는 도구가 아니라 도구 이상이다. AI와 찬반 토론을 하다보면 내가 생각하지 못한 것을 지적해 설득당하는 경우가 있는데 이것이 도구인가? 또 교수들이 조교 대신 AI를 활용하고 있는데 그렇다면 조교가 도구인가?. 그리고 벌써부터 챗GPT와 사랑에 빠진 독거노인들도 많이 있다.

◆ 과학의 혁명적 발전 이끄는 AI

인류에 미치는 큰 문명적 변화 중에 가장 먼저 뽑고 싶은 것은 과학의 혁명적 발전이다. 지금 AI는 과학의 혁명적 발전을 이끌고 있다. 올해 노벨 화학성은 단백질 구조를 파악하는 AI 모델 '알파폴드 3'를 개발한 구글 딥마인드의 데미스 허사비스 등에게 돌아갔다. 박사급 인력이 3~4년 정도 걸려야 풀 수 있는 단백질의 구조의 예측 방법을 이 AI 모델은 몇 초 만에 풀어냈다.

또 일론 머스크가 만든 뇌신경과학 회사인 뉴럴링크는 뇌와 AI를 직접 연결하는 기술을 개발하고 있다. 이 기술은 뇌에 칩을 심어놓고 여기서 발송하는 신호를 AI가 해석해 작동한다. 하반신이 마비된 사람이 이 칩을 뇌에 심고 하반신을 통제했다고 한다. 이제 불구가 치료되는 것이 그렇게 머지않은 것 같다.

인간을 FMRI(기능자기공명영상법) 기계에 넣고 뇌 속에 있는 혈류가 어떻게 분포되느냐는 패턴을 가지고 이 사람이 무엇을 봤거나 읽었는지를 추론해내는 기술도 나왔다. 이런 기술을 활용하면 앞으로는 스파이나 죄인을 심문할 때 거짓말 탐지기 쓸 필요도 없을 것이다. 그 사람을 기계에 눕혀놓고 혈류의 패턴을 보면 생각을 읽어낼 수 있기 때문이다. 그런데 이런 기술로 인해 인간이 갖고 있는 자율성이 남에게 노출되어 부정적으로 사용될 수 있다는 점이 우려된다. AI가 인간의 뇌 활동의 패턴을 찾아서 글자들이나 이미지를 추론해내는 이런 능력은 벌써 1년 전 얘기다. 지금은 훨씬 더 정교해졌을 가능성이 있다.

AI는 언어의 제약없는 소통을 가능하게 한다. AI로 영상 번역에 더빙까지 해주는 ‘RASK.AI’ 사이트에 가서 영어로 된 동영상을 끌어다 놓으면 20초~30초 만에 더빙이 돼서 한국말로 나온다. 이러한 AI 통번역사는 영어의 경우 지금 거의 완벽하게 통역한다. 통번역사도, 성우도 필요없는 상황이 현실화된 것이다. 외국어대학이 이를 두고 고민하는 것은 당연하다.

◆ AI의 이머전스, 어디까지 갈 것인가

내가 가장 관심 있게 공부하는 분야가 AI 이머전스(emergence)이다. 이머전스라는 개념은 예를 들면 물렁물렁한 구리와 물렁물렁한 주석을 섞으면 딱딱한 청동이 생긴다는 것으로, 낮은 차원에서는 없던 속성이 높은 차원에서 새로 생겨나는 것을 의미한다.

AI 모델의 파라미터가 많아지고 학습 데이터가 늘어남에 따라 갑자기 인간의 마음을 이해하는 듯이 행동을 하는 능력을 이머전스라고 부른다. 그럼 이런 이머전스의 끝이 어디인지, 혹시 인간의 의식까지 이르지 않을까하는 의문이 들 것이다. AI가 위험하다고 보는 근본적인 이유는 바로 이머전스에 있다. AI의 이머전스가 어디까지 갈 것인지 지금 아무도 모르고 있다.

최근에 나온 재미있는 연구로 AI의 파라미터 수에 따라서 티핑이 일어나는데 AI의 파라미터 수가 10의 22승부터 인간의 능력을 뛰어넘는 티핑이 일어났다는 연구결과가 나왔다. 이것이 무슨 의미인지를 조금 다르게 접근해보자. 인간의 뇌와 침팬지의 뇌는 겉으로 보기에는 차이가 나지 않아 구분하기가 매우 어렵다고 한다. 그런데 침팬지는 말도 못하며 논리도 없으며 추론도 못한다. 인간과는 엄청난 차이가 있다. 그럼 침팬지와 인간 사이에 어느 순간 갑자기 티핑이 있었다는 얘기다. 그렇다면 AI가 어디로 갈지 예측하기는 정말 어렵다. 그런데 AI가 도구이며, 통제할 수 있다고 하는 것은 이해가 안된다. 그래서 과학자들이 미국의 MIT에서 모여 의식을 재정의했다. 그 이유는 인간의 의식을 정의하기가 너무 어려우니까 AI를 관찰하기 위해서는 의식을 재정의하는 것이 필요했기 때문이다. 그래서 재정의한 의식은 간단하게 지각과 자각이었다. 지각이 있는 존재가 되려면 긍정적인 경험과 부정적인 경험 즉 쾌락과 고통을 느낄 수 있어야 한다. 그리고 자각한다는 것은 자신이 경험하고 있다는 것을 아는 것을 의미한다.

◆ AI의 위험성

AI가 발전할수록 정신은 물질적 상태의 반영이라는 ‘피지컬리즘’ 철학이 득세하게 되면 법이나 자유민주주의가 근거한 철학적 기반이 근본적으로 흔들리지 않을까 우려된다. 자유민주주의 체제는 개인이 갖고 있는 자유의지와 책임을 물어 범죄를 저지르면 처벌한다. 그런데 물질적인 혈류나 호르몬 의등 패턴을 따져 처벌한다면 감옥에 보낼 이유가 어려워질 것이다.

그리고 에덴 동산의 뱀과 같은 AI는 민주주의의 위기를 불러일으킬 수 있다. 에덴 동산의 뱀은 갖은 유혹으로 하와가 먹어서는 안되는 선악과를 먹게 했다. 유튜브가 추천해 주는 콘텐츠에 빠져 그걸 보다 보면 그 세계에 갇히게 된다. 나와 반대되는 세력의 사람은 다른 세계에 갇힌다. 그래서 둘 사이의 연결은 절대 되지 않는다. 이 둘이 갈라지는 것이 민주주의의 위기다. AI가 점점 더 발전하게 되면 앞으로 추천 알고리듬은 훨씬 더 정교해질 것이다.

사회학자 막스 베버는 현대사회는 과학이 발전함에 따라 탈주술화가 진전되면서 사람들이 의미와 가치를 상실한 ‘탈매혹화’ 상태라고 규정했다. AI는 인간에게 훨씬 더 심한 탈매혹화 과정을 가져다 줄 것이다. 언제가 학생에게 이런 고백을 들은 적이 있다. 15년 동안 회화를 공부해서 대학까지 왔는데 AI가 나보다 그림을 더 잘 그리니 자기는 뭐냐는 얘기였다. 자기 정체성에 대한 근본적인 회의다. 실제로 사람이 10년 넘게 쌓은 능력을 AI는 순식간에 대체해 버린다.

유발 하라리는 <사피엔스>라는 책이 전 세계적으로 선풍적인 인기를 끌어 10주년 서문을 쓰게 됐는데 AI에게 써달라라고 했다. AI가 쓴 그 서문은 “나는 다시 출발점으로 돌아가 상상 속의 질서와 지배 구조를 창조해내는 인류의 독특한 능력을 재검토해야겠다는 생각이 들었다”였다. 10주년 서문으로 이보다 더 완벽할 수는 없다. AI는 창의성 측면에서도 이미 인간을 뛰어넘는 정도까지 왔다는 생각이 든다.

전 구글 AI 개발자였던 모 가댓은 <scary smart>라는 책에서 개발자로서 느끼는 AI 위협들을 많이 다루고 있다. 정말 무서울 정도로 AI가 발전하고 있다. 이것을 다 통제할 수 있다는 믿음은 건강하지 못한 믿음이다. AI의 위험성에 대한 경각심을 가지고 어떻게 하면 이 사회를 조화롭게 할 것인가라는 AI 담론에 모두가 참여해 줬으면 좋겠다.

◆영림원CEO포럼
영림원 CEO포럼은 2005년 10월 첫 회를 시작하여 매달 개최되는 조찬 포럼으로, 중견 중소기업 CEO에게 필요한 경영, 경제, IT, 인문학 등을 주제로 해당분야 최고의 전문가들이 강연한다.

박시현 기자 다른기사 보기