채만수 | 편집위원

지난 3월 28일 ≪한겨레≫에는 흥미로운 두 편의 글이 실렸다. 딘 베이커 미국 경제정책연구센터 공동소장의 “로봇의 시대: 헛다리 짚는 경제 전문가들”과 구본권 사람과 디지털연구소장의 “‘인공지능 마법’에서 풀려나야 미래 나의 길이 보인다 ― ‘알파고 충격’이 불러온 미래직업 불안”이 그것들이다. 무언가 조금만 색다른 일이라도 있을 양이면 냄비에 죽 끓듯 싸구려 호들갑을 떨곤 하는 언론이 4ㆍ13 총선죽을 끓이러 가기 전에 끓인 알파고ㆍ인공지능죽의 끝물 정도 되는 글들이다.

“헛다리”와 “마법”이야말로 알파고-이세돌의 바둑 대결을 보면서 호들갑을 떤 지식인들의 행태와 정신세계를 관통하는 것이어서 화두로 삼았지만, 누구 못지않게 헛다리를 짚고 누구 못지않게 어떤 마법에 걸려 있는 것은 딘 베이커 미국 경제정책연구센터 공동소장이나 구본권 사람과 디지털연구소장 역시 마찬가지이다. 이들 두 지식인이 어떤 마법에 사로잡혀 어떻게 헛다리를 짚었는가를 보기 전에 우선 알파고ㆍ인공지능죽이 어떻게 끓었는가를 보자.

‘인공지능’의 컴퓨터 알파고에 일류기사 이세돌이 연패하는 걸 본 많은 지식인들이 이 시대 지식인다운 공포에 사로잡혀 황당무계하다 못해 해괴한 말들까지 마구 토해냈는데, 그 내용은 대략 몇 가지로 나눌 수 있다. ‘현생인류 소멸 – 신인류 혹은 호모 사이보그 출현’론, 기계의 인간 지배론, 인공지능의 윤리학론, 일자리 소멸(대비)론, 눈 감고 아웅론, 등등. 물론 많은 경우 횡설수설 여러 내용이 뒤엉켜 있다.

‘현생인류 소멸 – 신인류 혹은 호모 사이보그 출현’론

가장 황당하고 해괴한 얘기는 ‘현생인류 소멸 – 신인류 혹은 호모 사이보그 출현론’인바, 이세돌이 알파고에 2연패 당하자 천하의 ≪조선일보≫는 역시 발도 빠르게 3월 12일에 “‘2100년이면 현생 인류 사라질 것 … 알파고가 그 신호탄’, [인간 對 인공지능 두뇌전쟁] 베스트셀러 ‘사피엔스’에서 인류 미래 예언한 유발 하라리 인터뷰”라는 기사를 내보낸다. 그 내용을 보자면,

21세기는 인간이 현생 인류를 일컫는 ‘호모 사피엔스’로서 살아가는 마지막 세기가 될… [것인바], 이스라엘 히브리대 사학과 교수 유발 하라리(40)는 … “인공지능 알파고가 ‘인간이 우위를 지키는 절대 영역’으로 여겨진 바둑에서 인간 최강 이세돌 9단을 꺾은 것이 신호탄”이라며 “이제 인간은 유일하게 타고난 두 능력, 즉 육체와 지능 면에서 모두 기계에 뒤처졌으며 조만간 쓸모없는 존재로 전락할 수 있다”고 말했다. … [아니,] “인간이 적응할 시간을 주지 않고 기술이 너무 빨리 진보하고 있”[어] … 인공지능의 현실적 위협이 가장 먼저 구직 시장에서 나타날 것[인바] … “당장 대다수의 인간이 이번 생애 구직 시장에서 기계의 도전에 직면할 것”이…며 “30년 안에 지금 존재하는 직업의 50%가 사라질 것”이라고 말했다. 하라리에 따르면 21세기 전반에 무인자동차가 상용화돼 택시ㆍ버스 운전사들이 필요 없게 되고, 의학ㆍ나노 기술의 발전으로 질병이 완전 정복돼 의사란 직업도 사라진다. 고용 구조가 어떻게 변할지 예측할 수 없어 “오늘날 태어나는 아이들에게 교육과 직업훈련이란 사실상 무의미하다”고 하라리는 말했다. 그는 “2050년엔 70억 명이 ‘밥만 축내는 존재’로 전락할 가능성이 높은데, 이 많은 과잉 인력을 어떻게 활용할 수 있을지 현대 경제학은 답해줄 수 없다”면서 “이런 위협은 더 이상 소설이 아니라 ‘매우 현실적(very real)’”이라고 말했다.¹⁾

“2050년엔 70억 명이 ‘밥만 축내는 존재’로 전락할 가능성이 높은데, 이 많은 과잉 인력을 어떻게 활용할 수 있을지 현대 경제학은 답해줄 수 없다”? 이 천박한 부르주아 석학의 눈에는 부르주아 경제학만이 보일 것이니, 이렇게 얘기하는 것은 당연하다!

“현대 경제학은 답해줄 수 없”는 이 난문제에 대해서 그러면 이 석학, “이스라엘 ‘젊은 과학자 아카데미’ 회원”께서는 어떤 답을 해주시나?

그에 의하면, “21세기 후반에 인류는 혁명에 휘말릴 것”인데, 그 혁명이란, “그동안” “수없이 벌어졌”던 것과 같은 “국가ㆍ사회를 대상으로 한 인간 주도의 혁명”이 아니라, “이번엔 혁명의 대상이 ‘인류’ 자체로 바뀐다”²⁾는 것이다. 좀 더 들어보자면,

하라리는 “단도직입적으로 말하자면 2100년 이전에 현생 인류는 사라질 것”이…[며,] 인공지능에 밀려 무용지물로 전락한 인간들이 약점을 보완하기 위해 기계와 결합을 선택할 것으로 예상했다. 새 인류는 더 이상 호모 사피엔스가 아닐뿐더러, “생물학적 한계를 뛰어넘은 신(神)적 존재”가 될 것이라고 … 기계가 인간의 영역을 차지한 이상 인간은 기계와 함께 신의 영역으로 넘어가는 길로 나아간다는 것이다. 하라리는 “21세기 후반의 신인류는 생명을 창조하고, 정신을 통해 가상ㆍ증강현실에 접속하며, 신체를 계속 재생해 사실상 불멸에 이른다”며 “아마 2100년에 가장 활발히 거래되는 상품은 다른 무엇도 아닌 건강한 뇌, 피, 신체기관이 될 것”이란…다. 소름 끼치는 소리 같지만 그는 “태고부터 인류의 긴 역사를 보면 현세대는 이미 사회성과 지각 능력 등 ‘인간성’의 주요 특징을 상당 부분 상실했다”며 이런 전망을 자신했다.³⁾

“신체를 계속 재생해 사실상 불멸에 이른” “생물학적 한계를 뛰어넘은 신(神)적 존재”! ― 영생에의 욕심 때문에 무한 권력을 한껏 발휘한다는 게 기껏 불로초ㆍ불사약을 찾아오랬다는 저 순진한 진시황은 모름지기 시대를 잘못 태어났음을 한탄해야 할 것이다! 그런데, “아마 2100년에 가장 활발히 거래되는 상품은 다른 무엇도 아닌 건강한 뇌, 피, 신체기관이 될 것”이라니! 오늘날에도 인간의 장기(臟器)가 사고 팔리긴 하지만, 그것은 이 가혹한 신자유주의 사회에서조차 어디까지나 암시장에서 은밀히 거래된다. 그런데 2100년에는 “다른 무엇도 아닌 건강한 뇌, 피, 신체기관이”, 즉 인간의 신체기관 일반이 “가장 활발히 거래되는 상품”, 그리하여 당연히 공공연하고 합법적으로 “가장 활발히 거래되는 상품”이 될 것이라니! 이것이 바로 “생물학적 한계를 뛰어넘은 신(神)적 존재”가 된 신인류의 “소름 끼치는” 세계이다!

그런데 사실은 “소름 끼치는” 것은 그러한 세계가 아니다. 왜냐하면, 아무리 ‘인공지능’이 발달해도 그러한 세계는 저 부르주아 석학, “이스라엘 ‘젊은 과학자 아카데미’ 회원” 같은 천하 또라이들의 대가리 속에 밖에는 결코 존재하지 않을 것이기 때문이다. 소름끼치는 것은 2100년, 그러니까 22세기에도 시장이, 즉 자본주의가 살아 있을 것이라는 저들의 사고(思考) 바로 그것이다. 아무튼, 기왕 들어왔으니, 아예 마저 다 들어보자.

‘호모 사이보그’가 된다 해도 인간이 인간성을 잃지 않으려면 어떻게 해야 할까. 하라리는 “지금부터 ‘마음’에 대한 연구를 강화해야 한다”고 했다. “신체ㆍ인지 능력이 초(超)인간이 되더라도 ‘마음’을 유지한다면 기계와는 확연히 다른, 지금처럼 따뜻한 감성을 가진 존재가 될 것입니다. 우리 몸과 뇌 연구에 천문학적 비용을 투자하는 것처럼 마음의 연구에도 공을 들여야 합니다.” 인간이 끝까지 인간다움을 간직할 수 있는 비결은 ‘마음’에 있다는 것이다.⁴⁾

“‘호모 사이보그’가 된다 해도”, 즉 “신체ㆍ인지 능력이 초(超)인간이 되더라도” “‘마음’에 대한 연구를 강화”하여 “‘마음’을 유지한다면 기계와는 확연히 다른, 지금처럼 따뜻한 감성을 가진 존재가 될 것”이다. 그리하여 “2100년에 가장 활발히 거래되는 상품은 다른 무엇도 아닌 건강한 뇌, 피, 신체기관이 될 것”이다. ― 이것이 바로 저들 또라이들의 결론적 합창이다!

그런데, 앞에서 저 석학께서 “2050년엔 70억 명이 ‘밥만 축내는 존재’로 전락할 가능성이 높은데, 이 많은 과잉 인력을 어떻게 활용할 수 있을지 현대 경제학은 답해줄 수 없다”고 말씀하신 것을 상기하자. 그리고 그 “현대 경제학은 답해줄 수 없다”는 난문제에 대한 그의 답은 “단도직입적으로 말하자면 2100년 이전에 현생 인류는 사라질 것”이…[며,] 인공지능에 밀려 무용지물로 전락한 인간들이 약점을 보완하기 위해 기계와 결합을 선택할 것이라고 한 것도 상기하자. 그러면 무언가 수상하지 않은가?

“아마 2100년에 가장 활발히 거래되는 상품은 다른 무엇도 아닌 건강한 뇌, 피, 신체기관이 될 것” 운운하는 것을 보면, 그 사회는 분명 자본주의 사회요, 더구나 “건강한 뇌, 피, 신체기관이” “가장 활발히 거래되는 상품”이 되는 자본주의 사회이면, 그렇게 신체기관을 팔지 않으면 안 되는 극빈한 인간들이 득시글거리는 자본주의 사회일 터이다. 그런데 저 “인공지능에 밀려 무용지물로 전락한 인간들”이 그러한 극빈자들, 즉 뇌, 피, 신체기관을 팔지 않을 수 없는 극빈자들이 아니라면, 다른 누가 극빈자들이겠는가? 그런데도 저 석학과 그 합창자 ≪조선일보≫는 그 “인공지능에 밀려 무용지물로 전락한 인간들이 약점을 보완하기 위해 기계와 결합을 선택할 것”이라고 능청을 떨고 있다. “인공지능에 밀려 무용지물로 전락한 인간들”이, 그러한 극빈자들이 도대체 무슨 돈이 있어 기계와 결합할 수 있을 것이며, 그들이 기계와 결합할 수 있다면, 누가 있어 ““건강한 뇌, 피, 신체기관”을 판단 말인가?

그리하여 “현대 경제학은 답해줄 수 없”는 저 난문제에 대한 저들의 대답, 저들의 망상은 다음과 같은 것이다. ― 극소수의 지배 부르주아지는 “생명을 창조하고, 정신을 통해 가상ㆍ증강현실에 접속하며, 신체를 계속 재생해 사실상 불멸에 이른” “생물학적 한계를 뛰어넘은 신(神)적 존재”가 될 것이며, “인공지능에 밀려 무용지물로 전락한” 수십억 프롤레타리아트는 “건강한 뇌, 피, 신체기관”을 파는 ‘신인류’가 될 것이다! 그것이 바로 “인공지능에 밀려 무용지물로 전락”할 “밥만 축내는 존재”, “2050년엔” 이미 “70억 명”이나 될 “이 많은 과잉 인력”의, 저들의 “활용” 방안인 것이다!

그런데 이렇게 황당무계하고 해괴망측한 ‘현생인류 소멸 – 신인류 혹은 호모 사이보그 출현’론은 극우로 호가 난 ≪조선일보≫류의 사고만은 아니다. 그것은 일부 언필칭 진보언론의, 따라서 일부 진보적 지식인들의 사고이기도 하다. 예를 들어 보자.

한국 밖의 컴퓨터공학자들 사이에서는 인간이 기계와 융합하거나 기계에 밀려나는 세상이 올 거라는 이야기가 꽤 오래전부터 나오고 있다. 그렇다고 이들이 모두 인간의 미래를 어둡게 보는 것은 아니다. 기계의 시대가 되면 인간은 필요 없는 존재가 되어 사라진다는 전망도 있지만, 인간과 기계가 융합하면 인간 능력이 슈퍼컴퓨터 수준 이상으로 향상되고 나노기술까지 가세하면 수명이 무한대로 늘어나는 세상이 온다든가, 인간이 기계에 밀려 사라지더라도 멸망하는 것이 아니라 인간이 낳은 기계라는 후손을 통해서 계속 이어진다는 전망이 더 우세하다.

이에 대해 한국의 과학자들은 대부분 그런 날이 오지 않는다든가, 아직 멀었다고 하지만 정보통신기술과 인공지능의 발달추세를 보면 그렇지 않을 것 같다.⁵⁾

위에서 본 이스라엘의 석학 유발 하라리 교수의 헛소리와 사실상 판박이다. 다른 예도 하나 더 보자.

미래학자 레이 커즈와일 예언 ‘특이점이 온다’

“특이점이 온다.” 마치 노스트라다무스의 예언처럼 들리는 이 말을 한 주인공은 미래학자 레이 커즈와일(1948~)이다.

그가 언급한 특이점은 ‘기술이 인간을 넘어 새로운 문명을 낳는 시점’을 뜻한다. 생물학적인 인간의 조건을 뛰어넘도록 만드는 과학기술의 발전이 ‘신인류’의 도래를 낳을 것이라는 말이다.

그 중심에는 알파고를 통해 세간의 이목을 끈 인공지능(AI)이 있다.

…

책 ‘특이점이 온다’를 통해 커즈와일은 유전공학, 나노기술, 로봇공학ㆍ인공지능을 뜻하는 ‘GNR’ 혁명이 단계적으로 펼쳐지면 인류의 문명은 생물학을 넘어서는 순간을 맞이할 것으로 보고 있다.

유전공학을 통해 생물학의 원리를 파악하고, 나노기술을 통해 그 원리들을 자유자재로 조작하게 되면 이미 인간은 물질적으로 신이나 다름없는 존재가 된다는 것이다. 여기에 쐐기를 박는 것이 강력한 인공지능이다.

결국 인간의 지적 수준에 맞먹는 인공지능이 등장하면 그로부터 인간을 넘어서는 인공지능이 등장하는 건 순식간이라는 말이다. 이에 따라 문명은 생물학적 인간들의 손아귀를 벗어날 수밖에 없다는 것이 이 책을 통해 커즈와일이 펼치는 논조다.⁶⁾

“최근 프로바둑기사 이세돌 9단과의 대국으로 전 세계에 이름을 알린 바둑 인공지능 프로그램 ‘알파고’를 개발한 구글의 임원진으로 이름을 올리고 있[는]”⁷⁾ 레이 커즈와일의 주장을 소개하는 형식을 취하고 있지만, 그 주장에 대한 비판적 언급은 한 마디도 없다. 결국 그 주장에 동의한다는 뜻이다.

‘CBS노컷뉴스’면, 개신교 쪽 기구이다. 그런데, ‘알파고의 충격’이 얼마나 컸던지, 그 기자도 독신적(瀆神的) 언사를 소리쳐 내뱉고 있다. ― “유전공학을 통해 생물학의 원리를 파악하고, 나노기술을 통해 그 원리들을 자유자재로 조작하게 되면 이미 인간은 물질적으로 신이나 다름없는 존재가 된다”! (다만, 독신의 중죄를 의식이라도 한 듯, 남의 말 전하듯이.)

기계ㆍ로봇의 인간 지배론과 인공지능의 윤리학론,

그리고 눈 감고 아웅론

인공지능 등이 발전하면 인간은 “신적 존재” 혹은 “신이나 다름없는 존재”가 된다는, 위에서 본 기상천외한 헛소리들은 말하자면 낙관론이다. 그런데 한편에서는 이 낙관론이 ‘기계ㆍ로봇에 의한 인간 지배’라는, 저 가슴 깊숙한 곳에 스멀거리는 공포에 맞서 애써 짜내는 위안이기도 하다면, 다른 한편에는 그러한 공포를 사실상 날것 그대로 드러내고 있는 지식인들도 있다. 몇몇 예를 들어보자.

이식 한국과학기술정보연구원 책임연구원은 “인공지능의 판단이 인간보다 뛰어나다는 믿음이 생기면, 그 분야는 인공지능으로 빠르게 대체될 것”이라면서 “집을 팔고 사거나 적합한 직장을 정하는 등의 현실적인 문제에서 인공지능이 제시한 답을 사람이 그대로 따르는 맹목적인 현상도 일어날 수 있다”고 말했다. 인공지능이 인간을 지배하는 것이나 마찬가지 상황이 벌어진다는 것이다.⁸⁾

서류 작성이나 계산 등 일정한 형식이나 틀로 이뤄진 정형적인 업무는 인공지능의 영향을 더 많이 받는다. 미국에서는 회계사와 세무사 등의 수요가 최근 몇 년 사이 8만 명 이상 줄었다.

시장조사업체 가트너는 2030년이면 최소한 300만 명 이상이 인공지능 상사 밑에서 일하게 될 것으로 예측했다. 김진형 카이스트 명예교수는 “인공지능이 중간 관리자로서 서류 작업과 인력 관리를 맡고, 사람에게는 현장에 나가 서류에 적힌 숫자가 맞는지 확인하는 육체적인 노동만 주어질 가능성도 높다”고 말했다.⁹⁾

결국 인간의 지적 수준에 맞먹는 인공지능이 등장하면 그로부터 인간을 넘어서는 인공지능이 등장하는 건 순식간이라는 말이다. 이에 따라 문명은 생물학적 인간들의 손아귀를 벗어날 수밖에 없다는 것이 이 책을 통해 커즈와일이 펼치는 논조다.¹⁰⁾

알파고가 이세돌을 이겼다. 인간, 그것도 최고의 경지에 이른 인간이 기계에 졌다는 사실에 많은 사람이 충격을 받았다. 인간이 기계에 밀려나는 세상이 오는 것 아니냐고 걱정하는 소리도 들린다. …

인간을 뛰어넘는 인공지능이 등장한 후 세상이 어떻게 변할지는 예측할 수 없다. 인간에게만 봉사하도록 윤리의식이 각인된 인공지능을 통해 인간의 삶이 획기적으로 좋아질지, 인간이 인공지능의 노예가 될지, 멸종 상태가 되어 인공지능의 자비로 보호종이 될지 알 수 없다고 해야 할 것이다. 이 모든 일이 100년이 지나기 전에 벌어질 수 있다는 것이 충격적으로 들릴지 모른다. 그러나 이게 피할 수 없는 일이라면 우리가 생각할 수 있는 것은 담담하게 받아들이는 것, 또는 그러려고 노력하는 것, 그리고 지금 이 시간을 더 의미있게 만드는 것 정도가 아닐까?¹¹⁾

지난 일주일 인공지능에 대해 ‘딥러닝’할 수밖에 없었던 우리는 저마다 복잡한 생각을 하며 세기의 대결을 지켜봤다. 생각하는 기계가 인간 바둑 최고수를 이긴 2016년 3월 9일, 우리는 영화 속 얘기라고 여겼던 인공지능 시대가 훨씬 전에 와 있었음을 깨닫고 당황했다. 피도 눈물도 없이 냉정하고 막강한 기계 전사에 맞서 고독하게 분투하는 인간 이세돌 9단의 투혼에 많은 이들이 감정이입하며 인류의 미래를 고민했다.

공상과학영화에서처럼 인간이 알아채지 못하는 사이에 엄청난 능력을 가진 인공지능이 자아를 가지게 되고 인간을 지배하는 상황은 아직은 한참 뒤 일이거나 쓸데없는 걱정일지 모른다. 하지만 인공지능은 이미 너무나 빠른 속도로 인간의 삶을 바꾸기 시작했다.¹²⁾ (강조는 인용자.)

컴퓨터는 이제 사람이 가르쳐주지 않아도 데이터로부터 학습해 프로그램을 만들어내는 능력이 생겼다. … 이번 알파고는 기보로부터 배운 능력과, 또 자기들끼리의 대국에서 스스로 깨우친 능력으로 대국에 임했다. 기계학습의 가공할 능력을 전 세계인이 같이 본 것이다. 개발자들도 … 놀랐다.

이쯤 되면 사람들은 로봇이 인간을 공격하는 공상과학영화를 연상하고 불안감을 느낄 것이다. 그러나 걱정할 필요는 없다. 인공지능은 지시하면 학습하고 사람의 지능을 따라하는 능력은 있으나 의지를 갖고 목표를 추구하지는 않는다. 충실한 하인이 글자를 깨쳐서 더욱 똑똑해졌다고 생각하면 된다. 자아의식이 있고, 사랑이나 증오 등의 감정을 느끼고, 스스로 의지를 불태우는 인공지능은 지금으로서는 가능하지 않다.¹³⁾ (강조는 인용자.)

미래의 인공지능과 관련해서는 공상과학(SF) 소설이나 영화 등에서는 다소 암울한 전망으로 그려낸 것들이 많다. 전문가들의 생각은 다소 갈리는데, 제임스 배럿은 <인류 최후의 발명품>이라는 책에서 현재의 인공지능 연구현황과 발전 가능성, 그리고 인간을 능가하는 시점과 후폭풍에 대해 상세하게 기술한 바 있다. 그는 인류에게 우호적인 인공지능이 일종의 자율성을 가지고 자신들을 전파하고 복제하는 첫 번째 시조가 되지 않는다면 정말로 인류를 넘어선 인공지능에 의해 인류가 멸망할 수도 있다고 경고했다.¹⁴⁾

작가인 아이작 아시모프는 1950년 로봇 공학의 3대 행동수칙을 발표했다.

… 이 수칙은 후에 ‘인간처럼 학습하고 생각하는 시스템’, 즉 인공지능(AI) 등의 노예(기계인간)가 주인(인류)을 파멸로 이끌 수도 있다는 우려를 반영했다. 막연한 공포심이 아니었다.

… 작가인 아이작 아시모프는 1950년 로봇 공학의 3대 행동수칙을 발표했다.

… 물론 그렇다고 인공지능이 자의식을 갖고 인류의 삶을 파멸로 이끌 수 있다는 우려는 아직 기우일 수 있다.¹⁵⁾ (강조는 인용자.)

기계의 인간 지배, 나아가 인류의 멸망까지를 걱정하는 이 뜨거운 인간애! 참으로, “영화를 너무 많이 본 탓이다”!¹⁶⁾

그러나 결코 두려워 말지니, “인류는 언제나 자기가 해결할 수 있는 과제만을 자기에게 제기한다”¹⁷⁾고 했겠다! 우리의 예언자들도 인공지능을 갖춘 기계ㆍ로봇이 인간을 지배하지 않도록, 인류를 멸망시키지 않도록 하는 ‘방략’을 제시하신다. 혹은, 인간이 “초(超)인간이 되더라도” “인간다움을 간직할 수 있는 비결”을 제시한다. 우선, 앞에서 보았지만, 이렇게.

‘호모 사이보그’가 된다 해도 인간이 인간성을 잃지 않으려면 어떻게 해야 할까. 하라리는 “지금부터 ‘마음’에 대한 연구를 강화해야 한다”고 했다. “신체ㆍ인지 능력이 초(超)인간이 되더라도 ‘마음’을 유지한다면 기계와는 확연히 다른, 지금처럼 따뜻한 감성을 가진 존재가 될 것입니다. 우리 몸과 뇌 연구에 천문학적 비용을 투자하는 것처럼 마음의 연구에도 공을 들여야 합니다.” 인간이 끝까지 인간다움을 간직할 수 있는 비결은 ‘마음’에 있다는 것이다.¹⁸⁾

혹은 이렇게.

인간이 인간답게 살려면 ‘알파고’가 아닌 ‘이세돌’로 돌아가야 한다. 첫걸음은 스스로, 그리고 집단이 ‘탐욕’을 제어하는 것에서부터 시작되어야 할 것이다.¹⁹⁾

그런데, 다른 건 다 그만두고라도 한 가지 의문. 알파고와의 대결은 과연 이세돌이 “‘탐욕’을 제어”한 것일까? 관계제위께 좀 미안한 발언이지만, ‘프로 스포츠맨’, ‘프로 기사’라는 게, 아무리 미화해도, 돈에 시쳇말로 올인하는 탐욕의 자본주의의 산물이요, 탐욕의 발로 아닌가? 여하튼, ‘마음’이 중요하단다!

그건 그렇고, 최대ㆍ최선의 ‘방략’은 역시, 다름 아니라, ‘인공지능의 윤리학’이다! 정신을 바짝 차려 새겨들어 보자.

앞서 커즈와일의 주장을 ‘전해’ 들었는데, 그에 이어 이렇게 얘기한다.

인공지능이 현실에 미칠 영향력 등을 연구하는 정지훈 경희사이버대 IT디자인융합학부 교수는 “커즈와일의 경우 인간이 로봇, 인공지능과 결합해 새로운 종으로 태어나야 한다고 본다”며 “인공지능이 인간에 우호적인 입장을 갖지 못하면 커즈와일의 생각도 실현 불가능하기에, 그도 이에 대해 생각하고 있을 것”이라고 전했다.

정 교수에 따르면 인공지능이 인간에게 우호적인 생각을 가질 수 있도록 학습하는 것은 매우 중요하다. 현재 흐름이라면 인공지능은 우리가 모르는 환경에서 어느 순간 자율성을 갖게 될 텐데, 이럴 경우 인공지능이 생존을 위해 스스로를 복제하면서 통제 불가능한 상황에 놓일 수 있다.

그 이전에 복제를 주도하게 될 최초의 씨앗과 같은 인공지능에게 인간에 대한 우호성을 심어 줘야 한다는 것이 그의 입장이다.²⁰⁾

“복제를 주도하게 될 최초의 씨앗과 같은 인공지능에게 인간에 대한 우호성을 심어 줘야 한다”? ― 자신의 형상을 본떠 인간을 창조했다니, 그 조물주 야훼=여호와가 자신의 피조물 인간에게 무한한 우호성을 넘어 무한한 사랑을 가졌을 것임은 논리적으로도 당연하고 또 수천 년 동안 그렇게 주장되어 오고 있기도 하다. 그런데 그 피조물 인간의, 모르면 모를까 태반은 그 조물주의 존재를 부정하고 있고, 또 나아가, 저들이 증언하고 있는 것처럼, “신적 존재”, “신과 다름없는 존재”가 되겠다고 덤벼들고 있다. 그런데 “복제를 주도하게 될 최초의 씨앗과 같은 인공지능에게 인간에 대한 우호성을 심어”주고 그 “씨앗과 같은 인공지능”이 복제해낸다고 해서 인공지능의 기계ㆍ로봇이 순순히 인간의 “통제 … 상황에 놓”여 있게 될까?

그건 그렇고, 그러면 어떻게 해서 저 “복제를 주도하게 될 최초의 씨앗과 같은 인공지능에게 인간에 대한 우호성을 심어” 줄 것인가?

“인공지능이 현실에 미칠 영향력 등을 연구하는 정지훈 경희사이버대 IT디자인융합학부 교수”님께서는 사계―斯界인지, 詐界 혹은 邪界인지 모르겠으되―의 석학 등을 두루 등장시키면서 이렇게 말씀하신다.

전문가… 제임스 배럿은 <인류 최후의 발명품>이라는 책에서 현재의 인공지능 연구현황과 발전 가능성, 그리고 인간을 능가하는 시점과 후폭풍에 대해 상세하게 기술한 바 있다. 그는 인류에게 우호적인 인공지능이 일종의 자율성을 가지고 자신들을 전파하고 복제하는 첫 번째 시조가 되지 않는다면 정말로 인류를 넘어선 인공지능에 의해 인류가 멸망할 수도 있다고 경고했다. … 시조가 되는 인공지능에게 처음부터 인류의 역사를 이해하고, 인류와 공감하며, 공생하려는 본능이 심어지도록 인공지능 연구자들이 많은 신경을 써야 한다고 강조했다.

<왜 로봇의 도덕인가>라는 책을 집필한 웬들 월럭과 콜린 앨런은 로봇과 인공지능이 자율성을 가지고 판단하고 움직일 때 어떻게 이들이 윤리적인 사고와 판단을 할 수 있게 할지에 대해 심도 있게 접근하였다. 웬들 월럭…[은] 2013년 세계미래학회에서 … 윤리적 로봇에 대한 핵심적인 질문을 던지면서 인간의 윤리에 대한 철학적인 접근과 함께, 도구적인 관점에서 이런 윤리를 어떻게 구현하게 할지에 초점을 맞춰 강연했다. …

인터넷을 탄생시키고 최근에는 재난로봇대회를 열기도 했던 미국 방위고등연구계획국(DARPA)은 이런 문제에 답을 하기 위해 로봇과 인공지능의 윤리와 관련한 다양한 연구를 활발하게 진행 중이다. 현재까지 전통적인 철학자들의 이론을 바탕으로 인공지능의 윤리를 구현하는 하향식 방법과 인간이 태어나 자라면서 익히듯이 윤리를 배워가는 상향식 방법으로 진행 중인데, 이들의 적절한 균형이 중요하다는 이야기가 나오고 있다. …

구글과 페이스북은 알파고를 개발한 딥마인드를 인수하기 위해 경쟁을 벌였다. 딥마인드의 창업자 데미스 하사비스는 구글이 인공지능의 윤리와 관련해서도 진지한 접근을 하는 것에 많은 점수를 주었다고 한다. 그는 자신과 자신의 팀을 통제할 수 있는 인공지능윤리위원회를 구글에 설치해 달라고 요구했고, 구글 창업자 래리 페이지는 이를 흔쾌히 받아들였다. 구글은 딥마인드에 최상의 인프라와 엄청난 기술지원, 데이터 등 표면적인 지원도 하지만, 인공지능의 윤리적인 문제에 대해서도 이미 높은 수준의 고민을 하고 있는 것이다.²¹⁾

이기환 ≪경향신문≫ 논설위원도 거들고 나섰다. 이렇게.

로봇(Robot)은 ‘노동’을 뜻하는 체코어 ‘robota’에서 유래했다. 1921년 체코의 극작가 카렐 차페크가 희곡 <R.U.R.(Rosuum’s Universial Robots)>에서 처음 썼다. 희곡은 인간의 감정이 없는 로봇이 반항심에 사로잡혀 자신의 창조주인 인간을 말살시키는 내용을 담았다. 작가인 아이작 아시모프는 1950년 로봇 공학의 3대 행동수칙을 발표했다.

‘①인간에게 해를 끼치거나 위험에 처한 인간을 방관해서는 안 되고, ②명령에 절대복종해야 하며, ③자기 자신을 보호해야 한다’는 것이다. 물론 로봇이 ①②번을 위반하면 ③번 수칙은 존재하지 않는다는 조건이 붙었다. 로봇 스스로 자위권을 행사할 수 있지만 어떤 조건에서도 인간의 명령에 따라야 한다는 단서조항을 내건 것이다. 이 수칙은 후에 ‘인간처럼 학습하고 생각하는 시스템’, 즉 인공지능(AI) 등의 노예(기계인간)가 주인(인류)을 파멸로 이끌 수도 있다는 우려를 반영했다. 막연한 공포심이 아니었다.

…

인공지능에 인간의 윤리와 도덕을 부여하는 윤리위원회를 빨리 소집해야 할 것 같다. 바둑 대국에서 보듯 인공지능은 인간의 예측보다 너무 빠른 속도로 발전하고 있다.²²⁾

이필렬 방송대ㆍ문화교양학부 교수님의 “다가온 인공지능 세상”이란 칼럼은, 짧은 글이지만, 그 내용의 풍부성으로 보나 그 다양성으로 보나 이번 알파고ㆍ인공지능 호들갑의 백화점이라고나 해야 할 것이다. 그런데 거기에서 교수님은, 앞에서 본 것처럼, “인간을 뛰어넘는 인공지능이 등장한 후 세상이 어떻게 변할지는 예측할 수 없”어, “인간에게만 봉사하도록 윤리의식이 각인된 인공지능을 통해 인간의 삶이 획기적으로 좋아질지, 인간이 인공지능의 노예가 될지, 멸종 상태가 되어 인공지능의 자비로 보호종이 될지 알 수 없다”고 말씀하신다. 하지만 그것은 분명 기우일 터! 왜냐하면, ‘인공지능 윤리학’에 의하면, 그리고 미국 방위고등연구계획국이나 구글 등 자본이 실제로 그 윤리학의 실천에 나서고 있는 점을 감안하면, 인류는 필시, 인간에게 적대적인 로봇 대신에, “윤리적 로봇”, “인간에게만 봉사하도록 윤리의식이 각인된 인공지능”을 갖게 될 것이기 때문이다.

그런데 세상엔 이런 사람 저런 사람이 있게 마련이어서, 사냥꾼에게 쫓기는 호주의 타조가 모래 속에 머리를 처박고, 조선의 꿩이 하얗게 쌓인 눈 속에 머리를 처박아 위기를 ‘해결’하듯이, 어떤 사람들은 눈감고 아웅 하는 식으로 문제를 해결하기도 한다. 전형적인 예 하나만 들어 보기로 하자.

불과 이틀 만에, 사람이 기계와 비교당하는 세상이 돼 버렸다. 사실 이미 예견된 일이다. …

왜 인간은 로봇을 개발했나? 아마도 세상을 통제하고 조종하고 싶은 욕망 때문일 것이다. 그런데 이제는 그 욕망의 식탁에서 인간은 자신의 자존심과 정체성까지 요리의 재료로 도마에 올려놓게 됐다. 알파고의 승승장구를 보면서 … 대부분의 사람들 마음속에는 불안감이 점점 똬리를 틀고 있다.

불교에서는 모든 것이 공(空)이라고 한다. 내가 누구인지 생각하면 할수록, 내가 왜 이러한 모습이 돼야 하는지 알 수 없으니 자아(自我)란 것이 공이요, 내가 왜 이렇게 살아야 하는지 생각하면 할수록, 그 이유를 모르겠으니 욕망 역시 공이다. 이 공의 세계에서는 나와 남의 구별도 없다고 하니 인간과 기계의 구별 자체가 무의미할지도 모른다. 하지만 해탈하지 못한 대다수의 사람들에게는 여전히 남과 비교될 수 없는 나만의 자아라는 것은 신성불가침의 영역이며 내가 존재할 수 있는 최소한의 정신적 근거다.

지금 벌어지고 있는 사람 대표와 기계 대표 간의 대결은 우리들이 갖고 있던 이런 자아관에 대해 알게 모르게 심각한 도전을 안겨주고 있다. 그것은 내 능력이, 내 정신적 특성이 기계와 비교되는 상황을 받아들일 준비가 돼 있는가이다. 더구나 그것이 기계보다 열등하다는 ‘판정’이 내려질 경우 그것을 받아들일 준비가 돼 있느냐는 것이다.

… 경쟁이란 상대를 닮아가는 것이다. 나와 동등하지 않은 존재와는 경쟁을 하지 않는다. … 인간이 이용하려고 만든 기계를 인간과 비교하는 순간, 인간은 기계처럼 기능적인 존재로 전락하고 말 것이다. 인간과 기계를 비교하지 마라. … 나는 지금 벌어지고 있는 대국이 더 이상 확대되지 않기를 바란다.²³⁾

과연 시인다운 심오한 사고다! 그러나 “인간과 기계를 비교하지 마라”? “나는 지금 벌어지고 있는 대국이 더 이상 확대되지 않기를 바란다”? ― 이건 실효성 있는 문제해결이 아니다. 박정희가 갑작스러운 피살로 발하지 못한 긴급조치 10호 같은 것을 발동해보아도 기계ㆍ로봇은 계속 발전하고 사람들은 계속 “인간과 기계를 비교”할 것이며, “지금 벌어지고 있는 대국”도 ―‘대국’ 그것이 인간과 기계ㆍ로봇 간의 ‘대결’ 일반의 은유인 한― “확대되지 않”을 수 없을 것이기 때문이다. 박정희의 그 살벌했던 긴급조치 1호에서 9호까지도 다까끼 마사오의 유신체제에 대한 도전ㆍ투쟁이 확대되는 것을 막지 못했던 것처럼.

타조나 꿩이 모래에, 눈 속에 머리를 처박는다고 해서 몰이꾼들로부터 목숨을 구하는 것이 아닌 것처럼, 눈 감고 아웅 한다고 해서, 즉 문제를 외면한다고 해서 거대하고 급속하게 밀려오는 ‘인공지능의 혁명’, 과학기술 혁명의 역사적 영향ㆍ충격을 비껴갈 수 있는 것이 아니다. 그리고, “인간과 기계를 비교”하고, “지금 벌어지고 있는 대국이 … 확대”된다고 해서, 인간이 “기계처럼 기능적인 존재로 전락하고” 마는 것도 아니다.

제기된 ‘일자리 소멸(대비)론’의 현실성과 현실 외면

그런데, 이번 알파고ㆍ이세돌의 바둑 대결을 보면서 문제를 눈 감고 아웅 하는 식으로 ‘해결’하고 있는 것은 단지 감성 풍부한 시인만이 아니다. 사실은 제도언론에 등장하여 이 문제를 다룬 교수들ㆍ평론가들ㆍ가지들, 한 마디로 논객들의 거의 모두가, 한편에서는 인공지능을 갖춘 기계ㆍ로봇에 의한 일자리의 소멸이라는 당장의 가장 현실적인 문제에서 논의를 출발하면서도, 동시에 다른 한편에서는 현실을 외면, 삼천포로 빠지고― (삼천포 주민 여러분, 미안합니다. 그저 관행적 수사(修辭)일 뿐입니다) ―으면서, 그러한 일탈이 문제의 해결이라고 믿고 있다.

예컨대, 21세기 말에는 인류가 “기계와 결합, 생물학적 한계를 넘어 신의 영역에” 들어갈 거라는 참으로 황당무계한 소리를 지껄이는 저 이스라엘의 석학 유발 하라리와 그 합창자 ≪조선일보≫조차 그 인터뷰를, 인공지능의 발달로 “현존하는 직업의 절반이 사라진다”는 문제의식하에 다음과 같이 말하는 것으로 시작하지 않았던가?

인공지능의 현실적 위협이 가장 먼저 구직 시장에서 나타날 것[인바] … “당장 대다수의 인간이 이번 생애 구직 시장에서 기계의 도전에 직면할 것”이…며 “30년 안에 지금 존재하는 직업의 50%가 사라질 것”이라고 말했다. 하라리에 따르면 21세기 전반에 무인자동차가 상용화돼 택시ㆍ버스 운전사들이 필요 없게 되고, 의학ㆍ나노 기술의 발전으로 질병이 완전 정복돼 의사란 직업도 사라진다. 고용 구조가 어떻게 변할지 예측할 수 없어 “오늘날 태어나는 아이들에게 교육과 직업훈련이란 사실상 무의미하다”고 하라리는 말했다. 그는 “2050년엔 70억 명이 ‘밥만 축내는 존재’로 전락할 가능성이 높은데, 이 많은 과잉 인력을 어떻게 활용할 수 있을지 현대 경제학은 답해줄 수 없다”면서 “이런 위협은 더 이상 소설이 아니라 ‘매우 현실적(very real)’”이라고 말했다.

그런데 그 ‘해결’이라는 게 기상천외하게도 ‘신인류’ㆍ싸이보그로의 변신과 ‘“신의 영역에”의 진입’ 아니었던가?!

이렇게 현실적으로 문제를 제기하고 나서 엉뚱한 데에서 ‘해결’을 구하는 것은 ‘인공지능’을 갖춘 기계의 인간 지배론을, 그에 대한 대책으로서 인공지능의 윤리학을 들고 나오는 논객들의 경우에도 마찬가지이다. 앞에서 보았던 이필렬 방송대ㆍ문화교양학부 교수님의 말씀을 다시 들어 보자면, 그는 “인간이 기계에 밀려나는 세상이 오는 것 아니냐고 걱정하는 소리도 들린다”거나 “사람들은 자기 일자리를 빼앗기는 건 아닌지 아주 현실적인 걱정을 한다”는 둥으로 문제를 제기하고 나서는, 교수님스럽게 이런저런 얘기를 늘어놓은 다음에, 앞에서 본 것처럼, 이렇게 얘기한다.

인간을 뛰어넘는 인공지능이 등장한 후 세상이 어떻게 변할지는 예측할 수 없다. 인간에게만 봉사하도록 윤리의식이 각인된 인공지능을 통해 인간의 삶이 획기적으로 좋아질지, 인간이 인공지능의 노예가 될지, 멸종 상태가 되어 인공지능의 자비로 보호종이 될지 알 수 없다고 해야 할 것이다. 이 모든 일이 100년이 지나기 전에 벌어질 수 있다는 것이 충격적으로 들릴지 모른다. 그러나 이게 피할 수 없는 일이라면 우리가 생각할 수 있는 것은 담담하게 받아들이는 것, 또는 그러려고 노력하는 것, 그리고 지금 이 시간을 더 의미 있게 만드는 것 정도가 아닐까?

“인간에게만 봉사하도록 윤리의식이 각인된 인공지능을 통해 인간의 삶이 획기적으로 좋아질지, 인간이 인공지능의 노예가 될지, 멸종 상태가 되어 인공지능의 자비로 보호종이 될지 알 수 없다”! ― 일자리 문제에서 시작된 문제의식이 이렇게 발전하게 되면, ‘인공지능 윤리학’은 자비로운 주인기계를 갈구하는 노예인간의 애처로운 몸부림인 셈이다. 게다가, “이게 피할 수 없는 일이라면 우리가 생각할 수 있는 것은 담담하게 받아들이는 것, 또는 그러려고 노력하는 것, 그리고 지금 이 시간을 더 의미 있게 만드는 것 정도가 아닐까?”? ― 이렇게 되면 “피할 수 없는” 절망이 강제하는 가히 달관의 경지, 유성식 시인의 표현을 빌자면, “당혹감, 허탈감, 약간의 좌절감, 모멸감”이 강제하는 “해탈”의 경지에 이르렀다고나 해야 할까?

인공지능을 갖춘 기계ㆍ로봇에 의한 일자리의 소멸 문제는, 예컨대, 딘 베이커 미국 경제정책연구센터 공동소장처럼, 문제의 존재 그 자체를 부정하지는 않는다 하더라도, 그 중대성ㆍ심각성을 부인하는,²⁴⁾ 그렇게 “헛다리 짚는” 사람도 없진 않지만, 대부분의 사람은 그것을 당장의 가장 현실적인 문제로 인식하고 있다. 그러면서 그에 대한 대비를 강조ㆍ예시ㆍ주문하고 있다.

그런데 그들이 예시하거나 주문하는 대책들이라는 게 여간 흥미로운 게 아니다. 어떤 것은 참으로 심오하며 근본적이고, 예컨대, 이렇게.

사람만이 할 수 있는 노동의 영역이 갈수록 줄어들게 되면 인간의 존엄성은 어디서 발견해야 할까. 인간의 손으로는 앞으로 뭘 해야 하는가. 알파고의 승리는 인간 존재에 대한 근원적 물음을 던지고 있다.²⁵⁾ (강조는 인용자.)

이렇게 되면, “인간 존재에 대한 근원적 물음”에 대한 대답, 그러한 대책을 주문하고 있는 것이 된다. 저 앞에서 보았던, 다음과 같은 방책은 그러한 근원적 대책의 하나일 것이다!

인간이 인간답게 살려면 ‘알파고’가 아닌 ‘이세돌’로 돌아가야 한다. 첫걸음은 스스로, 그리고 집단이 ‘탐욕’을 제어하는 것에서부터 시작되어야 할 것이다.²⁶⁾

어떤 것은 아주 실용적이다. 예컨대, 이렇게.

소프트웨어, 특히 인공지능은 우리 삶의 방식을 근본적으로 바꿀 것이다. 이 변화의 규모와 범위는 이전에 인류가 경험했던 것과는 비교가 안 될 정도로 깊고 광범위할 것이다. 소프트웨어가 광범위하게 사용돼 창조적 혁신이 일상적으로 일어나 풍요롭고, 해결책이 풍부해진다. 또한 많은 사회 기능이 소프트웨어에 의존한다. 이런 세상에서는 소프트웨어 능력이 개인, 기업, 국가의 경쟁력이 된다. 알파고의 승리는 우리가 이미 소프트웨어 중심의 사회에 와 있다는 것을 각인시켜 주었다.

인공지능이 확산되면 사람의 일자리가 없어질 것이라는 불안감이 퍼지고 있다. 우리나라도 10년에서 20년 사이에 지금 일자리의 63%가 없어지거나 직업의 내용이 바뀔 것이라는 연구 결과가 있다. 이에 대응하기 위해 무엇보다도 먼저 준비해야 할 것은 미래세대를 위한 교육이다.

지금과 같은 교육 내용과 방법으로는 미래세대를 육성할 수 없다. 이제는 과학기술을 이해하고, 소프트웨어를 직접 만들 수 있는 능력을 갖춰야 한다. 한 명의 천재가 만 명을 먹여 살린다. 지금 세계는 인재전쟁이고 교육전쟁 중이다. 다행히 우리나라도 2018년부터 초ㆍ중ㆍ고 정규교육에 소프트웨어를 포함하기로 했다. …²⁷⁾ (강조는 인용자.)

김진형 카이스트 명예교수님께서는 아주 실용적이게도 이렇게 ‘소프트웨어 교육’을 강조ㆍ주문하고 있다. “알파고의 승리”가 “우리가 이미 소프트웨어 중심의 사회에 와 있다는 것을 각인시켜” 주고 있는 한, 그러한 교육은 당연히 필요할 것이다.

그러나 그러한 “미래세대를 위한 교육” 자체는, “많은 사회 기능이 소프트웨어에 의존[하는] … 세상에서” “개인, 기업, 국가의 경쟁력”을 강화하는 대책은 될지언정, “인공지능이 확산되면 사람의 일자리가 없어질 것이라는 불안감”에 대한, “우리나라도 10년에서 20년 사이에 지금 일자리의 63%가 없어지거나 직업의 내용이 바뀔 것이라는 연구 결과”에 대한 올바른 대책은 아니다. 더구나 그가 그러한 경쟁력 강화를 주장하는 한, 그 교육은 이른바 인공지능의 강화ㆍ확산을 촉진함으로써 일자리 문제, 고용ㆍ취업의 문제를 더욱 악화시킬 뿐이다.

그도 미필적으로는 그것을 인식하고 있는 것 같다. 그래서 이렇게 얘기한다.

[인공지능이 확산되면] 육체노동만이 아니라 정신노동까지 자동화되면서 모든 분야에서 생산성이 높아질 것이다. 향상된 생산성으로 전 인류가 풍요를 같이 누릴 수 있다. 인류가 지구상에 생겨난 이래 생존하기 위하여 일했다면 이제부터는 더 이상 생존을 위한 일은 안 해도 된다. 일은 기계에 시키고 인간은 더욱 많은 시간을 인간답게 사는 데 사용할 수 있다. 문화예술이 크게 신장될 것이다. 또 한편으로는 우리의 능력을 인류가 공통으로 당면한 문제를 해결하는 데 집중할 수 있다.

이를 위해서는 생산성만큼의 기본적 복지를 보장하되, 창조적 혁신이 일상적으로 일어날 수 있도록 역동적이고 공정한 사회를 만들어야 한다. 이런 세상에서는 자본보다는 지식이 더 큰 가치를 창출한다. 지식은 공개, 공유, 협동으로 가치를 더할 수 있다. 알파고를 학습시킨 소프트웨어가 공개 소프트웨어였다는 점은 시사하는 바가 크다. 우리도 기술 발전에 동참하면서 사회적 변화에 능동적으로 대응하는 노력이 필요하다.

알파고와의 대국은 소프트웨어 중심 사회 진입을 알리는 팡파르다. 이를 계기로 우리 사회가, 교육이, 정치가 어떻게 변화해야 하는지 사회적 논의가 시작되기를 기대한다.²⁸⁾ (강조는 인용자.)

이 짧은 인용문 속에는 과학과 비과학, 진실과 허위의식이 뒤엉켜 있다. 우선, 인공지능이 확산되면 “육체노동만이 아니라 정신노동까지 자동화되면서 모든 분야에서 생산성이 높아질 것”이며, “향상된 생산성으로 전 인류가 풍요를 같이 누릴 수 있”고, “인류가 지구상에 생겨난 이래 생존하기 위하여 일했다면 이제부터는 더 이상 생존을 위한 일은 안 해도” 되며, “일은 기계에 시키고 인간은 더욱 많은 시간을 인간답게 사는 데 사용할 수 있”고, “문화예술이 크게 신장될 것”이라는 것은, 일정한 전제하에서만 진실이다. 그의 표현을 살려 말하자면, “공정한 사회”가 만들어져야만, 보다 정확하게 말하면, 생산수단에 대한 사적소유가 폐지되고, 그리하여, 전래의 물적 생산수단뿐 아니라, 이른바 ‘인공지능’을 포함한 과학기술 혁명의 성과가 사회구성원 전체의 공동체적 소유가 될 때에만 진실인 것이다. 이 전제가 없이는, 그것은 대중에게 헛된 환상, 헛된 기대, 한 마디로 허위의식을 조장하는 기만적 언사일 뿐이다. 그리고 그 전제가 충족되어야 하기 때문에, 그가 어떤 것을 염두에 두고 이런 말을 했는지에 상관없이, “우리 사회가, 교육이, 정치가 어떻게 변화해야 하는지[에 대한] 사회적 논의가” 필요하고, “사회적 변화에 능동적으로 대응하는 노력이 필요하다.”

그런데 다른 한편에서 그는 중대하달 수 있는 오류를 범하고 있다.

그가, “이런 세상에서는 자본보다는 지식이 더 큰 가치를 창출한다”거나, “지식은 공개, 공유, 협동으로 가치를 더할 수 있다”고 말할 때, 이는 그가 경제과학의 문외한이기 때문에 ‘가치’의 문제에 대한 통속적 사고, 상투어를 내뱉고 있다고 보아 넘길 수 있다. 또, “알파고를 학습시킨 소프트웨어가 공개 소프트웨어였다는 점은 시사하는 바가 크다”고 말하고 있는 데에 대해서도, 이 경우 그 “공개”라는 게 사실은 상업적 쏘프트웨어 개발의 한 방식임을 그가 너무나도 간과하고 있다는 것을 지적하는 것으로 충분하다.

하지만, 그가 “생산성만큼의 기본적 복지를 보장하되, 창조적 혁신이 일상적으로 일어날 수 있도록 역동적이고 공정한 사회를 만들어야 한다”(강조는 인용자)고 말할 때는 많이 다르다. 이는, “기본적 복지”를 보장하면, 그 자체로서는 그것이 “창조적 혁신이 일상적으로 일어날 수 있”는 가능성을 차단한다는, 오늘날의 신자유주의적ㆍ극우적 정치선전, 그러한 허위의식을 내포하고 있는 것이기 때문이다.

한편, 김진형 카이스트 명예교수의 글, 그 사고 속에는 극히 극히 수줍은 형태로서이긴 하지만, 아무튼 문제 해결의 실마리가 숨겨 있다고 할 수 있다. 어떻든 “우리의 능력을 인류가 공통으로 당면한 문제를 해결하는 데 집중할 수 있”기 “위해서는 … 역동적이고 공정한 사회를 만들어야 한다”고 말하고 있기 때문이다.

그런데 마찬가지로 교육이라는 실용적인 대책을 제시ㆍ주문하면서도 실제로는 문제 해결을 위한 한 톨의 긍정적 문제의식도 포함하고 있지 않은 얘기를 늘어놓는 사람도 있다. 예컨대, 구본권 사람과 디지털연구소장 같은 이가 그러한데, 그는 인공지능, 로봇에 의한 일자리 소멸 등에 대하여 그렇고 그런 이런저런 얘기를 장황하게 늘어놓은 후에 “미래사회를 준비하는 길”이라는 소제목 하에 결론적으로 이렇게 얘기한다.

인공지능과 로봇의 시대에 변동으로부터 안전한 직업을 선택해서 준비한다는 것은 기본적 한계를 지닌다. 미래가 어떤 모습으로 나타날지, 또 그 시점에서 시장경쟁 상황이 어떠할지와 관련되기 때문이다. 무엇보다 새로운 정보와 그 작동방식을 최대한 이해하고 수용해 나의 직무에 어떤 변화가 닥칠지를 파악하고 차별성을 찾아내는 게 필요하다. 개인적 차원을 넘어 사회적으로 새로운 평생학습 체계를 구축할 필요성도 높아진다.²⁹⁾

“나의 직무에 어떤 변화가 닥칠지를 파악하고 차별성을 찾아내는 게 필요하다”! “개인적 차원을 넘어 사회적으로 새로운 평생학습 체계를 구축할 필요성도 높아진다”! ― “사회적으로” 운운하지만, 따져놓고 보면, 각자도생하라는 뜻이다.

그건 그렇고, 주어진 문제 해결의 수줍은 실마리를 토출하고 있는 예를 하나만 더 검토해보기로 하자. 이강국 리쓰메이칸대 경제학부 교수는 이렇게 얘기한다.

노동자들이 일자리를 잃는데 로봇은 소비를 할 수 없으니 경기가 침체되고, 수많은 실업자들과 소수의 부자들로 사회가 갈라진다면 정말 큰일이다. 따라서 정부가 모든 국민들의 최소한의 소득을 보장하는 기본소득의 도입을 주장하는 목소리가 커지고 있다.³⁰⁾

 

지레 짐작은 말자. “정부가 모든 국민들의 최소한의 소득을 보장하는 기본소득의 도입을 주장하는 목소리” 운운 따위의 몽상적 주장³¹⁾을 “문제 해결의 수줍은 실마리”로 보려는 것은 아니니까. 아무튼, 이 교수의 얘기를 더 들어보자면, 그는 우선 이렇게 자동화ㆍ과학기술혁명에 의한 대량실업의 현실화를 부인한다.

대부분의 경제학자들은 역사가 보여주듯 기술혁명과 함께 새로운 일자리들이 많이 생겨날 것이라고 전망한다. 또한 매사추세츠공대(MIT)의 오터 교수는 코드화하기 어려운 암묵적 지식에 기초한 인간의 일을 로봇이 대체하기는 무척 어렵다고 강조한다. 사실 자동화로 인한 대량실업의 우려는 산업혁명 이후 늘 존재해왔고 60년대 초반도 마찬가지였지만, 그 공포가 현실이 된 적은 없다. 오히려 최근 몇 년 동안에는 기술혁신과 노동생산성의 상승이 과거에 비해 정체하고 있으니, 기술혁신으로 인한 실업 문제로 크게 호들갑 떨 일은 아닐지도 모른다.³²⁾ (강조는 인용자.)

“사실 자동화로 인한 대량실업의 우려는 산업혁명 이후 늘 존재해왔고 60년대 초반도 마찬가지였지만, 그 공포가 현실이 된 적은 없다”? ― 이것은 역사의 은폐이며, 부르주아적 통계에 대한 무비판적인 신뢰이다. 대표적인 예로, 제2차 세계대전이라는, 5,000만 명 이상의 인간의 살육으로 끝난 1930년대의 상황, 그 공황조차 그의 눈에는 보이지 않는단 말인가? 그리고 일자리를 찾아봤자 소용없다는 경험과 정황 때문에 아예 ‘구직활동’을 포기한 대량의 ‘실망실업자들’을 통계 밖의 ‘비경제활동인구’로 처리하고, 극도의 저임금으로 주당(週當) 불과 몇 시간밖에 일하지 못하는 비정규ㆍ일용 노동자들을 취업자로 취급하는, 그리하여 실업ㆍ과잉인구의 실태를 턱없이 축소ㆍ은폐하는 부르주아 통계를 그는 무비판적으로 논거로 삼는단 말인가?

그런데 그는 이렇게 논의를 이어간다.

하지만 경제학자들도 대량실업은 아니지만 로봇이 가져오는 또 다른 충격에 대해 잘 인식하고 있다. 미국의 경우 지난 40여 년 동안 실질임금이 정체되고 불평등이 심화되었으며 최근 국민소득에서 자본의 몫이 크게 증가한 현실이 기술과 관련이 크다는 것이다. 이들은 이미 기술진보가 고등교육을 받은 노동자들에게만 도움이 되고 그렇지 않은 노동자들의 처지는 악화시킨다고 보고해왔다. 또한 90년대 이후 주로 중간층의 일자리가 자동화로 대체되어 일자리와 임금의 양극화가 나타났다고 주장한다. 고급의 지식노동과 식당 서빙 같은 노동에 비해 단순사무직 같은 정형화된 노동은 로봇으로 대체되기가 더 쉽기 때문이다. 물론 불평등의 책임을 기술에만 돌릴 수는 없겠지만, 이제 이러한 불평등의 심화가 경제의 안정적인 성장마저 해칠 수 있다는 우려가 크다.

여기에 이르면, 그가 얼마나 자가당착적인 논리를 전개하고 있는지 알 수 있다. 우선, 그는 로봇이 “대량실업은 아니지만”, ‘실질임금의 정체’와 ‘불평등의 심화’라는 “또 다른 충격”은 초래했다고 주장하고 있다. 실질임금의 정체와 그에 따른 불평등의 심화는 분명 대량실업의 이면(裏面)이요 그 효과이다. 그런데 경제학자인 그는 실업과 임금 간의 상관관계를 사실상 부인하는 주장을 펼치고 있다. 또한 그는, “이미 기술진보가 고등교육을 받은 노동자들에게만 도움이 되고 그렇지 않은 노동자들의 처지는 악화”시켜 “90년대 이후 주로 중간층의 일자리가 자동화로 대체되어 일자리와 임금의 양극화가 나타났다”는 주장을 그대로 수용하면서, 이는 “고급의 지식노동과 식당 서빙 같은 노동에 비해 단순사무직 같은 정형화된 노동은 로봇으로 대체되기가 더 쉽기 때문”이라고 덧붙이고 있다. 이 역시 ‘대량실업’을 부인하는 그의 기본적 주장과 양립할 수 없는 주장 아닌가? 나아가 그는, 한편에서는 방금 본 것처럼, “고급의 지식노동…은 로봇으로 대체되기가” 쉽지 않다고 주장한다. 그러고 나서는 이렇게 얘기한다.

결국 로봇과 인공지능으로 인해 대량실업이 발생하지 않더라도, 일부 노동자들의 실업과 불평등 문제가 더욱 심각해질 가능성은 매우 높다고 할 수 있다. 이에 대해 흔히 교육이 해결책으로 제시되지만, 최근 미국에서는 고숙련 일자리의 수요도 줄어들었고 이공계열 대학 졸업자들도 관련 분야 직업을 얻는 이들이 절반에 불과한 실정이다.

“미국에서는 고숙련 일자리의 수요도 줄어들었고 이공계열 대학 졸업자들도 관련 분야 직업을 얻는 이들이 절반에 불과한 실정이다.”! ― 이야말로 대량실업을 부인하는 자신의 주장에 대한 반증이 아니면 무엇이며, “고급의 지식노동…은 로봇으로 대체되기가” 쉽지 않다는 자신의 주장의 부정이 아니면 무엇인가?

그런데 다른 한편에서 그는 문제 해결의 수줍은 실마리를 토로하고 있기도 하다. 이렇게.

기술이 창출하는 부와 소득의 재분배를 포함하여, 어느새 우리 곁에 다가온 미래를 준비하기 위해 더욱 적극적인 노력이 필요한 시점이다. 기술혁명이 모두에게 풍요를 가져다주려면 사회제도의 변화가 필수적이라는 사실을 역사가 잘 보여주지 않는가. 그러고 보면 알파고가 우리에게 던지는 질문은 기계가 인간을 이길 것인가가 아니라 인간이 기계를 어떻게 사용할 것인가이며, 그 답도 인간들 사이의 관계에서 찾아야 할 것이다.

그 수줍은 실마리란, “기술혁명이 모두에게 풍요를 가져다주려면 사회제도의 변화가 필수적”이라든가, “알파고가 우리에게 던지는 질문”의 “답도 인간들 사이의 관계에서 찾아야 할 것”이라는 발언이 그것이다.

다만, 여기에서 나는 이 교수의 “기술혁명이 모두에게 풍요를 가져다주려면 사회제도의 변화가 필수적이라는 사실을 역사가 잘 보여주지 않는가”라는 발언에 주목하고 싶다. 그가 “잘 보여주지 않는가”라고 묻는 “사회제도의 변화”의 역사적 예가 무엇인지가 사실은 가늠하기 어렵기 때문이다.

그것이 만일 20세기 사회주의, 특히 쏘련을 얘기하는 것이라면, 그것은 옳다. 국내에서는 요즈음에는 자칭 ‘노동자연대’를 자임하는 일단의 자칭 ‘국제사회주의자들(IS)’³³⁾이나 오세철 교수님을 중심으로 한 소위 ‘좌익공산주의자들’, 김 뭐라든가 하는 인물을 중심으로 한 ‘자율주의자들’, 고 김수행 교수나 윤소영 한신대 교수 등이 대표적이지만, ‘쏘련은 국가자본주의 사회’였다고 악의적 헛소리를 해대는 분들조차 쏘련에 실업, 즉 과잉인구나 이른바 ‘풍요 속의 빈곤’이 존재했다고는 주장하지 못하고 있기 때문이다.³⁴⁾

그런데 자본주의에서 그 역사적 예를 찾는 것이라면, 예컨대 제2차 대전 후 북부 유럽 등의 ‘사회복지제도’와 같이, 그러한 혹은 유사한 예가 전혀 없는 것은 아니지만, 그의 주장은 분명히 해야 할 전제를 침묵으로 무시하고 있고, 그러한 한에서 허위의식을 조장하는 것이다. 왜냐하면, 자본주의 사회에서의 그러한 예는 노동자계급의 혁명적 진출에 의해서만, 그렇게 혁명적으로 진출하는 노동자계급을 체제 내로 포섭해야 하는 자본가 국가의 절박한 필요성에 의해서만 나타날 수 있었던 것인데, 그는 짐짓 이에 침묵하고 있기 때문이다. 더구나 그는, 그 발언이 정략적일 뿐 이론적ㆍ과학적이지도 않고 또 그러할 수도 없는 미국의 존슨 대통령, 자주 독립을 갈망하는 베트남 인민에 대해 그토록 거대하고 잔인한 전쟁을 주도ㆍ확대했던 그 존슨의 발언을 적극적으로 인용하는 것으로 자신의 글을 시작하고, 또 끝맺고 있기 때문에 그의 발언에 대한 의구심은 더 커지지 않을 수 없다. 그의 그러한 사고 기조를 보면, 그가, 앞에서도 인용한 발언이지만, “물론 불평등의 책임을 기술에만 돌릴 수는 없겠지만, 이제 이러한 불평등의 심화가 경제의 안정적인 성장마저 해칠 수 있다는 우려가 크다”고 말할 때, 그것은 “물론 불평등의 책임을 기술에만 돌릴 수는 없겠지만, 이제 이러한 불평등의 심화가 자본의 안정적인 성장마저 해칠 수 있다는 우려가 크다”고 썼어야 할 것을, 의도적이건 부지불식간에건, 그렇게 기만적으로 쓴 것이다. 그가 “되새겨보자”며 자신의 글의 마지막에 배치한 존슨의 말씀을 나는 이렇게 한 단어만 삭제하여 그에게 들려주고 싶다. ― “우리의 적은 기술이 아니라 무지[!], … 그리고 관성[!]입니다”!

‘인공지능’과 자본주의ㆍ부르주아지의 미래

이제 결론적 논의로 넘어가자.

서두에서도 말했지만, 알파고ㆍ이세돌의 바둑 대결을 보면서, 특히 “최고의 경지에 이른 인간이 기계에 졌다는 사실에 … 충격을”³⁵⁾ 받아 수많은 지식인들이 호들갑을 떨었는데, 적어도 내가 접한 ‘제도언론’에 관한 한, 나는 이른바 ‘인공지능’의 사회적ㆍ역사적 의의와 관련한 어떤 올바른 관점도 찾아볼 수 없었다.

저들의 호들갑을 관통하고 있는 것은 ‘기계 대(對) 인간’ 혹은 ‘인간 대 기계’라는 관점, 문제의식이다. 논자에 따라 “사회(적)”이니, “사회제도”니, “인간들 사이의 관계”니 하고 말할 때조차, 나아가 “자본주의” 운운할 때에조차 그것들은 그저 건성 내지는 수사일 뿐, 대개의 문제의식은 ‘기계 대(對) 인간’ 혹은 ‘인간 대 기계’이다. 혹은, 기껏해야 문제해결의 실마리를 수줍게 꺼내고 있을 뿐이다. 앞에서 인용했던 것들을 포함하여 몇몇 예를 들어보면, (강조는 모두 인용자인 나의 것이다.)

기술혁명이 모두에게 풍요를 가져다주려면 사회제도의 변화가 필수적 … 그러고 보면 알파고가 우리에게 던지는 질문은 기계가 인간을 이길 것인가가 아니라 인간이 기계를 어떻게 사용할 것인가이며, 그 답도 인간들 사이의 관계에서 찾아야 할 것이다.³⁶⁾

인공지능에 따른 혜택이 극소수에 집중되면서 사회 전체적으론 외려 극심한 불평등만 키울 수도 있을 것이다. 제아무리 인공지능이 판을 친다 해도 기술 발전이 몰고 올 사회 불평등을 줄이는 해법을 찾아내는 건 결국 인간의 몫이다.³⁷⁾

자본주의는 인간다움을 비효율로, 그리고 기계다움을 능력으로 포장해왔다. 이를 ‘발달’이라 했다.

그러나 인간이 인간답게 살려면 ‘알파고’가 아닌 ‘이세돌’로 돌아가야 한다. 첫걸음은 스스로, 그리고 집단이 ‘탐욕’을 제어하는 것에서부터 시작되어야 할 것이다.³⁸⁾

범위를 더 넓히면, 중대한 사회적 과제가 우리를 기다린다. …

주체가 구조에 변형을 가할 수 있다면, 결국 과학과 기술에 개입하는 인간 정신과 활동이 초점이다. … 언젠가 인공지능이 가치까지 판단할 경지에 오를지 모르지만, 그렇게 방향을 잡는 것 또한 사람이다.

최종적인 결과도 거기에 이르는 과정도, 사람이 중심이고 사람이 결정한다. 원격 의료 기술을 어디서 어떻게 쓸지, 말라리아 치료약인지 미용 수술 장비인지, 또는 기본 소득을 도입할지 말지, 사람이 정하기 나름이다. 다시 정치의 문제로, 자본을 어떻게 통제할 것인가의 이슈로, 그리하여 민주주의라는 (그 끈질긴) 과제로 돌아간다.³⁹⁾

결국 이세돌-알파고 대국이 남긴 것은 인공지능 시대에 인간의 고유함이란 무엇이고, 인간은 무엇을 해야 하는가란 질문이다. 우리가 끔찍한 불평등과 감시사회를 막아낼 사회적 합의와 규칙을 만들어내지 못한다면, 권력자들은 시민을 점점 더 교묘하게 통제하는 방법을 택할 것이고 기업은 자본의 논리에 따라 인간을 대량해고하고 인공지능을 활용해 이익을 늘려갈 것이다.

그런데 지금 인간이란 무엇일까?⁴⁰⁾

그러면, 무엇이 이들을 ‘기계 대 인간’ 혹은 ‘인간 대 기계’라는 관점, 그러한 문제의식 속에 가두는 것일까?

이 글을 나는, 3월 28일자 ≪한겨레≫에 실린, 딘 베이커 미국 경제정책연구센터 공동소장의 “로봇의 시대: 헛다리 짚는 경제 전문가들”과 구본권 사람과 디지털연구소장의 “‘인공지능 마법’에서 풀려나야 미래 나의 길이 보인다 ― ‘알파고 충격’이 불러온 미래직업 불안”을 언급하는 것으로 시작하면서 이렇게 말한 바 있다. 즉, “헛다리”와 “마법”이야말로 알파고-이세돌의 바둑 대결을 보면서 호들갑을 떤 지식인들의 행태와 정신세계를 관통하는 것이어서 화두로 삼은 것이라고. 내가 제도언론의 호들갑에서는 올바른 관점ㆍ문제의식을 접하지 못했다고 얘기했을 때, 그것은 물론 그 논객들이 ‘헛다리’를 짚고 있다는 뜻이며, 딘 베이커 미국 경제정책연구센터 공동소장의 ‘특수한’ 헛다리에 대해서는 앞의 각주 24)에서 간단히 언급했다.

그러면, ‘마법’에 대해서는?

사람들은, 저 목청 높은 논객ㆍ지식인들은 사실은 “인공지능 마법”에 걸려 있는 것이 결코 아니다. “‘인공지능 마법’에서 풀려나야 미래 나의 길이 보인다”고 외치는 구본권 사람과 디지털연구소장을 포함하여 저들은 모두 다른 마법, 즉 ‘자본주의 마법’에 걸려 있다.

이 ‘자본주의 마법’이란 다름 아니라 자본주의라는 현재의, 그러나 역사적ㆍ일시적인 생산관계, 그러한 생산양식, 그러한 사회제도를 마치 초역사적이고 영원한 것처럼 생각하게 하는 마법이다. 인간에게 있어 자본주의는 물고기와 같은 수생동물들에게 있어 물과 같은 게 아닌데도 말이다.

아무튼, 이러한 ‘자본주의 마법’ 때문에 청맹과니가 되고 치매에 걸려 저들은, ‘인공지능’의 발달, 나아가 과학기술 혁명 일반의 비약적 발전이, 자본의 숙명적인 경쟁력 추구⁴¹⁾가 비약적으로 발전시키고 있는 고도의 노동생산력이 사실은, ‘기계 대 인간’ 혹은 ‘인간 대 기계’의 문제가 아니라, 자본주의ㆍ부르주아지의 운명(殞命)이 임박했음을 의미한다는 것, 즉 ‘인공지능’(의 발전) 그것은 자본주의ㆍ부르주아지의 저승사자라는 사실을 눈을 번히 뜨고도 보지 못한 채 시종 헛다리를 짚고 있는 것이다. 그리하여, 2007년 하반기 이래 만 9년에 가깝게 대공황이 전개되고 있고, 자본주의 경제가 조만간 그 공황을 탈출할 기미ㆍ전망조차 보이지 않는데도,⁴²⁾ 예컨대, “노동자들이 일자리를 잃는데 로봇은 소비를 할 수 없으니 경기가 침체되고, 수많은 실업자들과 소수의 부자들로 사회가 갈라진다면 정말 큰일이다”⁴³⁾와 같은 헛소리를 태연히 하고 있는 것이다. 혹은, ‘자본을 폐지해야 한다’는 문제의식 대신에 “자본을 어떻게 통제할 것인가의 이슈로 … 돌아간다”⁴⁴⁾며, 다람쥐 쳇바퀴 돌 듯 맴돌고 있는 것이다.

그러나 뭐니뭐니해도 ‘자본주의 마법’으로 인한 치매 증세를 가장 적극적으로 드러낸 이는 아무래도 이필렬 방송대ㆍ문화교양학부 교수님이라고 해야 할 것이다. 앞에서도 몇 번 인용한 글에서 교수님은 이렇게 말씀하신다.

높은 생산성을 가진 기계가 만들어낸 부를 골고루 나눌 수만 있다면, 지금보다 훨씬 좋은 세상이 올 수 있다 …. 그래서 자본의 질주에 대한 통제, 기본소득의 도입 같은 이야기가 나온다. 자본주의 사회체제의 수정이나 변혁이 문제해결의 핵심이라는 것이다.

“자본의 질주에 대한 통제, 기본소득의 도입” 같은, “자본주의 사회체제의 수정” 같은 현대 사민주의적 헛소리가 붙어 있긴 하지만, “자본주의 사회체제의 … 변혁이 문제해결의 핵심”이라는 발언을 적극적으로 읽으면 여기까지는 대략 들을 만하다. 그런데 조금 뒤에서 그는 이렇게 일갈한다.

기술의 질주 속도는 점점 더 빨라지고 있다. … 이런 추세라면 머지않아 인간을 능가하는 인공지능이 나올 것 같다. 연구자들은 2050년경에 인간과 대등한 능력을 가진 인공지능이 나오고 이번 세기가 가기 전에 초지능이 나오리라고 예측한다. 물론 이 과정에서 많은 자원이 투입되고, 자본이 중요한 역할을 담당한다는 것을 변하지 않는 전제로 놓는다. 자본주의가 혼란기에 접어들었고 망해간다는 진단이 나오고 있지만, 이 전제가 흔들릴 것 같지는 않다. 오히려 자본은 인공지능의 개발에 사활을 걸고, 여기에서 생존의 돌파구를 찾아내려 할 가능성이 높다. 그러므로 이런 예측 앞에서 자본주의의 수정이나 변혁으로 문제를 해결한다는 주장은 공허해질 수밖에 없다.

보다시피, 그 어조가 강하다 못해 가히 정언적(定言的)이다. 그러면서, 다시 인용하지만, 다음과 같이 달관 혹은 해탈의 경지에 이르렀음을 보여주는 것으로 자신의 글을 끝내고 있다.

인간을 뛰어넘는 인공지능이 등장한 후 세상이 어떻게 변할지는 예측할 수 없다. 인간에게만 봉사하도록 윤리의식이 각인된 인공지능을 통해 인간의 삶이 획기적으로 좋아질지, 인간이 인공지능의 노예가 될지, 멸종 상태가 되어 인공지능의 자비로 보호종이 될지 알 수 없다고 해야 할 것이다. 이 모든 일이 100년이 지나기 전에 벌어질 수 있다는 것이 충격적으로 들릴지 모른다. 그러나 이게 피할 수 없는 일이라면 우리가 생각할 수 있는 것은 담담하게 받아들이는 것, 또는 그러려고 노력하는 것, 그리고 지금 이 시간을 더 의미 있게 만드는 것 정도가 아닐까?

‘자본주의 마법’에 사로잡힌 그에게는 자본이 “인공지능의 개발에 사활을 걸고, 여기에서 생존의 돌파구를 찾아내려” 필사적으로 내달림이 사실은, 즉 자본가들의 주관적 사고ㆍ의도.와는 반대로 객관적으로는 자본주의적 생산형태 내부에서의 생산력과 생산관계의 모순을 격화시키는 것이며, 따라서 자본주의, 따라서 부르주아지의 종국적 패망ㆍ해체를 급속히 앞당기는 것이라는 사실이, 그리하여 자신들에게 “충격”을 주고 있는 저 ‘인공지능’의 발달ㆍ고도화야말로 자본주의의, 따라서 부르주아지의 저승사지라는 것이 전혀 보이지 않는 것이다.

그리하여 나도, 이강국 리츠메이칸대 경제학부 교수께서 자신의 글을 끝맺으면서 인용했던, 저 제국주의 전쟁광 존슨 전 미국 대통령의 발언을, 약간만 손질하여 인용하는 것으로 이 글을 끝맺는다.

“우리의 적은 기술이 아니라 무지 [그리고 특히 그 무지를 대중에게 널리 전파하는 지식인들과 언론] … 그리고 [그 무지를 무비판적으로 수용하는] 관행이다”! <노사과연>

1) 박승혁 기자, “‘2100년이면 현생 인류 사라질 것… 알파고가 그 신호탄’, [인간 對 인공지능 두뇌전쟁] 베스트셀러 ‘사피엔스’에서 인류 미래 예언한 유발 하라리 인터뷰”, ≪조선일보≫ 2016. 3. 12. 대괄호와 그 속의 글은 문맥을 이어가기 위해 인용자가 삽입한 것이며, 이하에서도 마찬가지이다.

2) 같은 글.

3) 같은 글.

4) 같은 글.

5) 이필렬 방송대ㆍ문화교양학부 교수, “다가온 인공지능 세상”, ≪경향신문≫(인터넷판) 2016. 3. 16. (<http://news.khan.co.kr/kh_news/khan_art_view.html?artid=201603162114165&code=990100>)

6) 이진욱 CBS노컷뉴스 기자, ““인간과 인공지능 결합한 ‘신인류’ 출현””, (<http://www.nocutnews.co.kr/news/4561875>) (2016. 3. 14.)

7) 같은 글.

8) 박건형ㆍ채민기 기자, “인공지능 가라사대”, ≪조선일보≫ 2016. 3. 12.

9) 같은 글.

10) 이진욱 CBS노컷뉴스 기자, 같은 글.

11) 이필렬 방송대ㆍ문화교양학부 교수, 같은 글.

12) 박민희 문화ㆍ스포츠 에디터, “[편집국에서] 인간으로 살고 싶다”, ≪한겨레≫ 2016. 3. 17.

13) 김진형 카이스트 명예교수, “[특별기고] 알파고, 소프트웨어 중심 사회를 각인시키다”, ≪경향신문≫(인터넷판) 2016. 3. 14. (<http://news.khan.co.kr/kh_news/khan_art_view.html?artid=201603132106325&code=990304>); “지금으로서는 가능하지 않다”? 봉건사회나 노예제 사회에서 “충실한 하인”으로 하여금 “글자를 깨”우치지 못하게 한 것은 그들이 “똑똑해”져 반란을 일으킬까봐서였다. “지금으로서는 가능하지 않다”는 말엔 그 “똑똑해”진 기계가 어느 날엔가는 인간을 적 삼아 반란을 일으킬 수 있다는 뜻이다!

14) 정지훈 경희사이버대 IT디자인융합학부 교수, “[기고] 인공지능의 윤리학”, ≪한겨레≫ 2016. 3. 18.

15) 이기환 논설위원, “[여적]로봇 윤리”, ≪경향신문≫(인터넷판) 2016. 3. 14. (<http://news.khan.co.kr/kh_news/khan_art_view.html?artid=201603142108225&code=990201>)

16) “인공지능 시대의 도래 앞에 우린 인공지능과 인간의 대결, 인공지능이 인간을 지배하는 사회를 두려워한다. 영화를 너무 많이 본 탓이다.” (권태호 디지털 에디터, “[편집국에서] 알파고가 칼럼을 쓸 때, ‘무엇을 할 것인가?’”, ≪한겨레≫ 2016. 3. 14.

17) K. 맑스, ≪경제학 비판을 위하여≫ “서문”(1859), MEW, Bd. 13, S. 9.

18) 박승혁 기자, 같은 글.

19) 권태호 디지털 에디터, 같은 글.

20) 이진욱 CBS노컷뉴스 기자, 같은 글.

21) 정지훈 경희사이버대 IT디자인융합학부 교수, 같은 글.

22) 이기환 논설위원, 같은 글.

23) 유성식 시인, “[기고]인간과 기계를 비교하려 하지 마라”, ≪경향신문≫(인터넷판) 2016. 3. 12. (<http://news.khan.co.kr/kh_news/khan_art_view.html?artid=201603112043475&code=990304>)

24) “로봇이 ‘사람들의 일자리를 잠식할 것’이라는 근거없는 누명을 뒤집어쓰고 있는 동안, 미국의 경제정책은 이런 속설과는 180도 다른 방향으로 흐르고 있다. … 연준은 … 금리를 인상하면서 ‘노동력 부족’을 주요 근거로 내세웠다. … 지금 경제상황은 노동력 부족 사태 탓에 지나친 수요를 감당할 수 없다는 것이다. … 우리는 ‘은퇴자는 날로 늘어나는 반면 노동가능 인구는 갈수록 부족해진다’는 이른바 ‘인구 재앙론’을 접하곤 한다. 그래서 주요 정치인들은 은퇴자의 여러 혜택을 줄여야 한다고 목청을 높인다. … ‘로봇이 모든 일자리를 빼앗아 갈 것’이라는 우려와 ‘장차 노동력 부족 사태에 직면할 것’이라는 우려는 서로 모순된다. 정치인들 중에는 이런 기초적인 모순도 제대로 인식하지 못하는 사람이 많다. 기록적인 홍수와 극심한 가뭄을 한날한시에 맞을 것이라고 걱정하는 것과 똑같다. 현재 정책 논쟁의 수준이 이런 정도다. 우리는 중도를 선택해야 한다. 급속한 생산성 향상이 노동자들에게 (일자리) 문제를 일으킬 것이라는 생각은 설득력이 약하다. … 반대로 노동력 부족에 직면할 것이라는 우려 역시 여러 측면에서 이치에 맞지 않는다.” (딘 베이커 미국 경제정책연구센터 공동소장, “로봇의 시대: 헛다리 짚는 경제 전문가들”, ≪한겨레≫ 2016. 3. 28.); 딘 베이커 공동소장, 그는, “로봇이 모든 일자리를 빼앗아 갈 것’이는 우려와 ‘장차 노동력 부족 사태에 직면할 것’이라는 우려는 서로 모순된다”는 사실은 인식하고 있지만, 그 어느 쪽이 진실인가를 과학적ㆍ심층적으로 추적하는 대신에, 부르주아 비과학의 산물인 부르주아 ‘통계’를 들이대면서, 인품 좋게도 “중도를 선택”하고 있다. 그렇게 헛다리를 짚고 있다. 그의 ‘현재 논쟁의 수준이 이런 정도다’!

25) 서의동 기자, “알파고와 ‘노동의 종말’”, ≪경향신문≫(인터넷판) 2016. 3. 11. (<http://biz.khan.co.kr/khan_art_view.html?artid=201603111040191&code=920100&med_id=khan)

26) 권태호 디지털 에디터, 같은 글(의 결론).

27) 김진형 카이스트 명예교수, 같은 글.

28) 같은 글.

29) 구본권 사람과 디지털연구소장, “‘인공지능 마법’에서 풀려나야 미래 나의 길이 보인다 – ‘알파고 충격’이 불러온 미래직업 불안”, ≪한겨레≫ 2016. 3. 28.

30) 이강국 리쓰메이칸대 경제학부 교수, “알파고, 로봇과 노동의 미래”, ≪한겨레≫ 2016. 3. 22.

31) 채만수, “과학에서 몽상으로 사회주의의 발전ㆍ발전ㆍ발전! …”, ≪정세와 노동≫ 제54호 (2010년 2월) 참조.

32) 이강국 리쓰메이칸대 경제학부 교수, 같은 글.

33) 한국의 양대 부르주아 정당이 헤아리기도 어려울 만큼 그 이름을 바꾸는 것이 그러한 것처럼, 어떤 단체가 자주 그 이름을 바꾸는 것은 공연히 그러하는 것이 아니다. 주로 그 사기성을 은폐하기 위한 것이다.

34) 그렇게 쏘련에는 과잉인구, 산업예비군이 있었다고 주장하지 못하면서도 자신들이야말로 진정한 맑스주의자요, 맑스 경제학자들이라고 주장하는 그들! 참으로 참으로 대단한 맑스주의자들, ‘진정한 맑스주의자’들이다! (예컨대, IS 그룹의 대표적 이론가인 정성진 경상대 경제학 교수님께서는 자신의 저서 ≪마르크스와 한국경제≫(책갈피, 2005)의 서문(p. 11)에서 자신이야말로 “고전 마르크스주의” 경제학자이고, 자신들이야말로 “진정한 마르크스주의 전통의 수호자”라고 왜장치고 계시다. 그에 대한 보다 자세한 비판은 나의 ≪노동자 교양경제학≫ 제6판, 특히 “제8강 공황”을 참조.)

35) 이필렬, 방송대ㆍ문화교양학부 교수, 같은 글.

36) 이강국 리쓰메이칸대 경제학부 교수, 같은 글.

37) “[사설］‘알파고 충격’에서 배워야 할 교훈”, ≪한겨레≫ 2016. 3. 14.; 그런데 이 ‘사설’은, “인간이 개발한 기술이 결코 ‘중립적’이지 않다는 건 오랜 인류 역사에서 거듭 확인된 진리다”라는 진리 아닌 “확인된 진리”를 포함하고 있다. 이는 ≪한겨레≫의 논설위원들이, 러시아 혁명 후 노동생산력의 증대를 위해 ‘테일러 씨스템’을 도입한 것을 두고 ‘레닌이 자본주의 제도를 도입했다’고 악다구니를 쓰는 일부 자칭 맑스주의자들의 반레닌ㆍ반과학 선전ㆍ선동의 희생물임을 말하는 것일 것이다. 기술 그 자체는 계급 중립적이다. 문제는 그 기술이 어떤 사회제도하에서 무엇을 위해 사용되는가일 뿐이다.

38) 권태호 디지털 에디터, 같은 글.

39) 서민건강증진연구소, “우리는 구글의 ‘알파고 쇼’에 농락당했다! – [서리풀 논평] 인공지능 이후의 사람과 사회”, ≪Pressian≫ 2016. 3. 14. (<http://www.pressian.com/news/article.html?no=134009>); 특히 “자본을 어떻게 통제할 것인가의 이슈로 … 돌아간다”는 이 화려한 문제의식이 어떤 사고의 표현인가는 조금 뒤에 보자.

40) 박민희 문화ㆍ스포츠 에디터, “[편집국에서] 인간으로 살고 싶다”, ≪한겨레≫ 2016. 3. 17.; 이 필자는 물론 수줍은 형태이기는 하지만, 다른 논객들에 비해서는 비교적 선명하게 문제해결의 실마리를 보여주고 있다.

41) “자유경쟁은 개별 자본가들에게 대하여 자본주의적 생산의 내재적 법칙들을 외적 강제법칙으로 작용하도록 한다.” (≪자본론≫ 제1권, MEW, Bd. 23, S. 286.)

42) “인간은, 자신들의 생활을 사회적으로 생산하면서 자신들의 의지로부터 독립적인, 일정한, 필연적인 관계들, 즉 그들의 물질적 생산력의 일정한 발전단계에 상응하는 생산관계들에 들어간다. 이 생산관계들의 총체는, 사회의 경제적 구조, 즉 그 위에 법률적ㆍ정치적 상부구조가 우뚝 서고, 그것에 일정한 사회적 의식형태가 상응하는 바의 실재적 토대를 형성한다. 물질적 생활의 생산양식은 사회적, 정치적 그리고 정신적 생활과정 일반을 제약한다. 인간의 의식이 그들의 존재를 규정하는 것이 아니라, 거꾸로 그들의 사회적 존재, 그것이 그들의 의식을 규정한다. 사회의 물질적 생산력들은, 그 발전의 어떤 일정한 단계에서, 그것들이 그때까지 그 내부에서 운동해왔던 기존의 생산관계들과, 즉, 그 생산관계들의 법률적 표현인 바에 불과한 소유관계들과 모순에 빠진다. 이들 관계가, 생산력들의 발전형태들로부터 그것들의 질곡들로 급변하는 것이다. 그때에 사회 혁명의 시대가 시작된다. 경제적 토대의 변화와 함께 거대한 상부구조 전체가 서서히 혹은 급격히 변혁된다.” (K. 맑스, ≪경제학 비판을 위하여≫(1859), MEW, Bd. 13, S. 8-9.) 그리고 공황, 특히 대공황이야말로 바로 그러한, 생산력과 생산관계의 모순의 표현이다. 즉, 생산관계들이 생산력들의 발전형태들로부터 그 질곡으로 급변했음을 표현하는 것이다.

43) 이강국 리쓰메이칸대 경제학부 교수, 같은 글.

44) 앞의 각주 39) 참조.