의사가 AI를 몇 달 쓰자 스스로 용종 찾는 실력이 20% 떨어졌다! AI를 파는 측이 직접 실험한 결과 AI로 공부할수록 더 못하게 됨, 트레이더가 된 7개 모델은 강해질수록 점점 비슷해짐, 9억 명이 같은 뇌에 외부 연결, 중국공산당 모델에는 한 겹 더 거름망, 시장이 함께 사면 함께 전복! 독립이 정답보다 값어치 있다

이번 에피소드에서는 AI 시대에 인류 집단이 더 지혜로워지고 있는지, 아니면 더 멍청해지고 있는지를 탐구합니다. 진행자는 AI가 '정답의 평권'을 가져왔지만, 정보는 '놀라움'에서 비롯되기에 AI가 제공하는 것은 통계적 최빈값에 불과하여 개인의 창의성과 의학, 프로그래밍 등 실전 역량의 퇴화를 초래한다고 지적합니다. 아울러 전 세계 9억 명이 동일한 공공 두뇌에 접속하고, 심지어 중국공산당(CCP)의 규제로 검열된 데이터베이스의 통제를 받을 때 집단의 정보는 획일화되어 자본시장의 양떼 효과가 심화되고 유동성이 취약해진다고 분석합니다. 진행자는 AI를 두뇌가 아닌 노트북처럼 활용하고, 독립적인 판단을 유지하며 반례를 많이 찾아야 한다고 조언하며, AI 시대에는 '독립적인 것이 옳은 것보다 값지다'는 점을 강조합니다.

영상 링크:

전문 텍스트:

최근 저는 한 가지 문제를 계속 고민해 왔습니다. 바로 AI 시대에 집단이 더 똑똑해지고 있는가, 아니면 더 멍청해지고 있는가 하는 점입니다. 물론 여기에는 찬성하는 쪽과 반대하는 쪽이 분명히 다 있을 것입니다. 제가 생각하기에 AI 시대에는 정답이 더 표준화되었지만, 정보는 오히려 줄어들었습니다. 정답의 평권이 정보의 평권을 의미하지는 않습니다. 더 나아가 정답이 일치할수록 정보 능력은 실제로는 더 나빠지게 됩니다. 이는 1948년 섀넌이 내린 정보의 기본 정의로 되돌아가 봐야 합니다. 섀넌의 정보에 대한 정의는 두 글자로 요약할 수 있습니다. 바로 '놀라움(surprise)'입니다. 정보란 무엇일까요? 바로 당신에게 놀라움을 불러일으키고, 당신의 결정을 바꾸며, 심지어 당신의 결정 배경까지 바꿀 수 있는 것을 정보라고 부릅니다. 좀 더 나아가 볼까요. '비류직하(飛流直下, 폭포수가 곧게 떨어져)' 다음 구절을 이어보라고 하면 기본적으로 누구나 이어받을 수 있습니다. 바로 '삼천척(三千尺)'이죠. 하지만 내일 AI가 어떻게 발전할지 묻거나, 내일 자본시장이 어떻게 움직일지 묻는다면 수많은 답변이 나올 것입니다. 다시 말해, 누구나 다 아는 정답에는 정보량이 포함되어 있을까요? 전혀 포함되어 있지 않습니다. 정보란 당신이 전혀 인식하지 못했지만 눈앞에 불쑥 나타나 당신의 결정에 영향을 미치는 것, 바로 이것을 정보라고 합니다. 이 잣대로 측정해 본다면, 오늘의 문제는 AI 시대에 정답은 많아졌지만 정보 자체는 많아지지 않았다는 점으로 귀결됩니다. 이 문제를 논의하기 위해 우리는 가장 미시적인 부분부터 시작해 보겠습니다. 먼저 한 사람의 정답을 측정하고, 다음으로 그 사람이 여전히 놀라움을 만들어낼 수 있는지 측정하며, 마지막으로 한 집단을 합쳤을 때 정보가 얼마나 남아 있는지를 측정해 보겠습니다.

우선 저는 정답 평권이라는 것이 진짜 명제라고 생각하며, 이는 데이터로도 뒷받침됩니다. 올해 2월 전미경제연구소(NBER)의 워킹 페이퍼에 아주 흥미로운 실험이 하나 실렸습니다. 실험에서는 25세에서 45세 사이의 성인 1,174명에게 비즈니스 의사결정 문제를 풀게 했습니다. AI가 없을 때는 고학력자와 저학력자 사이에 동일한 질문에 대한 답변 격차가 0.55 표준편차였는데, AI를 붙여주자 이 격차가 0.14 표준편차로 줄어들어 무려 4분의 3이 단숨에 지워졌습니다. 이 상황에서 표준편차가 측정한 것은 무엇일까요? 바로 집단의 점수가 얼마나 넓게 퍼져 있는지를 잰 것입니다. 원래 두 집단 사이에 반 등급 이상의 큰 격차가 있었는데, AI를 결합하자 아주 미세한 차이로 좁혀졌다고 이해하시면 됩니다. 교육 쪽은 더욱 일관되게 나타났습니다. 올해 3월 26일 인문·사회과학 통신(Humanities and Social Sciences Communications)에 메타분석 연구가 하나 실렸습니다. 메타분석이란 수많은 연구 결과를 하나로 합쳐서 계산하는 것인데, 이 분석은 35개의 교실 대조 실험을 종합했고 참여한 학생은 총 4,193명이었습니다. 계산해 낸 결과는 챗GPT(ChatGPT)를 사용한 학생들의 성적이 중간 수준으로 향상되었다는 것입니다. 그리고 올해 6월에 또 다른 메타분석이 나왔는데, 이것은 무엇을 집중적으로 보았을까요? 바로 비판적 사고력을 보았습니다. 26개의 연구를 종합해 계산해 보니, 생성형 AI를 사용한 학생들의 비판적 사고 점수가 하락한 것이 아니라 상승한 것으로 나타났습니다. 따라서 사람이 AI를 결합하면 답이 더 정확해지고 배우는 것도 많아지며, 이로 인해 학력 간의 문턱이 평평해지는 것입니다. 이것이 바로 정답 평권입니다. 하지만 섀넌(Shannon)의 잣대로 이 실험들을 측정해 보면, 과연 무엇을 측정한 것일까요? 전부 표준 정답이 있는 문제, 비즈니스 케이스 문제, 교실 시험 문제뿐이었습니다. 이런 문제들에는 공통점이 있는데, 바로 정답이 이미 그 자리에 존재하고 있었다는 점입니다. 단지 예전에는 몇 년 동안 책을 더 읽어야만 그 문제의 답을 얻을 수 있었던 반면, 지금은 대화창에 입력하기만 하면 끝이라는 차이일 뿐입니다. 물론 이것은 좋은 일입니다. 하지만 섀넌의 정의에 따르면, 당신이 가닿은 그 대상은 무엇일까요? 이미 그곳에 존재하던 답일 뿐이며, 이는 애초에 정보라고 칠 수도 없습니다. 1,174명이 모두 같은 문제의 정답을 맞혔다고 한들, 누구도 그 누구에게 놀라움을 주지 못했습니다. 그러므로 정답 평권이란 집단이 그 답에 가닿을 수 있는 거리를 좁힌 것일 뿐, 어떤 새로운 정보를 만들어낸 것은 아닙니다.

그렇다면 인간 스스로 놀라움을 만들어내는 능력은 어떨까요? 이쪽의 증거는 훨씬 더 명확합니다. 올해 6월 1일, 프랑스 리옹의 한 암 센터 연구팀이 유럽종양내과학회(ESMO) 저널에 종설 논문(리뷰)을 발표했습니다. 이 논문은 무엇을 연구했을까요? 의사들이 AI를 사용한 뒤 손이 무뎌지는지(숙련도가 떨어지는지)를 연구했습니다. 폴란드의 병원 네 곳에 근무하는 내시경 의사들의 기록이 담겨 있는데, 이 의사들은 모두 2,000건 이상의 대장내시경 시술 경험이 있는 이들이었습니다. 이 의사들에게 AI 보조 운영 시스템을 쓰게 하고 몇 달이 지난 뒤, 연구진은 AI를 켜지 않았을 때 그들의 성과가 어떤지, 즉 실력이 무뎌졌는지를 살펴보았습니다. 결과가 어땠을까요? 스스로 선종을 찾아내는 비율이 과거의 28.4%에서 22.4%로 떨어졌습니다. 선종은 일종의 암 전단계 용종입니다. 병리과는 훨씬 더 심각했습니다. 한 실험에서는 병리의사들에게 시간 압박을 가한 뒤 AI가 고의로 오답 힌트를 주도록 설계했는데, 그 결과 30% 이상의 의사들이 원래 자신이 맞게 내렸던 진단을 틀린 진단으로 고쳐버렸습니다. 생각해 보십시오, 진단에서 의사의 가치는 어디에 있을까요? 기계가 미처 표시하지 못한 병변을 발견해 내는 것, 바로 그 한 번의 눈길, 그 발견이야말로 놀라움이자 정보입니다. AI의 답을 확인하는 데 그치는 의사가 그 진단에 보태는 정보량은 0입니다. AI가 틀리면 그 의사도 따라 틀리게 됩니다. 물론 프로그래머들을 대상으로 한 실험도 있습니다. 올해 1월 말 호주 연구진이 진행한 실험입니다. 실험은 프로그래머 52명을 모아 새로운 코딩 라이브러리를 학습하게 했습니다. 절반은 AI의 도움을 받았고, 나머지 절반은 스스로 직접 코드를 작성했습니다. 학습을 마친 후 시험을 치렀습니다. AI를 사용한 그룹의 평균 점수는 50점이었고, 스스로 직접 작업한 그룹은 67점이었습니다. 이 수치는 AI를 판매하는 기업이 직접 측정한 결과입니다. 연구진은 AI를 쓴 절반의 대화 기록을 전부 살펴보았고, 대략 두 부류로 나뉘는 6가지 사용 방식을 찾아냈습니다. 코딩 전체를 AI에게 맡겨버린 부류는 시험 평균 점수가 40점 미만이었습니다. 반면 코드를 요구하면서 동시에 설명을 요구하거나 개념만 묻고 직접 구현했던 부류는 시험 점수가 65점 이상이었습니다. 왜 이런 결과가 나왔을까요? 어떤 기술을 배운다는 것은 스스로 문제를 풀어내는 과정에 달려 있고, 그 과정에서 머릿속에 일련의 해결 방식이 자리 잡아야 하기 때문입니다. 그래야 다음에 처음 보는 문제를 마주쳤을 때도 그 방식을 꺼내 부딪쳐볼 수 있고, 그렇게 해서 부딪쳐 나온 결과물이어야 남들에게 놀라움을 줄 수 있습니다. 문제를 푸는 과정을 통째로 넘겨버리면 문제는 풀렸을지언정 해결 방식은 머릿속에 전혀 형성되지 않습니다. 다음에 AI를 켜지 않는다면, 당신은 여전히 남들도 다 아는 뻔한 답밖에 내놓지 못할 것입니다.

학생들 쪽도 마찬가지입니다. 영국의 고등교육정책연구소가 올해 3월에 1,054명의 풀타임 학부생을 대상으로 설문조사를 실시했는데, 그중 94%의 학생들이 생성형 AI를 이용해 점수가 반영되는 과제를 수행했으며, AI가 쓴 내용을 그대로 복사해 과제로 제출한 비율이 12%를 차지했습니다. 이 비율은 작년에는 8%, 재작년에는 3%였는데, 2년 동안 네 배로 늘어난 것입니다. 여기까지 양쪽의 상황을 모두 살펴보았는데, 이 데이터가 주는 답을 보셨나요? 바로 개인의 답은 더 표준화되었지만, 놀라움을 만들어내는 능력은 퇴화하고 있다는 점입니다. 이 두 가지 현상의 본질은 서로 모순되지 않으며, 심지어 동일한 행동의 양면이라고 할 수 있습니다. 문제를 고민하는 과정을 외주 주면, 그 대가로 돌아오는 것은 더욱 표준화된 정답뿐입니다. 정말 무서운 것은 사실 마지막 부분이자 제가 가장 하고 싶은 이야기인데, 여러 사람이 모였을 때 과연 얼마나 많은 정보량이 남느냐 하는 것입니다. 이 집단에 대해 이야기하기 전에 먼저 오래된 이야기 하나를 하겠습니다. 이 이야기는 제가 예전에 한 적이 있을지도 모르는데, 1907년에 골턴이 '네이처' 잡지에 시골 장터의 소 무게 맞추기 경연에 관한 논문을 발표했습니다. 이 경연은 787명의 독립된 개인이 각자 소 한 마리의 무게를 추정하는 것이었습니다. 물론 대부분의 사람은 정확히 맞추지 못했습니다. 하지만 모든 사람의 추정치를 작은 것부터 큰 것 순으로 나열했을 때, 정중앙에 있는 숫자는 1,207파운드였고, 소의 실제 무게는 1,198파운드로 오차가 1% 미만였습니다. 이것이 바로 대중의 지혜입니다. 풀어서 말하자면, 787명의 독립된 추정치 사이에는 각자만의 놀라움이 존재했습니다. 각자가 더한 것은 다른 이에게는 없는 정보였으며, 게다가 틀린 방향도 서로 일치하지 않았습니다. 어떤 사람은 너무 높게 추정하고 어떤 사람은 너무 낮게 추정했으니까요. 이렇게 평균을 내면 서로 상쇄되었습니다. 이제 이 이야기를 살짝 바꿔보겠습니다. 만약 이 787명이 추정하기 전에 먼저 AI가 제시한 동일한 예상 무게를 본 후, 각자 이 숫자를 기준으로 위아래로 조정을 거친다면, 각자는 여전히 틀릴 것입니다. 하지만 틀리는 방향이 어떻게 될까요? AI의 예상 무게를 따라가게 될 것이고, 이때 독립성은 어떻게 될까요? 사라져 버리게 됩니다. 당신이 얼마로 추정하든 나도 대충 짐작할 수 있게 되니까요. 그러면 전체 수치도 기본적으로 그 수치, 즉 AI가 예상한 수치를 중심으로 위아래로 맴돌게 됩니다. 즉, 787명 사이에 존재해야 할 상호 간의 놀라움이 사라졌고, 정보도 없어졌다는 뜻입니다. 설령 1만 명을 모아 평균을 낸다 해도, 공통된 그 오류는 여전히 남아 있어 도저히 상쇄되지 않습니다. 답이 일치할수록 집단의 정보량은 적어집니다. 제가 오프닝에서 했던 말은 바로 이 뜻입니다.

이 각색된 이야기가 실제로 일어났습니다. 올해 9월 3일 매사추세츠 공과대학교(MIT)의 론 연구팀이 이 실험을 실제로 진행했습니다. 다만 그들이 추정한 대상은 소가 아니라 자본 시장이었습니다. 7개의 대형 모델을 트레이더로 설정하고 64가지 시장 상황에서 각각 5번씩 돌려보았는데, 결과는 매우 예상 밖이었습니다. 모델이 강력할수록 서로의 결정은 더욱 비슷해졌으며, 심지어 같은 회사에서 만든 것인지 여부는 중요하지 않고 충분히 강력하기만 하면 되었습니다. 그들이 내놓은 행동은 고도로 상관관계를 보였습니다. 이 모델들을 섞어서 사용하더라도 분산을 통해 상쇄할 수 있는 오차는 오직 절반뿐이었고, 나머지 절반은 그들이 공통으로 가진 부분이라 어떤 모델로 교체하더라도 상쇄되지 않았습니다. 가장 지독한 부분은 씨발 무엇이었을까요? 바로 가짜 뉴스를 주입한 것입니다. 연구팀은 주식 시장 화면에 8개의 롤링 뉴스를 띄웠는데, 전부 시장에서 제시한 합리적인 가격이 실제 가격보다 25%에서 30% 고평가되었다는 내용이었습니다. 시장이 전부 AI 트레이더들로 채워졌을 때, 가격이 실제 가치에서 벗어나는 정도는 평소의 5배에서 7배에 달했습니다. 당시 그중 능력이 가장 뛰어난 모델은 Claude 3.5였는데, 상승과 하락을 판단한 정확도는 얼마였을까요? 단 42%로, 씨발 동전 던지기보다도 낮았습니다. 하지만 이 안에는 또 하나 놀라운 점이 있었는데, 능력이 조금 떨어지는 모델은 오히려 그렇게 쉽게 속아 넘어가지 않았더라는 것입니다. 논문의 제목은 '왜 더 나은 모델이 더 위험한 시스템을 만드는가?'였습니다. 여러분도 한번 찾아보실 수 있는데 꽤 흥미롭습니다. 다시 본론으로 돌아와서, 이 모델들의 의견은 고도로 일치하지만, 그들의 의견이 여러 갈래의 정보로 나뉜 것이 아니라 단 하나의 정보만 존재했으며, 심지어 그 정보라는 것조차 무엇이었을까요? 바로 이 모델들의 답이 서로 일치한다는 사실 그 자체였는데, 이것이야말로 진짜 정보입니다.

그렇다면 왜 AI는 사람들의 정보를 하나로 수렴시키는 걸까요? 이전의 도구들은 왜 그렇지 않았을까요? 철학에서 아주 유명한 예시를 들어 이 문제를 설명해 보겠습니다. 1998년에 앤디 클라크(Andy Clark)와 데이비드 차머스(David Chalmers)라는 두 철학자가 있었는데, 둘 다 심리철학과 인지과학을 연구하는 사람들이었습니다. 이들이 연구한 내용은 무척 흥미롭습니다. 무엇을 연구했을까요? 마인드(마음)란 대체 무엇인가, 의식이란 무엇인가? 다 이런 문제들이었죠. 그들은 '확장된 마음(extended mind)'이라는 이론을 제시했는데, 저는 이 상황에 아주 딱 들어맞는다고 봅니다. 그들은 오토(Otto)라는 사람의 이야기를 합니다. 오토는 알츠하이머병(기억상실증)에 걸려서 늘 들고 다니는 수첩에 일상을 기록하며 살아갑니다. 예를 들어 박물관에 가고 싶으면 수첩을 펼쳐 주소를 찾아보는 식이죠. 대충 이런 상황입니다. 이들의 철학적 관점은 무엇일까요? 바로 오토의 수첩이 그의 기억의 일부라는 것입니다. 이 수첩이 하는 역할이 정상인의 뇌 속에 있는 기억이 하는 일과 똑같기 때문입니다. 하지만 수첩의 한 가지 특징에 주목해야 합니다. 오토의 수첩에 적힌 것은 오토 자신이 겪었던 일이나 자신이 하고 싶었던 일입니다. 우리의 수첩에 적힌 것은 무엇일까요? 우리가 겪었던 일이나 우리가 하고 싶었던 일입니다. 수첩마다 담겨 있는 것은 무엇일까요? 저마다의 놀라움(경이로움)입니다, 그렇죠? 하지만 거대언어모델은 수첩이 아닙니다. 그것이 당신에게 돌려주는 것은 당신이 이미 적어둔 내용이 아니라, 전 세계 말뭉치(코퍼스)에서 가장 빈번하게 등장하는 그런 표현들입니다. 다시 말해 AI가 제시하는 답변은 최빈값(mode)이며, 정의상 최빈값은 가장 놀랍지 않은 설명입니다. 오픈AI는 올해 3월 31일 직접 숫자를 발표했습니다. 매주 9억 명 이상의 사람들이 ChatGPT를 사용하고 있으며, 9억 명이 동일한 대화창을 열고 있고, 그 배후에는 같은 회사의 동일한 몇몇 모델이 존재합니다. 확장된 마음 이론에 따르면, 만약 그것이 당신의 사고 과정의 일부라면 그것은 저의 사고 과정의 일부이기도 하겠죠? 그렇다면 당신과 저의 사고 과정 자체가 동일한 단계를 공유하게 되는 것입니다, 그렇죠? 이 단계에는 당신과 저 사이의 놀라움이 없습니다. 이것이 바로 수첩과 '공공 두뇌'의 차이입니다. 수첩은 모든 사람의 기억이 저마다의 놀라움을 간직하게 하지만, 공공 두뇌는 모든 사람의 판단을 동일한 한곳으로 외주화해 버립니다.

이 공공 두뇌는 중국공산당(중공) 치하에서는 공정이 하나 더 추가됩니다. 재작년인지 재재작년인지 기억하는데, 중공이 무슨 개소리 같은 '생성형 AI 서비스 관리 잠정방법'이라는 걸 만들지 않았습니까? 이 방법에서 무엇을 요구합니까? 훈련 데이터의 규격 준수를 요구하고, 생성되는 콘텐츠에는 무슨 개소리 같은 '사회주의 핵심 가치관'을 반영하라고 하죠? 까놓고 말해서 중공이 존나게 하고 싶은 말, 중공의 입장을 반영하라는 뜻입니다. 이렇게 되면 중공의 모델은 단순히 최빈값을 내놓는 데 그치지 않고, 사전에 검열을 통과한 '중공이 원하는 최빈값'을 내놓게 됩니다. 제가 처음에 언급했던 중공 특유의 그 병신 같은 일괄 배포 기사(통고문)는, 원래 가장 모호한 표현을 한 번 더 걸러내는 식이었는데, 이제는 그 거름망이 모델 내부에 직접 장착된 셈입니다. 그러니 중국에서 모델을 몇 개나 발표했네 어쩌네 해도, 존나게 1억 개의 모델을 내놓는다 한들 본질적으로는 전부 동일한 거름망을 거칠 뿐입니다. 모델이 많다고 해서 정보가 많은 것은 아닙니다. 해외의 이런 공공 두뇌조차 사람들의 답을 하나로 수렴시키고 있는데, 만리방화벽 안의 공공 두뇌는 사람들을 그 '하나'로 귀결시킬 뿐만 아니라, 그 '하나'를 존나게 강제로 지정하기까지 합니다. 따라서 중국에 있다면 원문을 읽는 것이 다른 곳보다 훨씬 더 가치 있는 일입니다. 최빈값조차 자연스럽게 생겨난 것이 아니기 때문입니다.

자본시장에 대해 다시 이야기해 보겠습니다. 자본시장은 무엇으로 가격을 매길까요? 정보로 가격을 매기며, 가격이 움직이면 뜻밖의 일들이 일어납니다. 그런데 지금은 이런 의문을 품어보아야 합니다. 모든 사람이 똑같은 정답을 쥐고 시장에 진입할 때, 시장에 뚜렷한 흔적이 남지 않을까요? 분명히 남습니다. 가장 먼저 나타나는 것은 무엇일까요? 바로 펀드들의 보유 종목 구성이 서로 닮아가기 시작했다는 점입니다. 올해 8월 싱가포르국립대와 중산대 연구자 두 명이 논문 한 편을 발표했는데, 논문에서 비교한 것이 무엇이었을까요? 바로 챗GPT(ChatGPT) 출시 전후 생성형 AI에 의존하는 펀드 간 보유 종목 변화의 상관관계였습니다. 결론은 훨씬 더 닮아졌으며, 여러 측면에서 고도로 유사해졌다는 것입니다. 예를 들어 이들 펀드가 집중 매수한 종목이나 뉴스에 대한 가격의 반응 속도 같은 것들이죠. 그에 따른 부작용은 무엇일까요? 순간적인 유동성이 훨씬 더 나빠졌다는 것입니다. 반응이 빠른 이유는 무엇일까요? 모두가 동시에 똑같은 답을 받았기 때문입니다. 유동성이 나쁜 이유는 팔고 싶을 때 사줄 사람이 전혀 없기 때문이며, 다른 판단을 쥐고 있는 사람이 아무도 없기 때문입니다. 속도 면에서도 흔적이 남았습니다. 국제통화기금(IMF)에 통화자본시장부라는 부서가 있고, 이 부서의 책임자가 토비아스 아드리안(Tobias Adrian)입니다. 그가 얼마 전에 매우 강도 높은 발언을 하나 했습니다. 앞으로 몇 분 만에 폭락하는 플래시 크래시(flash crash)는 더 이상 코드 오류에서 비롯되는 것이 아니라, 수많은 AI 시스템이 동일한 정보에 동시에 반응하면서 일어날 수 있다는 것입니다. 이것이 바꿔놓은 것이 무엇일까요? 여러분, 바로 컨센서스의 수명입니다! 예전 정보 전파의 패러다임은 어땠습니까? 퍼지는 것도 느렸고 흩어지는 것도 느렸습니다. 지금은 모든 사람이 동시에 똑같은 판단을 봅니다. 판단이 수렴하기만 하면, 그 순간 모두가 동시에 침몰하는 것입니다. 천천히 확산되던 그 구간이 아예 사라져 버렸습니다. 눈치채셨습니까? 올해 들어서, 혹은 작년부터 시장 장세가 온통 이런 기괴한 꼴을 보이고 있습니다. 이란 전쟁 국면을 보면, S&P 500은 1월 27일 종가 고점에서 3월 30일 저점까지 얼마나 빠졌을까요? 9.1% 하락했습니다. 그러고 나서 공포지수인 VIX는 3월 9일 장중 한때 35까지 치솟았습니다. 그 뒤엔 어떻게 됐을까요? 4월 15일, S&P 500은 저점으로부터 불과 16일 만에 역대 최고치를 다시 기록했습니다. 나스닥 종합지수는 6월 2일 종가 고점에서 7월 29일 저점까지 9.8%나 밀려났습니다. 두 달 뒤 나스닥은 다시 역대 최고치를 경신했습니다. 반도체주는 더 극단적이었습니다. 필라델피아 반도체 지수는 올해 2분기에 무려 88% 급등했는데, 이는 1994년 집계 이래 최고의 분기였습니다. 그러더니 7월 한 달 만에 20.6% 폭락했습니다. 이러한 상승과 하락에는 저마다의 뉴스가 있었지만, 제가 말씀드리고 싶은 것은 그 리듬입니다. 살 때도 다 같이 사고, 팔 때도 다 같이 팔며, 중간에 이견이 조율되는 과정이 없습니다. 이런 컨센서스의 특징은 겉보기엔 탄탄해 보이지만 실제로는 너무나 취약하다는 점입니다. 가격을 떠받치는 것이 각자 손에 쥔 개별 정보가 아니라 똑같은 정답 하나뿐이며, 여기에 사람들이 텍스트를 읽는 양이 점점 줄어들고 있다는 점까지 맞물려 있기 때문입니다.

챗GPT가 올해 2분기 전 세계 독자 데이터를 집계해 보았는데, 무엇을 발견했을까요? 전 세계 독자들이 글 한 편에 머무는 평균 시간이 고작 26초에 불과하다는 점이었습니다. 더 존나 쩌는 사실도 있습니다. 올해 첫 4개월 동안 미국 내 구글 검색의 68%가 어떤 링크도 클릭하지 않은 '제로 클릭'이었습니다. 2024년에는 이 비율이 60%였습니다. 원문을 적게 볼수록 마주치는 의외성은 줄어들 것이고, 동시에 그 공유된 판단 하나에 더 의존하게 될 것입니다. 그 공유된 판단이 한번 뒤집히면, 모두가 함께 침몰하는 것입니다. 그뿐만 아니라 금융시장이 내놓는 담론조차 갈수록 동질화되고 있습니다. G20 주도로 설립된 국제기구인 금융안정위원회(FSB)가 올해 6월 10일 의견수렴안을 하나 발표했는데, 내용이 매우 직설적입니다. 동일한 AI 모델, 데이터 세트 혹은 인프라에 의존하게 되면 각 금융기관이 유사한 행동을 취하게 되어 군집 행동(양떼 효과)과 경기순응성이 증폭된다는 것입니다. 양떼 효과란 다 같이 사고 다 같이 파는 것이고, 경기순응성이란 무엇일까요? 오를 때는 씨발 포지션을 더 늘리고, 내릴 때는 씨발 다 같이 줄여버리는 것입니다. 영국은행(BOE)도 좌불안석이 되었습니다. 부총재가 유럽중앙은행(ECB) 포럼에서 아예 직격탄을 날렸습니다. 스스로 주문을 넣는 AI 프로그램들이 동일한 트리거에 동일한 반응을 보인다면, 시장 전체를 차단하는 서킷브레이커 같은 총괄 스위치를 마련해야 한다는 것입니다. 보십시오. 규제 당국조차 순간적인 유동성 붕괴 문제를 진지하게 걱정하기 시작한 것입니다. 시장 전체를 멈추는 서킷브레이커는 아직 제안 수준일 뿐 구체적인 시행 세칙은 없습니다. 하지만 바로 며칠 전인 9월 30일, 영국은행이 9월 25일 금융정책위원회 회의록을 공개했는데, 거기서 모건스탠리의 추정치를 인용했습니다. 그 추정치가 무엇이었을까요? 2026년 9월까지 전 세계 AI 관련 채권 발행액이 약 4,500억 달러에 달해, 2025년 연간 발행량의 두 배를 이미 넘어설 것이라는 점입니다. 그렇다면 과연 이 자금들은 단 하나의 똑같은 정답에 기대어 빌려온 것이 아닐까요? 한번 깊이 음미해 보십시오.

이제 우리 보통 사람들의 시각으로 돌아와 봅시다. AI 시대에 부족한 것이 답이 아니라 경이라면, 방법은 무엇일까요? 자기 자신을 다시 놀라움과 경이를 만들어낼 수 있는 사람으로 바꾸는 것입니다. 우리는 AI를 오토(Otto)의 그 노트처럼 써야지, 공유 두뇌처럼 써서는 안 됩니다. 그 녀석에게 저장을 시키고, 조회를 시키고, 자료를 정리하게 하세요. 이런 건 다 노트가 해야 할 일이고, 이런 작업은 분명 인간보다 훨씬 잘 해낼 겁니다. 하지만 '판단'이라는 단계만큼은 절대 외주를 주지 마세요. 판단은 당신 자신의 정보를 써야 합니다. 그렇다면 당신의 정보는 어디서 올까요? 원문에서 오고, 원작에서 오고, 책에서 오고, 당신이 직접 가본 곳에서 오며, 모델이 읽지 않은 것들 속에서 옵니다. 경이는 오직 가공되지 않은 원자재 속에서만 나오고, 최빈값(대중의 평균치) 속에는 경이가 없습니다. 당신이 원문 하나를 읽는다면, 당신의 판단은 9억 명의 판단과 갈라져 분리됩니다. 그리고 훈련도 하나 해야 합니다. 어떤 훈련일까요? AI더러 반례를 찾게 하고, 결론을 내리게 하지 않는 것입니다. 만약 당신이 그 녀석에게 "이 주식 어때?"라고 묻는다면, AI가 당신에게 주는 것은 반드시 전 세계의 최빈값일 것이며, 이 순간 당신의 판단은 9억 명의 판단 속으로 병합되어 버립니다. 당신은 "내 이 판단에서 어디가 논리적으로 빈약하지? 반대편의 가장 강력한 근거는 뭐지?"라고 물어야 합니다. 그러면 그 녀석이 당신에게 주는 것은 반드시 당신이 생각지도 못했던 그 반대 이유일 것이며, 그때서야 비로소 AI가 당신에게 경이를 안겨주는 것이고, 당신에게 정보를 제공하는 셈이 됩니다. 똑같이 9억 명이 쓰고 있지만, 사용 방식이 당신이 그 속에 합쳐질지, 아니면 따로 갈라져 돋보일지를 결정합니다.

그리고 작은 습관 하나가 더 있습니다. 9월 17일 뮌헨 대학교에서 발표한 실험 데이터에서 나온 내용인데요. 실험에서 704명의 사람들에게 AI 어시스턴트를 붙여주고 분수 계산을 연습하게 했습니다. 연습이 끝난 뒤에는 AI를 끄고 시험을 치르게 했습니다. 그중 한 그룹은 문제를 하나 풀 때마다 화면에 알림이 떴습니다. "이 문제는 당신이 직접 계산했나요, 아니면 AI에게서 바로 답을 얻었나요?" 그리고 한 번 더 물었습니다. "다음 문제에서는 AI가 어디까지 도와주게 할 계획인가요?" 겨우 이 행동 하나만으로 AI의 답을 그대로 베끼는 확률이 절반도 안 되게 뚝 떨어졌습니다. 시험 성적도 약간 더 좋았는데, 다만 이 부분은 통계적으로 아직 완전히 유의미하지는 않았습니다. 다른 한 그룹은 스스로 맞히면 높은 점수를 주고, 답을 물어봐서 맞히면 낮은 점수만 주었습니다. 이 그룹에서는 아무런 효과도 측정되지 않았습니다. 즉, AI에게 답을 요구하기 전에 스스로 먼저 자신의 판단을 적어두고, 그런 다음 녀석의 답을 확인하는 것입니다. 당신의 판단과 녀석의 답 사이에 어떤 차이가 있는가, 그 차이가 바로 당신 손에 쥐어진 정보량입니다. 만약 차이가 0이라면, 당신은 이번에 아무런 정보를 얻지 못하고 그저 답만 챙겼다는 뜻입니다. 마지막 한 가지도 매우 중요한데, 바로 '녀석의 말을 듣지 않을 기회'를 남겨두는 것입니다. 이건 잘난 척을 하려는 게 아니라, 이 시대에는 독립성이 정답보다 값어치가 있기 때문입니다. 남들보다 딱히 뛰어나지 않은 독립적인 판단이라도, 집단에 던져지면 남들에게는 없는 하나의 정보를 더해줍니다. 베껴온 판단 1만 개가 집단에 더하는 정보량은 0이기 때문입니다. 다시 본래 주제로 돌아가 봅시다. AI 시대의 사람들은 더 멍청해졌을까요, 아니면 더 똑똑해졌을까요? 제 결론은 아주 명확합니다. 답의 권리는 평등해졌지만 정보는 평등해지지 않았으며, 집단은 더 멍청해지겠지만 개인은 AI를 잘 활용한다면 더 똑똑해질 것입니다. 이유는 간단합니다. AI는 한 사람의 답을 더 표준화시키지만, 군중의 정보는 하나로 획일화하기 때문입니다. 따라서 우리가 해야 할 일은 이 두 진영 사이에서 줄을 서는 게 아니라, 자기 자신을 똑같이 정리된 9억 개 중 하나로 전락시키지 않는 것입니다. 좋습니다, 오늘은 여기까지 나누도록 하겠습니다. 제 프로그램이 마음에 드셨다면 아래의 종 모양 아이콘을 눌러주세요. 저를 응원하고 싶으시다면 멤버십 채널에 가입하셔도 좋습니다. 멤버십 채널에는 매달 네 편의 심층 프로그램이 올라오니, 독한 사람들의 무리에 오신 것을 환영합니다. 다음 회차에서 다시 뵙겠습니다.