"AI는 결코 인간처럼 생각할 수 없다" — 컴퓨터과학자가 지목한 75년 전의 잘못된 갈림길

근데 이것도 시간문제 아닌가...

바이올린 명연주자에게 "어떻게 그렇게 연주하세요?"라고 물으면, 대부분 제대로 대답하지 못합니다. 손목의 각도나 활의 압력을 설명할 수는 있어도, 정작 그 아름다운 소리를 만들어내는 무언가는 말로 옮겨지지 않죠. 그런데 만약 인간 지능의 가장 중요한 부분이 바로 이런 '말로 옮길 수 없는 것들'이라면 어떨까요? 최근 한 저명한 컴퓨터과학자가 이 지점을 근거로, AI가 결코 인간 수준의 지능에 도달할 수 없을 것이라는 도발적인 주장을 내놨습니다.

"튜링의 실수가 AI를 75년간 잘못된 길로 이끌었다"

주인공은 피터 J. 데닝입니다. 그가 발표한 새 분석 논문의 제목부터 심상치 않습니다. "튜링의 실수: 지능 없는 기계의 멍에에서 벗어나기(Turing's Mistake: Escaping the Yoke of Unintelligent Machines)".

데닝은 이론 컴퓨터과학의 아버지로 불리는 앨런 튜링이 1950년에 내놓은 두 가지 주장이, 이후 75년간 AI 연구를 잘못된 방향으로 이끌었다고 지적합니다.

당시 많은 과학자들은 인간의 지능이 신체와 무관하게 존재할 수 있으며, 따라서 디지털 컴퓨터에서 돌아가는 소프트웨어로 재현할 수 있다고 믿었습니다. 데닝은 이 전제 자체를 문제 삼습니다. 또한 기계의 지능을 '모방 게임', 즉 오늘날의 튜링 테스트를 통해 증명할 수 있다는 발상에도 반박합니다.

그는 이렇게 씁니다. "이 두 가지 주장이 AI 연구와 개발의 상당 부분을 형성해왔다. 내 전제는, 우리가 이 주장들을 순순히 받아들인 것이 오늘날 우리가 처한 AI의 혼란을 낳았다는 것이다."

핵심 개념: '암묵지'

데닝 주장의 중심에는 '암묵지(tacit knowledge)'라는 개념이 있습니다. 사람이 분명히 갖고 있지만, 말로 온전히 표현하거나 기계가 처리할 수 있는 기호로 옮길 수 없는 방대한 양의 이해를 뜻합니다.

데닝은 '기계학습이 도달할 수 없는' 암묵지를 크게 다섯 가지로 나눕니다.

1. 상식
2. 사람 및 환경과의 일상적 상호작용
3. 감정과 지각
4. 실무적 기술
5. 사회가 공유하는 문화적·역사적 배경

4천만 개 항목을 모아도 상식이 되지 않았다

여기서 흥미로운 역사적 사례가 등장합니다. 연구자들은 수십 년간 상식을 컴퓨터가 쓸 수 있는 형태로 기록하려 애써왔습니다. 1980년대부터 시작된 더글러스 레넛의 야심 찬 프로젝트 'Cyc'가 대표적입니다. 방대한 상식 데이터베이스를 구축하겠다는 목표였죠.

40년간의 작업 끝에 이 프로젝트는 2,500만 개의 항목을 담게 됐습니다. 그럼에도 데닝의 평가는 냉정합니다. "이 보물창고조차, 전문가 시스템을 진짜 전문가만큼 똑똑하게 만들기에 충분한 상식의 배경이 되지는 못했다. Cyc는 사람을 전문가로 만드는 지식의 상당 부분이 명제로 표현될 수 없다는 사실을 입증한 셈이다."

'무엇을 아는가'와 '어떻게 하는가'의 차이

또 다른 큰 장벽은 실무 기술입니다. 데닝은 이렇게 설명합니다. "수천 가지 영역에서 우리가 지닌 수행 능력은 기계에 전달될 수 없다. 능숙한 결과에 대한 서술('무엇을 아는가')은 종종 비트로 표현되어 기계에 저장될 수 있지만, 능숙한 수행을 위한 체화된 지식('어떻게 하는가')을 어떻게 인코딩해야 하는지는 우리도 모른다."

앞서 언급한 바이올리니스트 비유가 여기서 나옵니다. "명연주자는 아름다운 음악을 연주할 수 있지만, 제자에게 그것을 어떻게 만들어내는지 설명하지는 못한다."

데닝은 여기에 한 가지를 더합니다. "설령 로봇이 숙련된 인간을 관찰하고 모방할 수 있다 해도, 생물학적 신체가 없는 로봇은 연주자가 아름다운 음악을 연주할 때 어떤 기분인지, 청중이 그것을 들을 때 어떤 감정을 느끼는지를 파악할 수 없다."

직관, 육감, 즉흥적인 창의성, 상상력 역시 컴퓨터 명령어로 환원되기를 거부하는 암묵지의 형태들입니다.

'표현의 문제'

데닝은 이 모든 장벽의 핵심을 '표현의 문제(representation problem)'라고 부릅니다.

컴퓨터는 데이터와 명령이 자신이 인식하고 처리할 수 있는 물리적 형태로 인코딩되었을 때에만 계산을 수행할 수 있습니다. 그런데 암묵지는 그런 형식으로 변환되기가 극도로 어렵습니다.

그의 표현이 인상적입니다. "모든 단어 뒤에는 그 단어에 의미를 부여하는 암묵지의 깊은 우물이 있다. 단어는 의미의 상징적 표현일 뿐, 의미 그 자체가 아니다. 챗GPT, 클로드, 제미나이 같은 대규모 언어모델은 단어를 조작할 뿐이며, 자신이 말하고 있는 것의 의미를 알거나 이해할 수 없다."

더 근본적인 문제는, 과학자들이 암묵지가 인간 안에서 어떻게 작동하는지조차 제대로 모른다는 점입니다. "우리가 어떻게 암묵지를 품고 있는지는 대체로 미스터리다. 우리가 아는 건 그것이 체화되어 있다는 사실뿐이다. 그것을 드러내기 위해 우리 몸에서 무엇을 관찰하고 측정해야 할지조차 알지 못한다."

맥락은 무한히 거슬러 올라간다

데닝은 '맥락'의 중요성도 강조합니다. 같은 문장이라도 화자가 진지한지, 비꼬는지, 화가 났는지, 장난스러운지에 따라 전혀 다른 의미가 됩니다. 언제 농담을 해야 할지, 언제 배려를 보여야 할지, 상대가 말하지 않고 남겨둔 것을 어떻게 해석해야 할지도 맥락이 결정합니다.

그리고 이 맥락은 끝이 없습니다. "현재 맥락의 어떤 전제가 어디서 왔는지 파고들면, 그것이 이전 맥락에서 벌어진 이전 대화들 위에 놓여 있음을 발견하게 된다. 그리고 그 각각은 또다시 더 이전의 대화와 맥락 위에 놓여 있다. 이 패턴은 끝이 없고 프랙탈적이다."

"모델을 키운다고 해결되지 않는다"

문화 역시 같은 맥락의 도전입니다. 가치관, 사회 규범, 판단, 역사, 공동체, 분위기, 권력이나 돌봄이 얽힌 관계까지 모두 포함되죠.

데닝은 모델을 더 크게 만드는 것으로는 이 문제가 해결되지 않는다고 단언합니다. "점점 더 큰 신경망으로 LLM의 규모를 키운다고 해서, 우리가 문화라고 부르는 체화된 인간 지식을 습득하게 되지는 않는다. LLM은 튜링 테스트의 목표, 즉 인간의 사고와 구별할 수 없는 기계 사고를 보여준다는 목표에 도달하지 못할 것이다."

"우리는 건널 수 없는 골짜기를 사이에 둔 외계인이다"

데닝이 그리는 최종 그림은 인간과 기계 사이의 '상호 몰이해'입니다. 인공신경망은 나름의 기계적 암묵지를 발달시킬 수 있지만, 인간은 그것을 이해하지 못할 수 있다는 겁니다.

"기계는 우리의 암묵지를 읽을 수 없고, 우리는 그들의 것을 읽을 수 없다. 우리는 건널 수 없는 골짜기를 사이에 둔 외계인들이다."

진짜 위험은 초지능이 아니다

이 지점에서 데닝의 논의는 AI 안전 문제로 이어집니다. 기계가 인간의 지시 뒤에 깔린 말해지지 않은 맥락을 이해하지 못한다면, 기계의 행동을 인간의 목표에 안정적으로 정렬시키는 일 자체가 불가능할 수 있다는 겁니다.

그가 보는 가장 임박한 위험은 인류를 뛰어넘는 초지능 기계가 아닙니다. 오히려 인간 수준에는 못 미치지만 강력하고 예측 불가능하며 잠재적으로 해로운 방식으로 작동하는, 덜 똑똑한 시스템들의 네트워크입니다.

"AI 자동화를 통해 에이전트적 기계 네트워크는 인간의 일반지능 수준에는 도달하지 못하지만 인간에게 심각한 문제를 일으킬 만큼은 충분히 유능한, 자기 나름의 기계 지능을 발달시킬 가능성이 크다. 이 위협은 초지능 기계의 지배보다 더 크다."

그리고 그는 이렇게 마무리합니다. "기계 지능은 우리와 다른 관심사를 갖고 있으며, 우리를 신경 쓰는 것처럼 보이지 않는다. 그 사고방식과 문제 해결 방식은 우리에게 낯설다. 우리는 아직 이 기계들과 안전하게 살아가는 법을 알지 못한다."

---

물론 이 주장이 학계의 정설은 아닙니다. 암묵지가 정말 원리적으로 인코딩 불가능한 것인지, 아니면 아직 방법을 못 찾은 것뿐인지는 여전히 열린 논쟁입니다. 체화된 인지를 중시하는 로보틱스 진영은 신체를 가진 시스템이라면 다른 결과가 나올 수 있다고 반박하기도 하고요.

다만 데닝의 문제 제기가 짚는 지점만큼은 곱씹어볼 만합니다. 우리가 지능을 '텍스트를 다루는 능력'과 동일시해온 습관, 그리고 그 습관이 만들어낸 사각지대 말입니다. 어쩌면 진짜 질문은 "기계가 인간처럼 생각할 수 있는가"가 아니라, "우리가 인간의 생각이 무엇인지 제대로 알고는 있는가"인지도 모르겠습니다.

출처: Peter J. Denning, "Turing's Mistake: Escaping the Yoke of Unintelligent Machines"

---

#인공지능 #AGI #암묵지 #튜링테스트 #피터데닝 #대규모언어모델 #AI안전 #인지과학 #앨런튜링 #AI철학