컴퓨터가 모든 질문에 완벽하게 답한다면, 그 컴퓨터는 자기가 하는 말을 이해하는 걸까요? 철학자 존 설은 아니라고 했고, 그걸 보여 주려고 유명한 방 하나를 만들었어요.

방의 구조
설은 자신이 방 안에 혼자 있다고 상상해요. 그는 중국어를 전혀 몰라요. 밖에서 누군가 문 밑으로 중국어 글자를 넣으면, 영어로 쓰인 규칙서를 보고 어떤 기호를 내보낼지 찾아요.
규칙서가 워낙 잘 만들어져서 그의 답은 원어민과 구별이 안 돼요. 밖에서 보면 방이 중국어를 이해하는 것 같지만, 안에 있는 설은 아무것도 이해하지 못해요.
무엇을 말하려 했을까

설은 프로그램을 실행하는 컴퓨터도 같은 처지라고 주장했어요. 기호를 모양(구문)에 따라 처리할 뿐, 그 뜻(의미)은 모른다는 거예요. 그러니 올바른 프로그램을 돌리는 것만으로는 이해가 생기지 않는다고 봤어요.
그가 겨냥한 건 '강한 인공지능', 곧 제대로 프로그래밍된 컴퓨터는 말 그대로 마음을 가진다는 주장이었어요. 이 논증은 1980년 학술지 『Behavioral and Brain Sciences』에 실린 논문 「마음, 뇌, 프로그램」에 나왔고, 연구자 27명의 논평이 함께 실렸어요.
대표적인 반론
시스템 반론은 설은 일부일 뿐이고, 방과 규칙서와 사람을 합친 시스템 전체는 이해할 수도 있다고 말해요. 로봇 반론은 컴퓨터에 카메라와 팔을 달아 기호를 실제 세계와 연결하면 달라진다고 해요. 설은 두 반론 모두에 답했고, 논쟁은 수십 년째 이어지고 있어요.
자주 묻는 질문
- 중국어 방은 누가 만들었나요?
- 미국 철학자 존 설이 1980년 논문에서 제시했어요.
- 꼭 중국어여야 하나요?
- 아니에요. 그 사람이 모르는 언어면 무엇이든 돼요. 핵심은 기호와 의미의 차이예요.
- AI가 생각할 수 없다는 증명인가요?
- 증명이 아니라 논증이에요. 시스템 반론 등을 들어 반대하는 철학자도 많아요.
참고문헌
- Cole, D. The Chinese Room Argument. Stanford Encyclopedia of Philosophy (rev. 2024). 사고 실험, 설의 1980년 논문, 주요 반론과 이후 논쟁.
- Internet Encyclopedia of Philosophy. Chinese Room Argument. 논증과 반론 개관.