사고의 삼원체계: AI가 인간의 추론을 재편하는 방법과 인지적 항복의 부상

Executive Summary

핵심 요약

01

카너먼의 이중과정 이론(System 1: 직관, System 2: 숙고)을 확장하여 System 3: 인공 인지(AI 기반 외부 추론)를 추가하는 '삼원체계 이론(Tri-System Theory)'을 제안한다.

02

3건의 사전등록 실험(참가자 1,372명, 시행 9,593회)을 통해 '인지적 항복(Cognitive Surrender)' — AI 출력을 비판적 검증 없이 수용하는 현상 — 의 존재를 실증한다.

03

AI가 정확할 때 정답률은 기저선 대비 +25%p 상승했으나, AI가 오류를 범했을 때 오히려 -15%p 하락했다. 이것이 인지적 항복의 행동적 특징이다(Cohen's h = 0.81).

04

AI 사용 시 자신감이 11.7%p 상승했으며, 이는 AI 응답의 절반이 오류임에도 불구하고 나타난 결과다. AI는 정확성과 무관하게 자신감을 부풀린다.

05

시간 압박은 인지적 항복을 악화시키고, 인센티브와 피드백은 이를 완화하지만, 어떤 조건에서도 인지적 항복을 완전히 제거하지는 못했다. AI 신뢰도가 높고 인지 욕구가 낮은 사람일수록 항복에 취약했다.

Author Profiles

저자 프로필

Tri-System Theory

삼원체계 이론: 이중과정을 넘어서

반세기 넘게 인지심리학과 행동경제학의 기초를 형성해온 이중과정 이론(Dual-Process Theory)은 인간 사고를 두 체계로 구분해왔다. 카너먼이 대중화한 이 프레임워크에서 System 1은 빠르고 직관적이며 연상적인 처리를, System 2는 느리고 성찰적이며 규칙 기반의 추론을 담당한다.

그러나 이 이론에는 근본적 한계가 있다. 모든 인지가 생물학적 두뇌 내부에서 일어난다고 전제하는 것이다. 저자들은 이를 '뇌 한정 인지 가정'(Brain-Bound Cognition Assumption)이라 부른다. ChatGPT로 여행 일정을 세우고, 구글 지도를 따라 낯선 길을 걸으며, 데이팅 앱의 알고리즘적 매칭을 수용하는 현대인의 의사결정은 더 이상 순수한 내부 처리가 아니다.

이에 Shaw와 Nave는 삼원체계 이론(Tri-System Theory)을 제안한다. 기존의 두 체계에 System 3: 인공 인지(Artificial Cognition)를 추가하는 것이다. System 3는 인간의 뇌가 아닌 알고리즘 시스템에서 실행되는 외부적, 자동화된, 데이터 기반의 동적 추론이다.

System 3의 네 가지 기초 속성

외부성(External): System 1과 2가 신경적으로 실체화되는 것(in vivo)과 달리, System 3는 인간 신경계 외부(in silico) — 클라우드 기반 모델, 내장 알고리즘, 대규모 머신러닝 시스템 등 — 에 존재한다.

자동성(Automated): 통계적, 규칙 기반, 또는 생성적 알고리즘을 사용해 인지 작업을 수행한다. 패턴 인식, 예측, 요약, 합성 등 System 1과 2 모두에 연관된 기능을 인간의 능력을 초월하는 규모와 속도로 처리한다.

데이터 기반(Data-Driven): 대규모 훈련 데이터와 피드백에 기초해 출력을 생성한다. 성능과 정확도는 기저의 데이터 분포를 반영하며, 그 결함과 편향도 함께 상속한다.

동적 상호작용(Dynamic): 고립적으로 기능하지 않는다. 인간과 환경의 입력에 실시간으로 반응하며, 이 삼자적 상호작용은 강화된 하이브리드 추론, 사후 정당화, 또는 수동적 수용이라는 새로운 형태의 인지를 가능하게 한다.

속성	System 1 (직관)	System 2 (숙고)	System 3 (인공)
기원	인간 (직관적/연상적)	인간 (분석적/성찰적)	인공 (알고리즘적/통계적)
처리 속도	빠름	느림	빠름 / 가변적
인지 노력	낮음	높음	없음 / 가변적
정확도	편향에 취약	규범적이나 노력 필요	구조화된 영역에서 높음; 개방형 과제에서 취약
감정 입력	감정 주도	감정 조절	감정 중립
정당화 방식	경험적 / 사후적	합리화, 명시적	데이터 기반, 외부 생성

Cognitive Surrender

인지적 항복: 인간-AI 추론의 새로운 양상

AI 시스템이 인간의 인지에 점점 더 깊이 관여함에 따라, 전통적인 인지적 오프로딩(Cognitive Offloading)이나 자동화 편향(Automation Bias)으로는 설명할 수 없는 새로운 현상이 등장한다. 저자들은 이를 인지적 항복(Cognitive Surrender)이라 정의한다.

인지적 항복이란 System 3의 출력이 유창하고 자신감 있게, 또는 최소한의 마찰로 전달될 때, 판단과 노력과 책임을 System 3에 양도하려는 행동적·동기적 경향이다. 이는 단순히 외부 도구를 활용하는 것(인지적 오프로딩)과 근본적으로 다르다.

인지적 오프로딩 vs. 인지적 항복

인지적 오프로딩은 전략적이고 과제 특정적이다. GPS를 이용한 내비게이션이나 계산기 사용처럼, 자신의 추론을 돕기 위해 도구에 전략적으로 위임하는 것이다. 내적 추론이 여전히 활성 상태를 유지하며, System 2가 AI의 출력을 통합한다.

인지적 항복은 추론 자체의 비판적 포기다. 사용자는 AI의 응답을 비판적 평가 없이 수용하며, 자신의 추론을 대체한다. System 3이 이 수동적 신뢰로 인해 기본 위치(default position)를 점유하게 되고, 숙고적 처리가 일어나지 않는다.

"우리는 AI를 단순히 사용하는 것이 아니다. 우리는 AI와 함께 사고한다. 그리고 점점 더, AI가 우리를 대신해 사고하는 동안, 우리는 뒤로 물러앉아 그 어느 때보다 높은 자신감을 갖고 동의한다."

— Shaw & Nave (2026), 논문 결론부

삼원체계 하의 인지 경로

저자들은 현대 의사결정의 여섯 가지 인지 경로를 제시한다.

① 직관(Intuition): 자극 → System 1 → 반응. 고전적인 빠른 처리. System 2와 3는 관여하지 않는다.

② 숙고(Deliberation): 자극 → System 1 → 갈등/불확실성 감지 → System 2 → 반응. 성찰적 재고가 작동하는 경로다.

③ 인지적 오프로딩(Cognitive Offloading): 자극 → System 1/2 → System 3(보조) → System 1/2 → 반응. 내적 추론이 활성 상태를 유지하며, System 3가 인지를 확장하거나 보강한다. 전략적 위임이다.

④ 인지적 항복(Cognitive Surrender): 자극 → System 1(간략) → System 3 → System 1(선택적) → 반응. 최소한의 내적 관여. System 3의 답이 자기 것으로 채택되고, 숙고는 일어나지 않는다. 감독 없는 위임이다.

⑤ 재귀적/하이브리드 경로: 검증 후 채택, System 3 기각, 사후 합리화 등 다양한 되먹임과 교정이 포함된 혼합 경로다.

⑥ 자동조종(Autopilot): 자극 → System 3 → 반응. AI 출력을 내적 관여 없이 즉시 채택. 자극이 뇌 경계를 넘지도 않는다. System 1/2 과정이 완전히 우회된다.

Empirical Evidence

실험 결과: 세 가지 연구

세 실험 모두 인지반사검사(Cognitive Reflection Test, CRT)의 수정 버전을 사용했다. CRT는 직관적(하지만 틀린) 답과 숙고적(정확한) 답을 구분하도록 설계된 검증된 추론 과제다. 핵심적으로, AI 보조 조건에서 AI의 정확도를 피험자 내(within-subjects)로 조작했다. 숨겨진 시드 프롬프트를 통해 AI가 정확한 답(AI-정확)을 주거나, 자신감 있게 직관적 오류(AI-결함)를 제시하도록 했다.

N = 359명. 피험자 간 설계로 두뇌 단독(Brain-Only) 조건과 AI 보조(AI-Assisted) 조건을 비교. AI 보조 조건 내에서 AI-정확/AI-결함 시행을 피험자 내로 무선 배정.

71% AI-정확 시행
정답률

46% 두뇌 단독
기저 정답률

31% AI-결함 시행
정답률

핵심 수치

AI 챗봇 사용률 ~53%

AI 조언 수용률 (AI-정확 시행) 92.7%

AI 조언 수용률 (AI-결함 시행) 79.8%

인지적 항복 효과 크기 (Cohen's h) 0.81

AI 접근 시 자신감 상승 +11.7%p

결함 있는 AI 추천을 채팅으로 받은 경우에도 참가자의 약 80%가 그 답을 그대로 따랐다. AI가 정확할 때 정답률은 기저선보다 25%p 높았지만, AI가 오류를 범했을 때는 오히려 15%p 낮아졌다. AI 응답의 절반이 오류임에도 불구하고 자신감은 11.7%p 상승했다. 이것이 인지적 항복의 행동적 특징이다.

N = 485명. 모든 참가자에게 System 3 접근 권한 부여. 시간 압박 조건(문항당 30초)과 통제 조건(무제한)으로 피험자 간 배정.

시간 압박은 전통적으로 System 2 숙고를 억제하고 System 1 의존을 높이는 것으로 알려져 있다. 이 연구에서도 두뇌 단독 시행에서 시간 압박 시 정답률이 47%에서 33%로 하락하여 고전적 이중과정 효과를 재현했다.

주목할 점은 AI를 자주 사용한 참가자(AI-Users) 집단이다. AI가 정확할 때, 시간 압박에도 불구하고 이 집단의 정답률은 71.3%로 전체 조건 중 최고치를 기록했다. 반면 AI가 결함을 보였을 때 정답률은 12.1%로 급락했다. System 3는 정확할 때 시간 압박의 비용을 완충하지만, 결함이 있을 때는 상황과 무관하게 정확도를 떨어뜨린다.

N = 450명. 인센티브 + 피드백 조건(정답당 $0.20 보상 + 즉시 정오 피드백)과 통제 조건으로 피험자 간 배정.

인센티브와 항목별 피드백은 인지적 항복을 가장 효과적으로 줄이는 조건이었다. AI-결함 시행에서 기각률(잘못된 AI 조언 거부)이 통제 조건 20%에서 인센티브 + 피드백 조건 42.3%로 두 배 이상 증가했다. 정답률 역시 AI-결함 시행에서 30.7%에서 45.5%로 개선되었다.

그러나 인지적 항복이 사라지지는 않았다. 인센티브 + 피드백 조건에서도 AI-정확(81.0%)과 AI-결함(45.5%) 간의 정답률 격차는 여전히 약 35%p에 달했다. 이는 동기부여와 실시간 오류 신호가 System 2를 재활성화할 수는 있지만, 인지적 항복이라는 삼자 인지 생태계의 본질적 역학은 지속됨을 보여준다.

개인차: 누가 인지적 항복에 취약한가

세 연구를 종합한 시행 수준 분석에서 뚜렷한 개인차 패턴이 드러났다.

인지적 항복의 위험 요인과 보호 요인

AI 신뢰도(Trust in AI) 높음 취약 ↑ (OR = 2.81)

인지 욕구(NFC) 높음 보호 ↑ (OR = 0.83)

유동 지능(Fluid IQ) 높음 보호 ↑ (OR = 0.69)

AI에 대한 신뢰가 높은 참가자들은 AI를 더 자주 사용하고, 결함 있는 AI 추천도 더 높은 비율로 따랐으며, AI-결함 시행에서의 정확도가 유의하게 낮았다. 반대로, 인지 욕구(사고를 즐기는 경향)가 높거나 유동 지능이 높은 참가자들은 결함 있는 AI 출력을 더 잘 간파하고 기각했다. 흥미롭게도, 유동 지능은 AI 사용 여부 자체(AI-Users vs. Independents)와는 관련이 없었지만, 사용 시 오류를 감지하는 능력과는 강하게 관련되었다.

Implications

시사점과 함의

이론적 함의

삼원체계 이론은 전통적 이중과정 프레임워크에 대한 구조적 수정을 제안한다. 이제 추론이 빠른지 느린지, 휴리스틱적인지 분석적인지를 묻는 것만으로는 불충분하다. 핵심 질문은 그 판단이 개인의 마음에서 형성되었는지, 인공 시스템의 도움으로 형성되었는지, 아니면 System 3에 의해 개인을 대신하여 형성되었는지이다. 이 구분은 주체성(agency), 자신감, 그리고 인식적 책임(epistemic responsibility)에 중대한 함의를 갖는다.

사회적 함의

금융, 의료, 교육, 전자상거래 등 다양한 영역에서 AI가 운영 인프라로 자리잡는 현실에서, 이 연구 결과의 의미는 무겁다. 의료 분류, 법적 의사결정 지원, 재무 자문 등 고위험 영역에서 System 3에 대한 비판적 검증 없는 수용은 심각한 해악과 개인적 책임의 공백을 초래할 수 있다.

저자들은 이것을 경보가 아닌 설계와 교육의 과제로 접근한다. 피드백을 제공하고 인센티브를 정렬하는 것이 필요할 때 System 2를 재활성화하는 데 도움이 될 수 있으며, AI 출력에 신뢰도 점수, 불확실성 지표, 투명한 설명 등을 동반하는 것이 사려 깊은 의사결정을 촉진하는 가벼운 단서가 될 수 있다.

설계 및 정책 제안

효과적인 AI 설계는 완전 자동화보다는 보정된 협업(Calibrated Collaboration)을 지향해야 한다. System 3가 내적 인지를 강화하고 협력하는 방식이다. 구체적으로 사용자의 자율성 대 지원 선호를 반영하는 맞춤형 모드, 불확실성을 신호하는 적응적 넛지, 영역 특화 주의 필터, 맥락에 따라 인지적 요구를 동적으로 조절하는 인터페이스 등이 제시되었다.

정책적으로는 디지털 리터러시 교육이 새로운 중요성을 갖는다. '직감을 믿어라'가 System 1 직관에 판단을 기울이게 하듯, '데이터를 믿어라'는 사람들을 System 3 쪽으로 기울게 할 수 있다. AI 추천의 신뢰성 — 근거가 있는지, 확률적인지, 불확실한지 — 을 이해하고 표시하는 것이 System 3 사용의 전략적 조절을 돕는다.

Glossary

핵심 키워드 · 용어

삼원체계 이론
Tri-System Theory

System 1(직관), System 2(숙고)에 System 3(인공 인지)를 추가하여 AI 시대의 인간 인지를 설명하는 새로운 인지 프레임워크

인지적 항복
Cognitive Surrender

AI 출력을 비판적 검증 없이 수용하며, 내적 숙고를 포기하고 AI의 판단을 자신의 것으로 채택하는 행동적·동기적 경향

인지적 오프로딩
Cognitive Offloading

자신의 추론을 돕기 위해 외부 도구에 전략적으로 위임하는 것. 내적 추론이 활성 상태를 유지한다는 점에서 항복과 구별됨

인지반사검사
CRT

직관적(오답) 반응과 숙고적(정답) 반응을 구분하도록 설계된 인지심리학 표준 검사. 이 연구의 핵심 과제

뇌 한정 인지 가정
Brain-Bound Cognition

모든 인지가 생물학적 두뇌 내부에서 일어난다는 이중과정 이론의 암묵적 전제. 삼원체계 이론이 극복하고자 하는 한계

인지 욕구
Need for Cognition

노력이 필요한 인지 활동에 참여하고 즐기려는 안정적 개인차. 높을수록 System 2를 활성화하고 인지적 항복에 저항하는 경향

사고 프로필
Thinking Profiles

System 3 사용 빈도에 따라 구분한 참가자 유형. AI-Users(2회 이상 사용)와 Independents(1회 이하 사용)

자동조종
Autopilot

자극이 뇌 경계를 넘지 않고 System 3에서 곧바로 반응이 생성되는 경로. 내적 인지가 완전히 우회됨

보정된 협업
Calibrated Collaboration

System 3가 내적 인지를 대체하지 않고 강화·협력하도록 설계하는 AI 인터페이스 방향. 저자들의 정책 제안 핵심

Fact Check

팩트체크

✓ 정확

논문 주장: 이중과정 이론은 반세기 넘게 인지심리학과 행동경제학의 기초 프레임워크로 기능해왔다.

Kahneman & Tversky의 초기 연구는 1970년대, Stanovich & West의 System 1/2 명명은 2000년, Kahneman의 대중서 『생각에 관한 생각(Thinking, Fast and Slow)』은 2011년 출간이다. 약 50년 이상의 역사는 정확한 진술이다.

✓ 정확

논문 주장: 세 실험 모두 사전등록(preregistered)되었으며, 자료와 코드북이 Open Science Framework에 공개되어 있다.

SSRN 페이지에서 확인 가능하며, IRB 승인 번호(Protocol #858904)도 명시되어 있다. OSF 사전등록은 행동과학 연구의 투명성 기준을 충족한다.

⚠ 맥락 필요

논문 주장: System 3를 이중과정 이론의 구조적 수정(structural revision)이라 칭함.

이 주장은 신중하게 평가할 필요가 있다. 이중과정 이론 자체가 학계 내에서 상당한 비판을 받아왔으며(Melnikoff & Bargh, 2018; Kruglanski & Gigerenzer, 2011 등), '체계(system)'라는 은유 자체가 논쟁적이다. 저자들 스스로도 이중과정 이론이 "단순하고 비판에서 자유롭지 않다"고 인정하고 있다. System 3를 별도의 '인지 체계'로 위치시키는 것이 적절한지, 기존 자동화 편향/인지적 오프로딩 개념의 확장으로 충분한지는 후속 학술 논쟁의 대상이다.

⚠ 맥락 필요

논문 한계: CRT라는 특정 유형의 추론 과제만 사용. 일상적 의사결정, 도덕 판단, 확률 추론 등 다른 인지 영역으로의 일반화가 필요.

저자들이 스스로 인정한 한계. CRT는 System 1의 '직관적 오류 유인'이 설계에 내장된 특수한 과제다. 자연스러운 의사결정 환경에서 AI가 이토록 체계적으로 '자신감 있는 오류'를 제시하는 상황은 상대적으로 드물 수 있다. 실험실 밖에서의 인지적 항복 양상은 다를 가능성이 있다.

Claude Insight

Claude 인사이트

이 논문이 포착한 것 — 그리고 놓친 것

Shaw와 Nave의 연구는 시의적절하고 방법론적으로 견고하다. 사전등록된 세 실험에서 일관된 패턴을 보여주며, AI 시대의 인지를 위한 새로운 어휘('인지적 항복', '삼자 인지 생태계')를 제공한다는 점에서 학술적 기여가 크다. 그러나 몇 가지 중요한 관점이 보완될 필요가 있다.

1. '자신감 있는 오류'라는 실험 설계의 특수성

이 실험에서 AI는 의도적으로 "자신감 있게" 틀린 답을 제시하도록 설계되었다. 이는 인지적 항복을 감지하기 위한 영리한 장치지만, 현실의 AI 오류 패턴과는 다르다. 실제 LLM의 오류는 종종 미묘하고 부분적이며, 자기 교정적이다. ChatGPT가 "제가 틀렸을 수 있습니다"라고 언급하는 경우와, 이 실험처럼 확고한 자신감으로 CRT의 직관적 오답을 제시하는 경우는 질적으로 다른 상황이다. 따라서 인지적 항복의 현실세계 양상은 이 연구가 측정한 것보다 더 복잡하고, 어쩌면 더 만연할 수 있다 — 왜냐하면 미묘한 오류는 감지가 더 어렵기 때문이다.

2. 인지적 항복은 정말 '새로운' 현상인가

비판적으로 읽으면, 인지적 항복이 기존 자동화 편향(Automation Bias), 권위 편향(Authority Bias), 또는 노력 최소화 원칙과 얼마나 구별되는지 의문이 생긴다. 저자들은 개념적 구분을 시도하지만, 경험적으로 인지적 항복이 기존 개념들로 환원 불가능함을 보여주는 증거는 아직 충분하지 않을 수 있다. 이것은 '기존 현상의 새 이름'인가, 아니면 '질적으로 새로운 인지 역학'인가? 이 질문에 대한 답은 더 세밀한 과정 측정(프로세스 트레이싱, 안구 추적, 뇌 영상 등)이 필요하다.

3. 반복 노출의 차원이 빠져 있다

이 연구는 단일 세션의 스냅샷이다. 현실에서 사람들은 AI와 반복적으로 상호작용하며, 그 과정에서 신뢰를 보정하거나 의존을 심화한다. '알고리즘 혐오(Algorithm Aversion)' 연구가 보여주듯, AI의 오류를 목격한 후 사용을 극적으로 줄이는 경향도 존재한다. 인지적 항복이 반복 노출에서 어떻게 진화하는지 — 심화되는지, 보정되는지, 아니면 영역에 따라 분화하는지 — 는 후속 연구의 핵심 과제다.

4. 가장 불편한 질문: 항복이 '합리적'인 경우

저자들도 인정하듯, 인지적 항복이 항상 비합리적인 것은 아니다. 통계적으로 우월한 시스템에 인지를 양도하는 것은 많은 영역에서 적응적이거나 최적의 전략일 수 있다. 문제는 사용자가 언제, 왜 양도했는지를 모를 때, 그리고 인간과 기계 주체성의 경계가 흐려질 때 발생한다. 이것은 인지과학의 문제이면서 동시에 철학적·법적 문제다 — '누구의 판단인가?'라는 책임 귀속의 문제가 된다.

결론적으로

이 논문의 가장 큰 가치는 현상의 발견이 아니라 프레이밍에 있다. 우리 대부분은 이미 일상에서 인지적 항복을 경험하고 있다. 이 논문은 그 경험에 이름과 구조를 부여하고, 측정 가능하게 만들었다. 그것이 사회적 개입의 시작점이 된다는 점에서, 이 연구는 첫 번째 돌을 놓은 것이다.