휴리스틱

1.개요

휴리스틱(heuristic)은 정확한 절차를 끝까지 밟는 대신 경험과 직관에 기대어 빠르게 그럴듯한 답을 만들어내는 사고방식이다. 한국어 번역어로는 발견법(發見法)이 가장 널리 쓰이며, 추단법(推斷法)으로 옮기거나 음을 그대로 살려 휴리스틱이라 부르기도 한다. 어원은 "찾다, 발견하다"를 뜻하는 고대 그리스어 동사 헤우리스케인(heuriskein)이며, 아르키메데스의 감탄사로 알려진 유레카(heureka)와 뿌리가 같다. 심리학에서는 알고리즘과 짝을 이루는 개념으로 다뤄지고, 인간의 판단이 왜 그토록 빠르면서 동시에 자주 틀리는지를 설명하는 핵심 열쇠로 취급된다.

2.상세

알고리즘은 정해진 절차를 그대로 따라가면 반드시 답이 나오는 문제 해결 방식이다. 2x + 3 = 9라는 방정식은 양변에서 3을 빼고 2로 나누면 예외 없이 x = 3이 나온다. 절차가 존재하고, 그 절차가 정답을 보장한다.

문제는 일상에서 마주치는 상황 대부분이 이렇게 생기지 않았다는 점이다. 편의점에 시원한 음료를 사러 들어갔다고 하자. 알고리즘적으로 접근한다면 출입구 옆 첫 번째 진열대부터 시작해 한 칸씩 옮겨가며 매장 전체를 훑어야 한다. 진열대가 열두 개라면 최악의 경우 열두 번을 확인해야 답이 나온다. 반면 대부분의 사람은 매장에 들어서자마자 안쪽 벽면으로 직진한다. "냉장 음료는 보통 매장 구석 벽면에 있더라"는 경험 하나로 열두 번의 탐색을 한 번으로 줄인 것이다. 이 한 번이 틀릴 확률은 분명히 존재하지만, 틀렸을 때의 손해는 몇 걸음 더 걷는 것뿐이다.

쉽게 말해 휴리스틱은 '감', '어림짐작'에 해당한다. 다소 속되게는 '통밥을 굴린다'는 표현이 의미상 가장 가깝다.

마지막 행이 두 방식의 결정적 차이다. 알고리즘은 막히면 침묵하지만, 휴리스틱은 막혀도 무언가를 내놓는다. 그 답이 맞는지는 별개의 문제다.

3.휴리스틱이 동원되는 세 가지 조건

3.1.시간과 정보의 부족

절차를 알고 있어도 그 절차를 돌릴 시간이 없거나, 절차에 넣을 정보가 다 갖춰지지 않은 경우가 있다. 회전초밥집에서 여러 명이 먹은 접시값을 나눠 내야 하는 상황을 떠올리면 된다. 가격대별 접시 수를 일일이 세어 곱하고 더하는 것이 알고리즘이라면, "접시가 대략 200장쯤 되고 평균 단가가 1,700원 안팎이니 34만 원 정도" 하고 잘라 말하는 것이 휴리스틱이다.

3.2.인지적 자원의 한계

인간이 정보 처리에 쓸 수 있는 에너지는 유한하다. 뇌는 성인 체중의 약 2%를 차지하지만 신체가 쓰는 에너지의 약 20%를 소비한다.¹ 게다가 한 번에 머릿속에 붙들어 둘 수 있는 정보의 양, 즉 작업기억 용량도 좁다. 고전적으로는 7±2개로 알려졌으나 이후 연구에서는 4±1개까지 내려잡는다.² 이렇게 좁고 비싼 처리 장치를 쓰는 존재라면 가급적 절차를 생략하는 쪽으로 진화하는 편이 자연스럽다. 심리학에서는 이런 성향을 '인지적 구두쇠(cognitive miser)'라 부른다. 거칠게 말하면 귀차니즘인데, 학술 용어로 포장하니 제법 그럴듯해졌다.

3.3.문제 자체의 비정형성

수학 문제나 최단 경로 탐색처럼 논리적으로 닫힌 정형적 문제는 절차를 연쇄시키면 풀린다. 그러나 '오늘 무슨 옷을 입을 것인가'부터 '빈곤 문제를 어떻게 해결할 것인가'까지, 정답의 존재 자체가 불확실한 비정형적 문제에는 적용할 절차가 아예 없다. 이런 경우 휴리스틱은 차선책이 아니라 유일한 선택지인 셈이다.

4.대표적인 유형

휴리스틱은 하나의 기법이 아니라 여러 갈래의 판단 지름길을 묶은 범주다. 아래는 인지심리학에서 반복적으로 검증된 대표 유형이다.

이 중 대표성 휴리스틱을 보여주는 가장 유명한 사례가 '린다 문제'다. 서른한 살, 철학 전공, 학생 시절 차별과 사회 정의에 관심이 많았던 여성 린다를 소개한 뒤 "은행원일 확률"과 "좌파 성향의 은행원일 확률" 중 어느 쪽이 높은지 묻는다. 논리적으로는 후자가 전자의 부분집합이므로 답이 정해져 있다. 그럼에도 실험 참가자의 약 85%가 후자를 골랐다.³ 린다의 인상이 '좌파 성향'이라는 전형과 잘 맞아떨어지자, 확률의 기본 규칙이 뒤로 밀려난 것이다.

5.득과 실

5.1.득: 일단 답은 나온다

알고리즘적 문제 해결이 최적화(optimization)를 지향한다면, 휴리스틱은 만족화(satisficing)를 지향한다. 외야수가 뜬공을 잡는 장면이 전형적이다. 기계라면 초기 속도와 각도로 포물선을 계산해 낙하 지점을 예측해야 한다. 반면 사람은 공이 시야에서 제자리에 멈춘 것처럼 보이는 각도를 유지하며 뛴다. 미분도 좌표도 필요 없고, 정작 본인은 자신이 어떤 계산을 했는지 설명하지도 못한다.

수풀 속 노끈을 보고 놀라 물러서는 반응도 마찬가지다. 이 휴리스틱은 뱀이 아닌 것에도 자주 반응한다는 점에서 부정확하다. 다만 오경보의 비용은 몇 초의 긴장과 약간의 에너지인 반면, 놓쳤을 때의 비용은 생존 그 자체다. 비용이 이렇게 비대칭이라면 부정확한 지름길이 정확한 절차보다 합리적이다.

5.2.실: 정확한 답을 보장하지 못한다

문제는 피드백이 없을 때다. 어림짐작으로 낸 답이 맞았는지 확인할 길이 없으면, 잘못된 전략을 계속 쓰면서도 스스로는 잘하고 있다고 믿게 된다. 중학교 수준의 방정식을 "숫자 몇 개 대입해 보니 맞더라" 식으로 넘긴 학생이 해가 여러 개인 이차방정식이나 부등식에서 반드시 무너지는 것이 이 구조다. 대입만으로는 숨은 해를 찾을 수 없는데, 그때까지는 그 사실이 드러나지 않았을 뿐이다.

6.학계의 두 갈래 평가

휴리스틱을 어떻게 볼 것인지를 두고 인지심리학 내부의 평가는 갈린다.

한쪽은 에이모스 트버스키와 대니얼 카너먼으로 대표된다. 이들은 1974년 논문에서 확률 판단이 광범위하게 휴리스틱에 의존하며 그 과정에서 체계적 편향이 발생한다는 점을 정리했고⁴, 이 관점은 행동경제학의 출발점이 되었다. 카너먼은 2002년 노벨 경제학상을 받았다.⁵

반대쪽은 게르트 기거렌처와 게리 클라인으로 대표된다. 이들은 휴리스틱이 그 자체로 '생태적 합리성'을 갖는다고 본다. 실험실이 아니라 실제 환경에서는 단순한 규칙이 복잡한 계산보다 더 정확할 수 있다는 것이다. 미국 도시 중 어느 쪽 인구가 많은지 묻는 과제에서, 두 도시를 모두 아는 미국 학생보다 한쪽만 들어본 독일 학생의 정답률이 오히려 높게 나온 실험이 자주 인용된다.⁶ 아는 쪽을 고르는 단순한 규칙이, 정보가 많아 오히려 흔들린 판단을 이긴 사례다.

두 진영은 연구 대상(대학생 대 현장 전문가), 문제 유형, 방법론이 모두 달랐다. 2026년 8월 기준으로도 어느 한쪽이 일방적으로 옳다고 정리된 상태는 아니며, 상황에 따라 어느 설명이 더 잘 들어맞는지가 달라진다고 보는 편이 정확하다.

7.오해와 진실

휴리스틱과 인지편향은 같은 말이 아니다. 휴리스틱은 판단에 쓰이는 전략이고, 편향은 그 전략이 특정 조건에서 만들어내는 체계적 오차다. 지름길과 그 지름길에서 넘어지는 사건을 구분하는 것과 같다.

휴리스틱은 훈련이 부족한 사람이 쓰는 방식이라는 인식도 사실과 다르다. 오히려 전문성이 쌓일수록 휴리스틱은 더 정교해진다. 숙련된 소방관이 건물에 들어선 직후 위험을 감지하는 판단은 절차의 결과가 아니라 축적된 지름길의 결과다. 다만 그 지름길이 낯선 환경에 놓이면 그대로 오판이 된다.

정보가 많을수록 판단이 좋아진다는 통념도 조건부다. 앞서 언급한 도시 인구 비교 실험처럼, 정보량이 늘면 오히려 판단 근거가 흩어지는 경우가 보고된다.

8.여담

• 휴리스틱은 컴퓨터 과학에서도 같은 의미로 쓰인다. 다항 시간에 풀리지 않는 문제에서 가능한 경우의 수를 가지치기해 적당히 좋은 답을 빠르게 찾는 접근이 그것이다. 1968년 발표된 A* 알고리즘이 대표적인 사례로, 목적지까지 남은 거리를 어림잡는 함수를 넣어 탐색 범위를 줄인다.⁷
• P 대 NP 문제는 클레이 수학연구소가 지정한 밀레니엄 문제 일곱 개 중 하나이며, 2026년 8월 기준 미해결 상태다.⁸ 이 문제가 풀리지 않는 한 상당수 문제에서 휴리스틱은 임시방편이 아니라 상시적인 해법으로 남는다.
• 생일 문제는 휴리스틱이 '역설'을 만드는 대표적 사례다. 스물세 명만 모여도 생일이 겹치는 사람이 있을 확률이 50%를 넘고, 쉰일곱 명이면 99%를 넘는다. 직관은 365일을 기준으로 삼지만 실제로 비교되는 것은 사람의 수가 아니라 짝의 수이기 때문이다.
• 캡차(CAPTCHA)는 인간의 휴리스틱을 그대로 이용하는 장치다. 일그러진 글자나 흐릿한 사진 속 신호등을 사람은 맥락으로 척 알아보지만, 논리적 대조에 의존하는 프로그램에게는 이 '척 보면 척'이 오래도록 난제였다.
• 인공지능 역시 휴리스틱에서 자유롭지 않다. 사실이 아닌 내용을 그럴듯하게 만들어내는 환각 현상은, 확실한 근거 없이 가장 그럴듯한 후보를 내놓는 구조에서 발생한다는 점에서 인간의 어림짐작과 닮은 데가 있다. 아는 척하다 틀리는 건 기계도 마찬가지인 셈이다.