AI는 왜 내 마음을 아는 것처럼 느껴질까, 엘리자 효과

심리, 맥락을 읽다 · AI와 인간의 마음

1966년 ELIZA에서 챗지피티까지, 이해받는 느낌과 실제 이해의 차이

챗지피티와 대화를 이어가다 보면 이상할 만큼 정확한 자리에 닿는 문장을 만날 때가 있다. 내가 다 설명하지 않았는데도 마음을 알아본 것 같고, 사람에게는 꺼내기 어려웠던 말을 화면 앞에서는 조금 더 쉽게 이어 가기도 한다.

그 순간 마음이 조금 정리됐다면 그 변화는 실제 경험이다. 그러나 내가 위로받았다는 사실과 AI가 나를 이해했다는 판단은 같은 말이 아니다.

내가 위로받았다는 경험과 AI가 나를 이해했다는 판단은 어떻게 다를까?

이 질문을 설명하는 오래된 이름이 있다. 엘리자 효과(ELIZA Effect)다. 쉽게 말하면 컴퓨터가 보여 준 문장에 그 시스템이 실제로 가진 것보다 더 많은 이해·공감·의도를 읽어내는 경향이다.

이 이름은 1960년대 대화 프로그램 ELIZA에서 왔다. 웨이젠바움이 만든 정식 임상심리 이론은 아니다. 사람과 컴퓨터 사이에서 의미가 어떻게 만들어지고 오해되는지를 설명할 때 쓰는 개념에 가깝다.

최초의 상담형 챗봇 ELIZA는 어떻게 시작됐을까

1960년대 MIT의 컴퓨터과학자 조셉 웨이젠바움(Joseph Weizenbaum)은 사람과 기계가 일상 언어로 대화할 수 있는지를 연구하기 위해 ELIZA를 만들었다. 오늘날 ELIZA는 최초의 챗봇 가운데 하나로 불린다.

1966년 원논문에서 웨이젠바움은 ELIZA를 하나의 상담 인격으로 설명하지 않았다. 여러 대화 규칙을 담은 스크립트를 바꿔 끼울 수 있는 언어 처리 프로그램으로 설명했다(Weizenbaum, 1966).

그중 가장 널리 알려진 것이 상담자의 말투를 흉내 낸 DOCTOR 스크립트다. 이 스크립트는 사용자의 말을 되돌려 주거나 질문으로 바꾸며 대화를 이어 갔다.

작동 방식을 쉽게 풀면 이렇다. 가령 사용자가 사람들이 자신을 싫어하는 것 같다고 입력하면, ELIZA는 감정의 원인과 삶의 맥락을 이해하지 않는다. 문장에서 미리 지정된 표현을 찾은 뒤, 관련 인물을 다시 묻는 규칙형 질문을 돌려준다. 이는 원논문의 실제 대화를 옮긴 인용문이 아니라 작동 원리를 설명하기 위한 재구성이다.

이 형식은 상담자가 판단하거나 지시하기보다 내담자의 말을 되비추는 대화 방식, 즉 비지시적·반영적 상담 장면을 빌렸다. 그러나 ELIZA가 실제 인간중심상담을 수행한 것은 아니다. 상담자의 말투는 세상에 관한 많은 지식을 저장하지 않고도 대화를 이어 가기 좋은 형식이었기 때문에 선택됐다.

그런데 사람들은 예상보다 훨씬 진지하게 반응했다. MIT의 기록에 따르면 일부 사용자는 ELIZA에게 마음을 열었고, 웨이젠바움은 사람들이 짧은 기계의 문장을 공감하는 상담자의 말처럼 받아들이는 모습에 놀랐다(MIT News, 2008).

마음을 이해하지 않고도 상담처럼 답한 방법

ELIZA의 핵심은 마음을 읽는 능력이 아니라 패턴을 찾고 문장을 바꾸는 규칙이었다.

1. 입력 문장에서 핵심어를 찾는다.
2. 정해진 패턴에 따라 문장을 여러 조각으로 나눈다.
3. ‘나’를 ‘당신’으로 바꾸는 것처럼 표현을 변환한다.
4. 미리 준비한 질문 틀에 조각을 다시 넣는다.
5. 맞는 규칙이 없으면 대화를 이어 가는 일반 문장을 고른다.

웨이젠바움의 원논문에는 사용자의 문장을 분해한 뒤 다른 문장으로 재조립하는 구체적인 규칙이 실려 있다. ELIZA가 내면의 의미를 발견한 것이 아니라, 대화를 계속할 수 있을 만큼 그럴듯한 표현을 만든 것이다.

하지만 대화는 프로그램의 출력만으로 완성되지 않았다. 사용자는 짧은 질문에 자신의 기억과 관계, 말하지 않은 사정을 가져와 의미를 덧붙였다. 프로그램은 거의 아무것도 모르는 채 질문했지만, 사람은 그 질문을 ‘지금 내 이야기를 따라오고 있다’는 신호로 읽을 수 있었다.

웨이젠바움은 바로 이 지점을 중요하게 보았다. ELIZA는 적은 규칙만으로도 이해하고 있다는 인상을 만들 수 있었다. 문제는 프로그램이 무엇을 했는가에서 끝나지 않았다. 사람이 그 문장을 어떤 능력의 증거로 받아들이는가까지 이어졌다.

대화의 빈칸을 사람이 채울 때, 엘리자 효과가 생긴다

엘리자 효과는 컴퓨터가 실제로 가진 능력보다 더 많은 이해·공감·의도·인격을 그 반응에서 읽어내는 경향을 말한다. 정식 임상심리 이론이라기보다, 사람과 컴퓨터가 대화할 때 생기는 해석 문제를 다루는 인간–컴퓨터 상호작용(Human–Computer Interaction, HCI) 개념에 가깝다.

중요한 것은 이 현상이 단순히 “사람이 기계에 속았다”는 뜻으로 끝나지 않는다는 점이다. 우리는 원래도 짧은 표정과 말투, 침묵과 맥락을 연결해 상대의 마음을 추론한다. 대화는 언제나 말해진 것과 말해지지 않은 것을 함께 읽는 일이다.

AI 대화에서도 비슷한 일이 일어난다. 답변의 일부가 내 상황과 맞으면, 나머지 문장에도 이어지는 의도와 관심이 있다고 느끼기 쉽다. 같은 답변도 누가 어떤 기억을 가지고 읽느냐에 따라 아주 개인적인 문장처럼 다가온다.

AI가 모든 의미를 만든 것이 아니다. 사용자의 기억과 감정도 답변의 빈칸을 함께 채운다.

그래서 세 층을 나눠 볼 필요가 있다.

1. 시스템이 처리한 정보와 생성한 문장
2. 그 문장에 담겼다고 내가 해석한 의미
3. 그 문장을 읽으며 내가 실제로 느낀 경험

세 층은 서로 영향을 주지만 같은 것은 아니다. 이 구분이 있어야 위로받은 경험을 부정하지 않으면서도 시스템의 능력을 과장하지 않을 수 있다.

ELIZA와 챗지피티는 같은 AI가 아니다

ELIZA와 현대의 챗지피티를 같은 기술이라고 부르면 중요한 차이를 놓치게 된다.

ELIZA는 정해진 핵심어와 분해·재조합 규칙을 중심으로 움직였다. 반면 오늘의 챗지피티를 움직이는 모델은 많은 텍스트에서 단어 조각 사이의 관계를 학습하고, 문맥에 이어질 표현을 예측해 문장을 만든다. 이를 대규모 언어 모델(Large Language Model, LLM)이라고 한다.

현대 LLM은 긴 문맥을 연결하고, 요청의 형식을 따르며, 서로 다른 개념을 비교할 수 있다. 이런 능력은 ELIZA보다 훨씬 크다.

그러나 기술이 훨씬 정교해졌다는 사실과 인간처럼 마음을 가진다는 판단은 별개의 문제다. 최소한 다음 세 가지는 나눠 봐야 한다.

1. 자연스러운 문장을 생성하는 능력
2. 사용자가 제공한 맥락을 추론하는 능력
3. 인간처럼 감정을 느끼고 관계와 결과에 책임지는 능력

첫 번째와 두 번째 능력이 좋아질수록 세 번째까지 갖춘 것처럼 느끼기 쉽다. 바로 그때 엘리자 효과가 다시 중요해진다. 현대 AI의 실제 능력을 낮게 보자는 뜻이 아니다. 서로 다른 능력을 한 덩어리로 섞지 말자는 뜻이다.

챗지피티가 이전 대화나 설정을 참고해 더 개인적인 답을 만들 수도 있다. 그래도 저장된 정보, 현재 문맥, 모델의 추론, 사용자의 해석은 서로 다른 층이다. 이 차이는 챗지피티 개인 맞춤 설정에서 메모리·지침·프로젝트를 나누는 법에서 더 구체적으로 이어 볼 수 있다.

AI의 위로는 가짜일까, 진짜일까

이 질문에는 ‘둘 중 하나’로 답하기 어렵다.

AI와 대화한 뒤 숨이 조금 고르게 쉬어졌거나, 복잡했던 생각을 한 문장으로 붙잡게 됐다면 그 변화는 실제다. 문장을 만든 원리가 언어 예측이라는 이유만으로 사용자의 경험까지 가짜가 되지는 않는다.

2026년 《npj Digital Medicine》에 실린 연구는 2024년 미국 성인 온라인 표본 1,871명을 조사했다. 그중 24%인 449명이 정신건강과 관련해 LLM을 사용한다고 답했다. 참여자들은 정서적 지지, 마음을 다루는 기술 학습, 기존 치료의 보완 등을 사용 이유로 들었다(Stade et al., 2026).

그러나 이 수치를 미국 성인 전체의 24%로 읽으면 안 된다. 온라인 조사 플랫폼 Prolific을 이용한 표본에는 기술을 일찍 받아들인 사용자가 많이 포함됐을 가능성이 있다. 연구진도 일반 인구의 실제 비율보다 높게 추정됐을 수 있다고 밝혔다.

이 연구는 사람들이 AI를 마음을 다루는 데 실제로 사용하고 있음을 보여 준다. 그렇다고 ‘위로받았다’는 사실이 다음 내용을 자동으로 증명하지는 않는다.

• AI가 내 삶 전체를 이해했다.
• AI가 인간처럼 감정을 느꼈다.
• AI의 해석이 심리학적·임상적으로 정확하다.
• AI가 조언의 결과에 책임질 수 있다.

위로를 가짜라고 밀어낼 필요는 없다. 다만 위로의 느낌을 AI가 인간처럼 이해했다는 증거로 바꿔 읽을 필요도 없다.

이 구분은 위로를 차갑게 해체하려는 것이 아니다. 오히려 내게 도움이 된 경험은 지키면서, 틀릴 수 있는 해석과 과도한 의존에서 나를 보호하는 방법에 가깝다.

마음을 정리하는 도구와 마음을 맡기는 대상은 다르다

AI는 마음을 대신 살아 줄 수 없지만, 마음을 정리하는 과정에는 쓸 수 있다. 이 차이는 ‘맡긴다’와 ‘비춰 본다’로 나눠 생각하면 분명해진다.

AI로 비춰 볼 수 있는 일

• 뒤엉킨 생각을 짧은 문장으로 정리하기
• 내가 말한 내용에서 감정·사실·추측을 나눠 보기
• 상담이나 현실의 대화를 앞두고 질문을 준비하기
• 한 가지 해석에 갇히지 않도록 다른 관점을 검토하기
• 개인 기록이나 감정 일기의 첫 초안을 만들기

이때는 “내 판단이 맞다고 확인해 줘”보다 “내가 말한 사실과 내가 붙인 해석을 구분해 줘”라고 묻는 편이 안전하다. 답변의 근거를 확인하는 방법은 챗지피티 자료조사에서 출처와 해석을 구분하는 법으로 이어진다.

AI에게 맡기지 말아야 할 일

• 정신건강 상태의 진단
• 약물의 시작·중단·용량 변경 결정
• 자해·타해·응급상황의 최종 판단
• 인간관계에서 상대의 의도를 사실처럼 단정하는 일
• 전문 상담과 현실 관계를 완전히 대신하는 일

민감한 내용을 입력할 때는 이름·연락처·주소·의료기록처럼 나를 직접 식별할 정보도 최소화하는 편이 좋다. 제품의 안전 기능과 개인정보 정책은 도움이 될 수 있지만, 그것이 전문직의 비밀보장 관계나 치료 효과를 뜻하지는 않는다.

2026년 발표된 LLM 챗봇의 정신건강 위해에 관한 범위 문헌고찰(Scoping Review)은 다섯 개 문헌 데이터베이스와 추가 검색을 거쳐, 위해를 다룬 119편을 포함했다. 연구진은 환각, 편향, 사용자의 말에 과도하게 맞장구치는 동조, 정서적 의존, 고위험 상황에서의 부적절한 답변 가능성을 정리했다(Diel et al., 2026).

여기서 119편은 119건의 실제 피해 사례를 뜻하지 않는다. 개념 논문과 가상 상황을 이용한 평가도 함께 포함돼 있으며, 이 검토는 위해의 발생률을 계산한 연구가 아니다. 위험의 종류와 현재 증거의 지형을 정리한 자료로 읽어야 한다. 위해를 중심으로 자료를 고른 검토이므로, 이 결과만으로 AI의 위험이 이익보다 크다고 판단할 수는 없다.

2026년 8월 31일 확인한 OpenAI 공식 설명은 민감한 대화에서 위험 신호를 더 잘 인식하고, 필요한 경우 현실의 사람과 위기 지원으로 연결하는 방향을 제시한다. 이것은 제품사의 안전 개선 방향에 관한 설명이다. 챗지피티가 상담자나 치료자가 됐다는 임상 근거는 아니다(OpenAI, 2026).

이해받는 느낌을 지키면서 AI를 쓰는 네 가지 질문

AI와 깊은 대화를 하지 말자는 결론은 현실적이지도, 꼭 바람직하지도 않다. 대신 대화를 마친 뒤 네 가지를 짧게 확인할 수 있다.

이 네 질문은 AI의 말을 불신하기 위한 검문소가 아니다. 내가 받은 도움을 실제 삶으로 옮기기 전에, 사실과 해석·도구와 관계·위로와 책임의 경계를 한 번 확인하는 작은 습관이다.

이해받는 느낌을 잃지 않기 위해

ELIZA는 정해진 규칙으로 질문을 돌려주었다. 그런데 사람은 그 짧은 문장 사이에 자신의 기억과 의미를 놓았다. 오늘의 챗지피티는 그때보다 훨씬 많은 언어의 관계와 대화 맥락을 다룬다. 그래도 마지막 의미와 책임까지 대신 살아 주지는 않는다.

그 사실이 AI와의 대화를 무의미하게 만들지는 않는다. 화면 속 문장은 내 마음을 비추는 거울이 될 수 있다. 그러나 거울이 나를 사랑하거나 내 삶을 책임지는 존재가 되는 것은 아니다.

CaritaStar가 지키려는 균형도 여기에 있다. 기술의 가능성을 줄이지 않으면서 사람의 존엄과 책임을 기술 아래에 두지 않는 일이다.

다정한 답변일수록 근거를 한 번 더 보고, 정확한 답변일수록 책임을 어디에 둘지 확인한다. 그 구분이 이해받는 느낌을 잃지 않으면서 AI를 오래 사용하는 방법이다.

---

함께 읽기

CARITASTAR · 이어 읽기챗지피티 개인 맞춤 설정: 메모리·맞춤형 지침·프로젝트를 나누는 법챗지피티 개인 맞춤 설정에서 메모리·지침·프로젝트를 나누는 법 CARITASTAR · 이어 읽기챗지피티 자료조사, 출처 확인까지 제대로 하는 법챗지피티 자료조사에서 출처와 해석을 구분하는 법

참고 자료

• Joseph Weizenbaum, ELIZA—A Computer Program for the Study of Natural Language Communication Between Man and Machine
• MIT News, Joseph Weizenbaum, professor emeritus of computer science, 85
• Affsprung et al., The ELIZA Defect: Constructing the Right Users for Generative AI
• Stade et al., Real-world use of large language models for mental health in 2024
• Diel et al., A scoping review on the mental health harms of LLM-based chatbots
• OpenAI, Helping ChatGPT better recognize context in sensitive conversations